Mozilla Corp., la empresa que está detrás del navegador Firefox, ha anunciado hoy el lanzamiento de una nueva startup centrada en la creación de inteligencia artificial «fiable» llamada Mozilla.ai con una financiación de 30 millones de dólares.
La nueva ola de IA ha cambiado la faz de Internet con una explosión de popularidad en lo que la inteligencia artificial puede hacer. Algunos ejemplos son Stable Diffusion, capaz de convertir simples descripciones en vívidas obras de arte, y el recientemente lanzado GPT-4 de OpenAI LP, capaz de impulsar chatbots que pueden mantener conversaciones similares a las humanas.
La nueva revolución de la IA está impulsada por una tecnología llamada IA generativa, un nuevo tipo de IA capaz de crear nuevos contenidos a partir de indicaciones como texto, imágenes, vídeo y más. Por ejemplo, un usuario puede pedir a una IA generativa que le escriba un poema o un ensayo, un cuadro de un campo de flores al estilo de Van Gogh o un itinerario para unas vacaciones.
Estas innovaciones de la IA han dado lugar a nuevas formas de interactuar con la tecnología que parecen de ciencia ficción, como poder dirigirse directamente al software con lenguaje natural y que éste responda. Se está integrando en muchas tecnologías básicas que la gente utiliza a diario, y con rapidez. Microsoft Corp. y Google LLC lo están incorporando a aplicaciones de productividad como procesadores de texto y hojas de cálculo. Esta semana, Adobe Inc. ha presentado una integración de IA generativa en su software creativo de gráficos y vídeo. Las empresas de consultoría están explorando su uso para ayudar en la investigación de informes jurídicos.
Mark Surman, presidente ejecutivo de Mozilla y responsable de Mozilla.ai, argumentó que a medida que la IA empieza a transformar la sociedad, debemos prestar atención a cómo se construye y cómo la abordamos.
«Esta nueva ola de IA ha generado entusiasmo, pero también una aprensión significativa», dijo Surman en el anuncio. «No sólo nos preguntamos qué es posible y cómo puede beneficiar a la gente. También nos preguntamos qué puede salir mal y cómo podemos afrontarlo». Dos décadas de redes sociales, teléfonos inteligentes y sus consecuencias nos han vuelto recelosos».
A pesar de todo el bombo y platillo y el interés que despierta, la IA presenta algunos inconvenientes potenciales importantes que aparecen en su infancia. Tras su lanzamiento, la implementación de Microsoft de la GPT-3.5 de OpenAI en su chat de Bing podría descarrilar y «alucinar», incluyendo decir mentiras, discutir con los usuarios y proporcionar información errónea. Se ha incitado a modelos de IA a crear malware y correos electrónicos de phishing, y las IA generadoras de imágenes también se han utilizado para crear deepfakes pornográficos de famosos, lo que ha suscitado preocupaciones éticas sobre su uso.
Teniendo en cuenta estas preocupaciones, los desarrolladores de IA han ido incorporando salvaguardas a sus modelos para hacer frente a estos posibles problemas en el futuro. Sin embargo, Mozilla cree que aún queda mucho por hacer.
La nueva empresa recibirá una financiación inicial de 30 millones de dólares de la Fundación Mozilla, la empresa matriz sin ánimo de lucro de Mozilla. Se centrará en crear una IA fiable mediante la creación de una comunidad y un ecosistema de código abierto.
«La visión de Mozilla.ai es facilitar el desarrollo de productos de IA fiables», afirma Surman. «Construiremos cosas y contrataremos/colaboraremos con personas que compartan nuestra visión: IA que tiene agencia, responsabilidad, transparencia y apertura en su núcleo».
La nueva startup comenzará con el desarrollo de herramientas que hagan más transparente la IA generativa y ayuden a construir sistemas de recomendación más «centrados en las personas» que no desinformen ni socaven el bienestar de los usuarios.
Fuente WEB | Editado por CambioDigital OnLine
