La nueva startup de Mozilla construirá una IA “confiable” que beneficie a la humanidad. Si eso te suena familiar, fue la misión fundacional de OpenAI.
la puesta en marcha, Mozilla.aitiene como objetivo crear un ecosistema de IA independiente y de código abierto que aborde las preocupaciones más apremiantes de la sociedad sobre la tecnología que avanza rápidamente.
Mark Surman, presidente de la Fundación Mozilla, escribió en una entrada de blog:
“Esta nueva ola de IA ha generado entusiasmo, pero también una gran aprensión. No solo nos preguntamos ‘¿Qué es posible?’ y ‘¿Cómo pueden beneficiarse las personas?’ También nos preguntamos ‘¿Qué podría salir mal?’ y ‘¿Cómo podemos abordarlo?’ Dos décadas de redes sociales, teléfonos inteligentes y sus consecuencias nos han vuelto desconfiados.
Mozilla ha estado haciendo estas preguntas sobre la IA desde hace un tiempo: dibujando una visión para una IA confiable, movilizando nuestra comunidad para documentar lo que está roto y invertir en startups que están tratando de crear una IA más responsable”.
La prisa por llevar las soluciones de IA al mercado se ha comparado con una nueva «carrera armamentista», en referencia al peligroso período en el que EE. UU., la Unión Soviética y sus respectivos aliados se apresuraron a lograr la supremacía nuclear.
IA abierta fue fundada como una organización sin fines de lucro con la misión estatal de garantizar que su investigación haga contribuciones positivas a largo plazo a la humanidad. Muchos creen que la empresa se ha desviado de esta misión.
Justo hoy, una falla de ChatGPT filtró los historiales de conversación de los usuarios. Director ejecutivo de OpenAI tuiteó que habría una “autopsia técnica” pronto.
Mike Kiser, director de estrategia y estándares de punto de velacomentó:
“Compartir información con ChatGPT no es como hablar con otro adulto, es mucho más como compartir detalles confidenciales con un niño de tres años que habla demasiado. Si no desea que los secretos de su organización se utilicen para entrenar la plataforma y luego ChatGPT los reutilice, se recomienda discreción.
Además, ChatGPT genera contenido, pero es difícil probar su veracidad. Incluso cuando se usan o citan referencias, ChatGPT aprende de estos enlaces y asume que la información es verdadera. Luego utiliza un lenguaje y un formato bien escritos para dar más peso a esos «hechos». Esta confianza en la palabra escrita puede tener implicaciones para la desinformación u otros ataques relacionados con el phishing”.
Microsoft ha invertido decenas de miles de millones en OpenAI y ha implementado integraciones con sus productos populares a un ritmo acelerado. Esa asociación parece haber llevado a OpenAI a tomar más riesgos y la compañía ahora es firmemente una empresa con fines de lucro (con un tope de 100 veces cualquier inversión).
Elon Musk fue uno de los fundadores de OpenAI, pero renunció a su directorio en 2018. Musk ha cuestionado públicamente la transformación de OpenAI:
Todavía estoy confundido en cuanto a cómo una organización sin fines de lucro a la que doné ~ $ 100 millones de alguna manera se convirtió en una capitalización de mercado de $ 30 mil millones con fines de lucro. Si esto es legal, ¿por qué no todos lo hacen?
— Elon Musk (@elonmusk) 15 de marzo de 2023
Con suerte, Mozilla.ai no olvidará sus principios fundamentales.
“La visión de Mozilla.ai es facilitar el desarrollo de productos de IA confiables. Construiremos cosas y contrataremos/colaboraremos con personas que compartan nuestra visión: IA que tenga agencia, responsabilidad, transparencia y apertura en su núcleo”, agregó el presidente de la Fundación Mozilla, Mark Surman.
“Mozilla.ai será un espacio fuera de la gran tecnología y la academia para que se reúnan fundadores, desarrolladores, científicos, gerentes de productos y constructores con ideas afines. Creemos que este grupo de personas, trabajando colectivamente, puede cambiar el rumbo para crear un ecosistema de IA independiente, descentralizado y confiable, un verdadero contrapeso al status quo”.
Mozilla.ai estará dirigido por Moez Draief, director general de Mozilla.
(Foto por astrid schaffner en Unsplash)
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Mozilla.ai retoma la misión fundacional de OpenAI