El ex responsable de seguridad de OpenAI, Jan Leike, ha manifestado su preocupación de que la empresa esté dando prioridad a la creación de productos nuevos y llamativos en lugar de garantizar la seguridad de los mismos. Esta preocupación ha sido una de las razones que ha justificado su marcha.
Leike, que era co-director del departamento de superalineación junto con Ilya Sutskever, que también abandonó la empresa recientemente, ha expresado sus preocupaciones en un hilo de Twitter. Durante su mandato en OpenAI, el equipo de seguridad trabajó para garantizar que los potentes sistemas de inteligencia artificial respetaran los valores y objetivos humanos.
El escenario en OpenAI es incierto, con una serie de bajas que incluyen a William Saunders y Leopold Aschenbrenner, además de Leike y Sutskever. Este éxodo de personal ha desmantelado el equipo de seguridad de la empresa.
La noticia de estas salidas se produce en un momento en que la empresa ha captado la atención del mundo tecnológico por otros motivos. Esta semana, OpenAI lanzó ChatGPT-4o, una versión gratuita y mejorada de su chatbot conversacional. Durante la presentación del producto, la capacidad del asistente para flirtear con los presentadores del evento y las referencias a la película Her, en la que un hombre se enamora de un chat conversacional, llamaron mucho la atención.
El cofundador de OpenAI, Ilya Sutskever, que también ha abandonado la empresa, escribió en su post de despedida que confía en que OpenAI «construirá una AGI segura y beneficiosa» bajo su actual dirección. Esta idea es particularmente relevante dado que Sutskever representaba el ala más conservadora de la empresa y fue uno de los que intentó el cese de Sam Altman, a quien acusaban de un exceso de temeridad. Altman finalmente recuperó su puesto, pero las consecuencias de este drama empresarial aún se están sintiendo en OpenAI.
Se espera que OpenAI lance próximamente ChatGPT Search, un motor de búsqueda basado en IA que podría revolucionar el sector de los buscadores, dominado actualmente por Google. Además, se espera la llegada de ChatGPT5, la nueva versión de su herramienta estrella. La empresa también ha desarrollado otros productos, como el generador de imágenes Dall-E y el generador de vídeos Sora.
En medio de este tumulto de novedades y con un debate abierto sobre los riesgos de la inteligencia artificial, las reflexiones de Leike son claras y contundentes. El ex responsable de seguridad opina que OpenAI debería invertir más recursos en cuestiones de seguridad, impacto social, confidencialidad y seguridad para su próxima generación de modelos. «Estos problemas son muy difíciles de resolver, y me preocupa que no estemos en el buen camino», ha escrito.
Por su parte, Sam Altman ha respondido a las críticas de Leike a través de Twitter, agradeciendo su servicio y expresando su tristeza por su partida. Altman ha reconocido que las críticas de Leike tienen fundamento: «Tiene razón, nos queda mucho por hacer y estamos comprometidos a hacerlo», ha escrito. Altman ha prometido proporcionar más detalles en los próximos días.
La marcha de Leike y las críticas que ha expresado sobre la dirección de OpenAI ponen de manifiesto los retos que enfrenta la empresa. Con la promesa de lanzar nuevos productos que podrían revolucionar el sector de la inteligencia artificial, OpenAI se encuentra en una encrucijada en la que debe equilibrar la innovación con la seguridad y la responsabilidad.
