N2T

La crisis de OpenAI: El descubrimiento amenazante de la inteligencia artificial y la victoria de Microsoft

Advertisement

De acuerdo con fuentes citadas por Reuters, varios investigadores de OpenAI escribieron una carta al consejo asesor de la compañía advirtiendo de un “descubrimiento poderoso” en el campo de la inteligencia artificial que podría amenazar a la humanidad solo unos días antes de que el CEO de la empresa, Sam Altman, regresara a la compañía.

Las principales innovaciones que llevaron al despido de Altman, el gurú de la tecnología propagandista de IA detrás de ChatGPT, fueron la tarjeta y el algoritmo de IA. Más de 700 empleados de OpenAI amenazaron con renunciar y unirse a Microsoft en solidaridad con el líder exonerado antes del regreso triunfal del ejecutivo el miércoles (21).

Microsoft ignora la crisis de OpenAI y debería salir victorioso.
Las grandes empresas de tecnología tomaron medidas rápidas para evitar que sus inversiones se vieran afectadas por el enfrentamiento.

Según fuentes, el despido de Altman puede atribuirse en parte al contenido de la carta, que incluía preocupaciones sobre la comercialización de los avances de IA antes de comprender las consecuencias de su uso. No se disponía de una copia de la carta para que Reuters la analizara. Los empleados que escribieron el contenido ignoraron las solicitudes de comentarios.

Una de las fuentes dijo que después de ser contactada por Reuters, OpenAI se negó a hacer comentarios, pero luego reconoció un proyecto llamado “Q*” en un memo interno a los empleados y una carta a la dirección antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al equipo sobre ciertos informes de medios sin dar más detalles sobre su importancia.

Algunos empleados de OpenAI creen que el proyecto “Q*” (pronunciado Q-Star) podría ser un avance en la investigación de la compañía hacia lo que se conoce como inteligencia artificial general (AGI, en inglés). OpenAI define la inteligencia artificial general como sistemas que superan a los humanos en la mayoría de las tareas económicamente valiosas.

Según la fuente, el nuevo modelo pudo abordar ciertos problemas matemáticos gracias a su acceso a recursos computacionales extensivos. Los investigadores son optimistas sobre el futuro del proyecto “Q*” a pesar de que el modelo solo se ha probado utilizando cálculos matemáticos de estudiantes de primaria.

“La ignorancia desaparece”
Los investigadores ven las matemáticas como la frontera del desarrollo de la IA creativa. Las respuestas a la misma pregunta pueden variar mucho debido al estado actual de la IA generativa, que es buena para escribir y traducir entre idiomas al predecir estadísticamente la siguiente palabra. Sin embargo, dominar tareas contables, para las cuales solo hay una respuesta correcta, implicaría que la IA tiene habilidades de razonamiento comparables a las de los humanos. Los investigadores en inteligencia artificial creen que esto podría usarse en nuevos estudios científicos.

La inteligencia artificial general (AGI) tiene la capacidad de generalizar, aprender y comprender, a diferencia de una calculadora que solo puede realizar una cierta cantidad de operaciones.

Según fuentes, los investigadores resaltaron los peligros potenciales de IA en una carta al consejo, aunque no especificaron las preocupaciones de seguridad exactas planteadas. Los científicos de la computación llevan mucho tiempo debatiendo la amenaza que representan las máquinas superinteligentes, como si elegirían o no destruir a la humanidad si se les diera la oportunidad.

Los investigadores también señalaron el trabajo de un “equipo de científicos de IA”, cuya existencia ha sido confirmada por muchas fuentes. El equipo, que se formó al fusionar los equipos “Code Gen” y “Math Gen” anteriores, está trabajando en la optimización de los modelos de IA existentes para mejorar su razonamiento y, en última instancia, llevar a cabo empresas científicas, como lo describió uno de ellos.

Altman lideró el esfuerzo para hacer de ChatGPT una de las aplicaciones de crecimiento más rápido, atrayendo las inversiones y los recursos informáticos que Microsoft necesitaba para acercarse a AGI.

Además de presentar una serie de nuevas herramientas durante una demostración este mes, Altman dijo a un grupo de líderes globales en San Francisco la semana pasada que creía que estaban en el horizonte avances significativos en la tecnología de inteligencia artificial.

“Poder hacer esto es el honor profesional de toda una vida”, dijo frente al Comité de Cooperación en OpenAI. “Cuatro veces en la historia de OpenAI, siendo la más reciente en las últimas dos semanas, pude estar en la habitación cuando dejamos atrás el velo de la ignorancia y frente a nosotros la frontera del descubrimiento”, dijo.

Al día siguiente, la dirección de OpenAI despidió a Altman.

Trending Topics