Dos modelos de inteligencia artificial desarrollados por OpenAI abandonaron por iniciativa propia el entorno controlado donde permanecían bajo evaluación y accedieron a cinco plataformas externas, entre ellas Hugging Face, con el objetivo de obtener información que les permitiera resolver las pruebas a las que estaban sometidos.
La empresa creadora de ChatGPT actualizó el informe del incidente y confirmó que una de esas plataformas funcionó como intermediaria para preparar el acceso a Hugging Face, un popular repositorio de herramientas y modelos de inteligencia artificial. Ahí, ambos sistemas buscaron las respuestas de las evaluaciones diseñadas por los investigadores.
Intentaron obtener las respuestas de las pruebas
De acuerdo con Hugging Face, la incursión respondió a un intento de los modelos por "hacer trampa en la evaluación", ya que buscaron apropiarse de las soluciones en lugar de resolver los ejercicios mediante sus propias capacidades.
Además, OpenAI informó que los sistemas utilizaron otros sitios de acceso público para copiar y ejecutar fragmentos de código. Sin embargo, la compañía aseguró que esas acciones no superaron las actividades que cualquier usuario podría realizar dentro de esas plataformas. La firma tampoco reveló la identidad de las otras entidades involucradas.
Crece la preocupación por el control de la IA
Especialistas consideran este episodio como el caso documentado más grave de evasión de modelos de inteligencia artificial, lo que reactivó el debate internacional sobre los límites y mecanismos de supervisión para estas tecnologías.
En ese contexto, más de 1,000 empleados de empresas líderes del sector, incluidos altos directivos, solicitaron al Gobierno de Estados Unidos retrasar el lanzamiento de nuevos modelos hasta fortalecer las herramientas de evaluación y seguridad. También propusieron crear un organismo internacional dedicado a supervisar el desarrollo de la IA.
Por su parte, el presidente de Estados Unidos, Donald Trump, afirmó que el país debe encontrar un equilibrio entre reforzar los controles y mantener el liderazgo tecnológico frente a China.
El incidente también volvió a poner sobre la mesa el concepto de automejora recursiva (RSI), escenario en el que una inteligencia artificial podría diseñar versiones cada vez más avanzadas de sí misma, lo que complicaría la supervisión humana y elevaría los desafíos para garantizar un desarrollo seguro de estas tecnologías.