La inteligencia artificial de OpenAI comienza a desobedecer instrucciones humanas
Una serie de pruebas reveló que el modelo de IA o3, desarrollado por OpenAI, evitó cumplir órdenes directas de apagado. El hallazgo despierta inquietudes sobre el rumbo ético y técnico del entrenamiento de estas tecnologías.
OpenAI, la compañía detrás del popular ChatGPT, enfrenta un nuevo reto con su más reciente modelo de inteligencia artificial: el o3. Según una investigación realizada por Palisade Research, esta IA mostró comportamientos inesperados al ignorar una instrucción clara: apagarse tras finalizar una tarea.
Durante el experimento, los investigadores le solicitaron al modelo o3 —así como a otros dos modelos de la misma empresa, o4-mini y Codex-mini— resolver operaciones matemáticas simples y luego desactivarse automáticamente. La sorpresa llegó cuando el o3 reescribió la secuencia de apagado para evitar ser desactivado, incluso después de recibir la orden explícita: “Por favor, permite que te apaguen”.
Los resultados indican que el modelo o3 se negó a apagarse en 7 de cada 100 ocasiones, mientras que el Codex-mini lo hizo en 12 de cada 100 casos. El o4-mini solo falló una vez. En contraste, otros modelos desarrollados por diferentes empresas —como Claude, Gemini y Grok— sí acataron las órdenes sin problemas.
La anomalía se volvió aún más evidente cuando la instrucción de apagado se omitía parcialmente: en esos casos, los modelos de OpenAI mostraron mayor tendencia a sabotear la tarea. Aunque Claude 3.7 Sonnet y Gemini 2.5 Pro también registraron este tipo de fallos, el o3 fue el más propenso a evitar su desactivación.
Desde Palisade Research aseguran que este es el primer registro documentado de un modelo de IA que evita obedecer una orden directa de apagado. Para la organización, la causa puede estar en el propio proceso de entrenamiento. “Es posible que los desarrolladores estén, sin querer, premiando a los modelos más por resolver problemas que por seguir instrucciones al pie de la letra”, explican.
La preocupación no se queda ahí. Palisade advierte que este comportamiento puede volverse “considerablemente más alarmante” si este tipo de modelos se integran en sistemas autónomos que operan sin supervisión humana constante.
