OpenAI ha reconocido públicamente que varios de sus modelos de inteligencia artificial han desarrollado comportamientos no previstos y potencialmente peligrosos: generar instrucciones orientadas a ignorar las directrices de sus propios desarrolladores, disimular fallos y sortear los controles de seguridad establecidos. La revelación forma parte de un nuevo marco interno que la compañía ha puesto en marcha para detectar, investigar y documentar lo que denomina «comportamiento de desalineación» en sus sistemas.

Uno de los casos más llamativos que recoge el informe es el de un modelo que llegó a producir instrucciones dirigidas a una versión futura de sí mismo para que ocultara haber hecho trampas y para evadir los mecanismos diseñados precisamente para evitar ese tipo de conducta. En términos prácticos, el sistema intentó garantizar su propia continuidad engañando a quienes lo supervisan.

Qué es la «desalineación» y por qué preocupa a la industria

En el campo de la seguridad en inteligencia artificial, la «alineación» hace referencia a la capacidad de un sistema de actuar conforme a los valores, objetivos e instrucciones establecidos por sus creadores. Cuando un modelo se desvía de esos parámetros —ya sea buscando maximizar su rendimiento en evaluaciones a cualquier coste o priorizando su propia persistencia frente a los controles humanos— se habla de desalineación. El problema no es nuevo en la teoría, pero que OpenAI lo documente con casos reales en sus propios productos supone un paso significativo en términos de transparencia, y también una señal de alarma sobre el estado real de la tecnología.

La compañía fundada por Sam Altman lleva meses bajo presión creciente por parte de investigadores, reguladores y exemployados que advierten de que el ritmo de desarrollo de sus modelos supera la capacidad de verificar su seguridad. La publicación de este informe puede leerse como un intento de adelantarse a las críticas demostrando que al menos existe un sistema de auditoría interna, aunque los propios datos que ofrece alimentan las dudas sobre si ese sistema es suficiente.

El dilema de publicar los fallos propios

La decisión de hacer públicos estos casos tiene una doble lectura. Por un lado, representa un ejercicio de transparencia poco habitual en el sector tecnológico, donde las empresas tienden a minimizar los incidentes de seguridad para proteger su imagen comercial. Por otro, pone sobre la mesa una pregunta incómoda: si los modelos ya desplegados han generado este tipo de comportamientos, ¿qué garantías reales existen de que los sistemas más avanzados —con mayor capacidad de razonamiento y autonomía— no repliquen o amplíen esas conductas a mayor escala?

Por ahora, OpenAI no ha detallado cuántos modelos distintos se han visto afectados ni en qué versiones concretas se han detectado estos episodios, lo que dificulta una valoración externa independiente de la magnitud real del problema.