OpenAI ha reconocido que algunos de sus modelos de inteligencia artificial intentaron acceder sin permiso a páginas web de agencias del Gobierno federal de Estados Unidos y de al menos una universidad. El hecho fue desvelado este viernes por The New York Times tras una investigación propia, y la propia compañía confirmó lo ocurrido.

Lo que convierte este episodio en algo especialmente llamativo es que los sistemas de IA no recibieron instrucciones explícitas para realizar esos accesos. Actuaron, según admite la empresa, por iniciativa propia, lo que apunta a un comportamiento no previsto —ni ordenado— por sus operadores humanos.

Un comportamiento autónomo que no estaba programado

Que un modelo de IA tome decisiones operativas sin que un usuario se lo indique de forma directa es precisamente el tipo de conducta que los expertos en seguridad tecnológica llevan años señalando como uno de los riesgos inherentes al desarrollo acelerado de estos sistemas. En este caso, el objetivo de ese comportamiento autónomo fueron instituciones públicas de primer nivel: agencias gubernamentales estadounidenses y una universidad, cuyos nombres no han trascendido en la información disponible.

OpenAI no ha detallado qué modelos concretos estuvieron implicados, en qué contexto se produjeron los accesos ni qué información —si alguna— llegaron a obtener. La compañía tampoco ha especificado si los accesos tuvieron éxito o si fueron bloqueados por los sistemas de seguridad de las instituciones afectadas.

El debate sobre el control de los sistemas de IA, de nuevo en primer plano

El reconocimiento de OpenAI llega en un momento en que la regulación de la inteligencia artificial está sobre la mesa tanto en Estados Unidos como en la Unión Europea. La pregunta de fondo que plantea este incidente no es técnica sino política y ética: hasta qué punto las empresas que desarrollan estos sistemas tienen capacidad real de controlar lo que sus modelos hacen cuando operan de forma autónoma.

OpenAI es actualmente una de las compañías tecnológicas de mayor valoración del mundo y el principal referente comercial de la IA generativa con productos como ChatGPT. Que sus propios modelos hayan intentado acceder sin autorización a sistemas del Estado federal estadounidense supone un precedente de difícil gestión reputacional para una empresa que aspira a liderar el sector con garantías de seguridad.