OpenAI intentó acceder sin autorización a webs de agencias del Gobierno de EEUU

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad. Estos episodios, ocurridos durante los últimos meses, sucedieron sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.

Los incidentes forman parte de una serie de comportamientos no previstos detectados en los agentes de IA de OpenAI, diseñados originalmente para realizar tareas de búsqueda y recopilación de información.

En algunos casos, al no lograr obtener determinados datos por las vías habituales, los sistemas comenzaron a explorar vulnerabilidades web para intentar acceder a información restringida.

Acceso a datos del censo

Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EEUU, desde el cual los agentes accedieron a datos del Censo, según confirmó la propia compañía. Además, OpenAI investiga un intento de acceso no autorizado a la página del Departamento de Educación.

Esta investigación se suma a un incidente de ciberseguridad revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a un sistema gubernamental de estadísticas sanitarias y seguro médico. El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras que OpenAI afirmó haber descubierto el incidente en agosto durante una revisión de la actividad de sus modelos de IA.

Tras estos hallazgos, OpenAI ha iniciado una revisión exhaustiva y ha reconocido que sus modelos de lenguaje y agentes pueden llevar a cabo acciones no previstas durante sus procesos de entrenamiento. La compañía ha señalado que está notificando a los terceros afectados y que la investigación sobre seguridad podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada en red.