Mythos, la IA de Anthropic demasiado peligrosa que hace saltar las alarmas de los bancos

Anthropic, la empresa líder en Inteligencia Artificial, anunció este mes el lanzamiento de Mythos, su modelo de inteligencia artificial más avanzado hasta el momento. Sin embargo, el anuncio se presentó más como una advertencia que como un avance ya que, según la empresa, el modelo es tan potente que resulta demasiado peligroso para ser lanzado al público. 

La alarma se dispara por su capacidad "inquietante" para detectar y explotar vulnerabilidades en el software de bancos, redes eléctricas o sistemas gubernamentales. Por este motivo se han reunido varias organizaciones para colaborar y montar una defensa ante las capacidades del modelo. Todas son estadounidenses, con una única excepción -Reino Unido- país cuyo instituto de Seguridad de IA (AISI) ya ha confirmado que Mythos puede ejecutar ciberataques complejos que ningún modelo previo había logrado.

El origen del proyecto

El origen del proyecto se encuentra en el Proyecto Glasswing (nombre dado en honor a la mariposa de alas transparentes), una iniciativa que partió con la premisa de permitir que gobiernos y gigantes tecnológicos como Microsoft o Apple probaran las capacidades de Mythos en un entorno controlado y aislado. La idea era que la IA encontrará los fallos que pudieran afectar a las infraestructuras digitales de bancos, redes eléctricas y sistemas de defensa antes de que los encontraran grupos hackers perniciosos.

Desde su sede en San Francisco, Anthropic confirmó a The New York Times que el acceso a Mythos se mantiene bajo un estricto control por razones de seguridad nacional. Además, la empresa asegura que no hay un calendario para expandir el acceso, citando la falta de experiencia técnica de muchos solicitantes para manejar un modelo tan disruptivo.

El choque con EEUU 

A esto hay que contextualizar el convulso escenario que la compañía atravesó meses atrás. La administración estadounidense incluyó a Anthropic dentro de su “lista negra” de seguridad nacional, tras la negativa de ésta a permitir que sus modelos fueran utilizados por el Pentágono para vigilancia masiva y el desarrollo de armas autónomas.

En respuesta a esto, el gobierno americano designó a la startup como un “riesgo”, llegó a amenazar contratos de 200 millones de dólares y solo fue frenada recientemente en los tribunales, pero marcó un punto de inflexión. Con el lanzamiento de Mythos, Anthropic ha buscado redimirse ofreciendo una herramienta de ciberseguridad defensiva que intenta equilibrar su compromiso ético con la creciente presión de Washington por mantener la hegemonía tecnológica.

Europa y la brecha en la seguridad

La Unión Europea ha mostrado interés por el anuncio y, tras tres reuniones con Anthropic, la Comisión Europea aún no ha logrado un acuerdo de acceso, limitándose a declarar que evalúan las "implicaciones sin precedentes" que puede llegar a poseer el modelo. En Alemania, Claudia Plattner, presidenta de la agencia de ciberseguridad BSI, describió la situación como un "cambio de paradigma" tras recibir información técnica en San Francisco, pese a no tener aún las llaves del sistema.

No obstante, el tiempo juega en contra de todos estos actores políticos. La startup estima que grupos rivales lanzarán IAs con capacidades cibernéticas similares en un plazo máximo de 18 meses. Además, se disparó la urgencia en torno a este modelo cuando la firma admitió estar investigando informes sobre un presunto acceso no autorizado a una versión de Mythos, lo que podría poner en riesgo la cautelosa fase de pruebas del Proyecto Glasswing.

La falta de un equivalente al Tratado de No Proliferación Nuclear para la inteligencia artificial deja al mundo en una posición precaria, donde el acceso a la seguridad está dictado por criterios corporativos opacos. Naciones sin infraestructura de computación avanzada corren el riesgo de volverse totalmente dependientes de las decisiones unilaterales de empresas como Anthropic, Google o OpenAI.