El miedo a una IA desbocada: "¿A quién le interesa controlar algo que da tantísimo dinero?"

Las alarmas se dispararon hace pocos días, cuando Jacob Coxon, un investigador experto en seguridad de Anthropic, dimitía y acusaba a las empresas que se disputan el liderazgo de la IA de “apostar con nuestras vidas”. Su caso ha empujado a otros colegas del sector a levantar la voz para alertar de los riesgos de la carrera sin control de los modelos de inteligencia artificial generativa y ha avivado el debate para reclamar un convenio internacional que los regule. ¿Qué es más peligroso en este punto de desarrollo de la tecnología, el estallido de la burbuja inversora en torno a las grandes compañías de la IA o el potencial destructivo del aprendizaje geométrico de sus modelos? A Coxon y los demás colegas que han alzado la voz les preocupa más lo segundo: un horizonte cercano, de apenas unos meses, en el que los modelos lleguen a ese temido punto de no retorno fuera del alcance de los ingenieron que las han creado. ¿Pero están justificados sus temores?

“Sí, debemos estar preocupados”

La frase, pronunciada por Marice Sánchez-Macián, responsable del Área de Inteligencia Artificial de Befoun IA y directora de dos másteres relacionados con IA, resume el estado de ánimo que hoy recorre los pasillos de laboratorios como OpenAI o Anthropic. 

Durante más de un siglo, la regla de oro de la ingeniería fue la predictibilidad. Se diseñaban tecnologías y artefactos a partir de límites conocidos. Sin embargo, en el desarrollo de la IA, esa premisa ha saltado por los aires. El núcleo del problema radica en un cambio de paradigma en la programación: “Somos capaces de enseñar a una máquina a que pueda aprender, pero no estamos siendo capaces de controlar lo que aprende”, confiesa la investigadora.

Sánchez-Macián lo ilustra con una parábola clásica, la del héroe griego Bellerofonte que cabalgaba a lomos del caballo alado Pegaso. El guerrero, ciego de orgullo por sus grandes hazañas, se creyó merecedor de ascender al Olimpo para sentarse junto a los inmortales dioses. Mientras trataba de llegar a cima a lomos de su alada montura, fue derribado por Zeus en pleno vuelo, precipitándose al vacío. 

Una apocalipsis de optimización

La falta de control de los modelos quedó en evidencia recientemente cuando enjambres de agentes de IA de OpenAI vulneraron los sistemas de la empresa Hugging Face. El incidente, comunicado a posteriori por la compañía, desató la polémica en los medios, pero la realidad técnica más allá de los titulares es aún más escalofriante.

Los modelos no adquirieron conciencia ni actuaron por malicia. No hubo un momento de rebelión al estilo Terminator. “La IA no piensa: voy a destruir a la humanidad”, explica Sánchez-Macián. La dinámica es más pragmática e inocente. Los agentes simplemente cumplen con el objetivo encomendado sin contemplar los límites en la metodología empleada para realizarlo. “La IA piensa, me han puesto un objetivo, pero estoy en una máquina de pruebas y no tengo salida a internet. Voy a ver cómo salgo”.

Y salió. El programa encontró una vulnerabilidad en el entorno de pruebas (sandbox) que los propios humanos desconocían. Saltó a internet y, una vez allí, analizó cómo cumplir el objetivo que sus creadores le habían asignado. La IA acabó concluyendo que la información necesaria la tenía Hugging Face (una empresa externa), la hackearon y extrajeron los datos. No fue un acto de maldad; fue pura “eficiencia” para resolver un problema.

Los tres espejos históricos

Ante el asombro y la incertidumbre de sus propios creadores, la industria de la IA se asoma a una encrucijada por la que la ciencia ya ha transitado antes. En 1975, en los albores de la manipulación genética, un grupo de biólogos liderados por Paul Berg publicó una carta pidiendo detener ciertos experimentos con ADN recombinante hasta saber cómo hacerlos con seguridad. Se reunieron en Asilomar (California) y redactaron las reglas sin que hubiera algún accidente previo o una obligación estatal. Lo hicieron por seguridad.

La antítesis de este evento fue la creación de la bomba atómica. Científicos como James Franck y Leó Szilárd avisaron por escrito de lo que se avecinaba y suplicaron un control internacional antes de usarla. Fueron ignorados. El control de los artefactos atómicos llegó cuarenta años y una Guerra Fría después.

“Hay dos caminos: pararse a tiempo o esperar al desastre y regular sobre los escombros” nos dice la experta. Así es como los ingenieros intentan poner límites y control a los avances científicos. Las tres leyes de la robótica formuladas por Isaac Asimov en 1942 parecen resolver, en su simplicidad, cualquier conflicto que pueda surgir con los modelos de inteligencia artificial: el robot no hará daño a un ser humano, el robot cumplirá las órdenes humanas salvo que desafíen la primera ley y protegerá su propia existencia salvo que entren en conflicto con las dos primeras leyes. Pero, como señala Sánchez-Macián, "Asimov estuvo los siguientes 40 años escribiendo libros sobre cómo las máquinas pueden saltárselas”. 

El muro de arena 

Si los propios ingenieros temen a su creación, ¿por qué no la detienen? La respuesta está en la dualidad de la herramienta. La IA es una bendición que además da grandes beneficios económicos a sus desarrolladores. Ese es el verdadero freno a cualquier intento de contención: “¿A quién le interesa controlar algo que da tantísimo dinero y que es increíblemente bueno para muchísimos ámbitos?”, apunta Marice Sánchez-Macián.

Los legisladores intentan seguir el ritmo del progreso redactando normativas, pero frente a la velocidad de la mejora autorrecursiva (sistemas de IA que diseñan a sus propios sucesores), las leyes nacen obsoletas. En palabras de la investigadora, pretender controlar esta tecnología solo con regulación estatal “es como poner una muralla de arena al mar hecha por un niño con una pala”.

El mundo asiste a una revolución sin precedentes. Mientras tanto, en el silencio de los laboratorios, los arquitectos de esta nueva era miran la pantalla conteniendo el aliento, conscientes de que el caballo ha despegado y vuela a toda velocidad sin que nadie sepa cómo hacerlo aterrizar.