El peligro de la IA somos nosotros

Hace dos semanas, menos de dos semanas, el presidente de Open AI dijo: "Welcome to the AGI era". ["Bienvenidos a la era de la inteligencia artificial general"]. En el mismo mes, los responsables de la misma empresa dicen que hay que parar el desarrollo de la inteligencia artificial porque puede destruirnos. Todos los expertos, académicos y técnicos, nacionales e internacionales, que no tienen interés comercial directo niegan que estemos ante una inteligencia artificial general. Es más, niegan que se pueda llegar a ella.

Gary Marcus (neuropsicólogo y voz destacada en el debate sobre IA) responde directamente que decir que la IA general ya está aquí "se apoya en la nada más absoluta". Yann LeCun, científico jefe de IA en Meta hasta que abandonó la compañía, reniega del término "Inteligencia artificial general".  Los modelos de lenguaje que venden la llegada de la esa "superinteligencia" no pueden llevarnos a algo similar al procesamiento humano. Ni en cien años.  Así de rotundo.

¿Por qué? Porque se limita a hacer una inferencia estadística: en base a los datos que tiene (todos los que hay digitalizados) cuál es más probable que sea la siguiente palabra de la respuesta. Y cuál es la respuesta más probable a tu petición o pregunta. Nada más, y cuidado -nada menos- que eso. 

Los humanos conectan el lenguaje a experiencias sensoriales, físicas y emocionales; las palabras están "conectadas a tierra" (grounded) en la realidad. Adaptación y plasticidad.

Los modelos actuales, por el contrario, son motores estadísticos puros. Replican patrones de texto increíblemente bien, pero lo hacen sin comprensión. Aquí tienen un ejemplo. Pidan a chat GPT un número aleatorio entre el uno y el cien. ¿Les ha salido uno de estos: 47, 42, 73, 37, 57, 67?

Y la razón que un LLM nos ofrece de la elección: "Los números que suenan aleatorios (impares, terminados en 7, primos como 37, 47, 73) abundan en textos, encuestas y ejemplos; los redondos (10, 50, 100) y los de dígitos repetidos (11, 22, 88) se evitan porque parecen "demasiado ordenados". 42 viene de Douglas Adams, 47 es un meme de Star Trek y del Pomona College, 73 es el mejor número según The Big Bang Theory". Están sobrerrepresentados en internet. Estadística, de nuevo.

Escalar estos sistemas probabilísticos nunca nos dará una inteligencia verdadera

LeCun sostiene que esta limitación arquitectónica explica por qué los modelos inventan información (alucinaciones) con tanta confianza: simplemente están calculando probabilidades de palabras sucesivas. No recuperan recuerdos estructurados ni razonan sobre verdades objetivas. Por tanto, escalar estos sistemas probabilísticos nunca nos dará una inteligencia verdadera.

Los estudios clásicos de Hart & Risley (1995) estiman que un niño oye entre 20.000 y 38.000 palabras al día, lo que equivale a unos 7,3 millones de palabras al año. Extrapolado a 5 años, eso da un rango de entre 15 y 45 millones de palabras en total. Chat GPT necesitó para entrenarse diez billones de palabras, pero no responde a preguntas que un niño de cinco años aprende de manera intuitiva.

Los riesgos reales de la IA

Hay evidentemente riesgos, que los grandes operadores de IA no han tenido en cuenta. Riesgos sociales, económicos y políticos generados por un uso inadecuado, incontrolado o perverso de los modelos de lenguaje. No los han tenido ni los quieren tener en cuenta. 

Los sesgos en las decisiones (heredados de datos históricos), las deepfakes y el cambio radical de las relaciones laborales y económicas. Todos estos riesgos son reales. Tan reales como evitables por estas corporaciones con una única condición: querer hacerlo.

Si la AGI es matemáticamente imposible o biológicamente irreplicable en silicio, los billones de dólares y el pánico legislativo invertidos en evitar que Terminator se haga realidad están mal dirigidos. Deberíamos centrarnos en los humanos y las corporaciones que controlan la IA.

Si la IA no tiene consciencia (no se reconoce a sí misma, consenso científico) cómo va a escapar de los humanos, que tampoco sabe que existen ni que son. Estamos saturados de mensajes de marketing, no de análisis rigurosos.

Los verdaderos peligros de la inteligencia artificial no residen en que las máquinas cobren vida y decidan volverse en nuestra contra. El peligro radica en la irresponsabilidad humana: en corporaciones desplegando sistemas que perpetúan la discriminación; en regímenes autoritarios usándola para la vigilancia masiva; y en una economía que valora la automatización barata por encima de la dignidad laboral.

La IA es, y probablemente seguirá siendo, la herramienta más poderosa jamás creada por el ser humano. No tiene el deseo de dominar el mundo. No tiene ningún conocimiento. Es mera estadística. Lo siento, no es magia.  Tratar a estos modelos como herramientas de enorme impacto, en lugar de como agentes casi divinos, es el primer paso necesario para garantizar que la tecnología se utilice adecuadamente.

_______________________
Agustín Madariaga es responsable de Canal Sur LAB.