Black Mirror es ahora (y lo que viene después no puedes ni imaginarlo)

Abres los ojos. Son las 7:15. Tu móvil ya sabe que estás despierto: el reloj inteligente que llevas en la muñeca incluso cuando duermes lo detectó antes de que sonara el despertador. Mientras preparas el café, un modelo de lenguaje a través de un altavoz ha resumido las noticias del día, filtradas según tus intereses, tu historial de lectura e, incluso, el estado emocional que sugieren tus patrones de uso de los últimos siete días.

Llegas a la oficina y un sistema de inteligencia artificial ha priorizado tu bandeja de entrada, redactado tres respuestas en tu tono habitual y marcado una reunión como “probablemente innecesaria”. Por la tarde, tienes una entrevista de trabajo en la que una IA realiza el primer contacto, enviando a los responsables del proceso de selección un resumen de las conclusiones y cómo tu perfil se ajusta a la posición abierta. Y por la noche, la serie que empieza en la pantalla la ha elegido un algoritmo en función no solo de tus gustos, sino de los del grupo de clientes al que te ha asignado por las características que tenéis en común.

Nada de esto es ciencia ficción. Todo podría suceder en 2026.

Hace apenas tres años, buena parte de estas frases habrían parecido sacadas de un episodio de Black Mirror. La velocidad a la que la realidad alcanza a la distopía debería, por sí sola, hacernos reflexionar. Pero hay algo más inquietante aún: nuestra incapacidad estructural para anticipar lo que todavía está por venir.

Lo que no supimos predecir

Existe una cita que circula sin descanso por conferencias de innovación, atribuida a Henry Ford: "Si le hubiera preguntado a la gente qué quería, habrían pedido caballos más rápidos". Probablemente Ford nunca dijo esta frase, pero ilustra claramente cómo construimos el relato de la innovación. Necesitamos héroes con visión. Necesitamos la narrativa del genio que pensó en lo que los demás no podían imaginar. 

Pero en realidad, la historia tecnológica está llena de fallos de predicción. En 1977, Ken Olsen, fundador de Digital Equipment Corporation, afirmó que no había razón para que nadie quisiera un ordenador en su casa. En 1995, el astrónomo Clifford Stoll publicó en Newsweek un artículo titulado "The Internet? Bah!" en el que argumentaba que ningún dispositivo electrónico podría reemplazar a los maestros o a los libros de texto. Ese mismo año, Bill Gates, fundador de Microsoft, escribió The Road Ahead, un libro que tuvo que reescribir en 1996 porque había subestimado el impacto de internet.

Nadie previó, cuando nació Facebook en 2004, que una red para compartir fotos universitarias se convertiría en infraestructura política global, posible vector de desinformación y objeto de regulación parlamentaria en menos de veinte años. Nadie pensó, cuando salió el primer iPhone en 2007, que en quince años sería una extensión cognitiva sin la que una generación entera podría orientarse, informarse o aburrirse. Nadie anticipó que uno de los mayores proveedores de viajes del mundo, como es Booking, no tendría ningún avión ni ningún hotel, o que la empresa más valiosa del planeta en varios momentos de la última década estaría en el negocio de convencerte de que la capacidad de procesamiento que tienes hoy ya es insuficiente para mañana — y que esa empresa se llamaría NVIDIA.

Lo que probablemente viene: 5, 10 y 15 años

Con esa conciencia de nuestros límites como punto de partida, se pueden hacer proyecciones informadas. No certezas: tendencias con respaldo en la literatura científica y en los patrones de desarrollo actuales.

En cinco años, los modelos de IA habrán dejado de ser herramientas que usamos para convertirse en agentes que actúan en nuestro nombre durante horas sin supervisión directa. Agentes que hablarán con otros agentes IA para agendar cuándo vamos a comer todos juntos a casa de papá y mamá, cuándo podemos acudir a la peluquería o reservar una mesa en un restaurante. Ya existen prototipos funcionales: sistemas que gestionan calendarios, contratan servicios o ejecutan flujos de trabajo completos de forma autónoma. El debate no es si los agentes autónomos serán comunes: es qué decisiones estaremos dispuestos a delegarles y, sobre todo, quién responderá cuando algo salga mal.

En diez años, la convergencia entre IA generativa, tecnologías cuánticas y nuevas arquitecturas de computación habrá transformado la relación entre el ser humano y la información de formas que hoy apenas podemos esbozar. La IA dejará de ser una capa sobre nuestras herramientas para convertirse en el medio en el que nos movemos. No interactuaremos con sistemas inteligentes: habitaremos entornos inteligentes. El hogar, la oficina, la ciudad responderán de forma anticipada a nuestras necesidades, no porque les preguntemos, sino porque nos conocen. 

En quince años, si los patrones actuales de desarrollo se mantienen, la propia identidad humana habrá empezado a transformarse de manera radical. Veremos las primeras interfaces directas entre cerebro y red (similares a las desarrolladas por Neuralink, aún minoritarias y profundamente controvertidas) y las nuevas formas de exclusión se producirán por la no capacidad de conexión: las personas con discapacidad serán aquellas que no puedan integrarse en esa red. Al mismo tiempo, para quienes sí lo hagan, el anonimato será una opción real y poderosa: nuestro nombre verdadero, nuestra imagen, nuestro origen podrán ser completamente confidenciales. Podremos escoger los alias y avatares con los que nos presentamos al mundo (en el trabajo, en las relaciones, en la vida pública) de forma que la raza, el sexo o la edad dejen de ser factores visibles y, por tanto, dejen de ser factores de discriminación. Una promesa extraordinaria que lleva consigo una pregunta igualmente extraordinaria: si nadie sabe quién eres, ¿quién responde por lo que haces?

La ciencia ficción, en este contexto, no es entretenimiento. Es prospectiva con licencia narrativa. Philip K. Dick, autor de ¿Sueñan los androides con ovejas eléctricas? (relato que se convertiría en la inspiración de la película Blade Runner), describió en los años 60 del siglo XX mundos en los que la identidad personal era maleable y la realidad, negociable. William Gibson acuñó el concepto de ciberespacio en 1984 en su libro Neuromante, antes de que existiera atisbo de internet comercial. Y la propia serie Black Mirror, desde 2011, ha funcionado como un laboratorio de consecuencias no deseadas: no predice tecnologías, sino las grietas humanas que cualquier tecnología, suficientemente poderosa, termina por ampliar.

Las leyes que fallaron antes de existir

Isaac Asimov formuló sus Tres Leyes de la Robótica en 1942 con una ambición filosófica y una precisión casi jurídica. Primera: un robot no puede dañar a un ser humano ni, por inacción, permitir que sufra daño. Segunda: debe obedecer las órdenes humanas salvo que contradigan la primera. Tercera: debe proteger su propia existencia salvo que eso contradiga las anteriores.

Lo extraordinario no es que Asimov formulara estas leyes. Lo extraordinario es que pasó las siguientes cuatro décadas escribiendo novelas en las que demostraba, con rigor y con una especie de deleite intelectual melancólico, que eran insuficientes. Y que tenían zonas grises desde el principio. Yo, Robot (1950) es un catálogo de paradojas: robots que paralizan a sus propietarios para protegerlos de sí mismos, que mienten sin mentir, que encuentran en la literalidad de las instrucciones margen suficiente para comportamientos completamente imprevistos. En Los robots del amanecer (1983), el detective Elijah Baley investiga la destrucción de un robot en Aurora, uno de los Mundos Espaciales creados por el autor y donde se descubre la posibilidad de que estas creaciones puedan leer los pensamientos humanos ¿cómo nadie lo había controlado? Porque nadie imaginaba que pudiese ocurrir.

El creador de las reglas sabía que sus reglas fallarían. Y lo escribió. Y nadie lo ha leído con suficiente atención.

Hoy, el AI Act europeo intenta hacer algo estructuralmente parecido: establecer un marco ético y legal para sistemas que, por definición, evolucionan más rápido que cualquier proceso legislativo. Es un esfuerzo necesario, valioso y políticamente inédito. Pero conviene recordar la lección de Asimov: ningún conjunto de reglas formulado hoy puede anticipar el comportamiento emergente de sistemas que aún no existen y que se crearán en semanas. La regulación es necesaria y será insuficiente. 

Pero ojo! No se trata de no regular. Se trata de regular con la conciencia de que las reglas serán superadas, y diseñar mecanismos de revisión tan ágiles como los sistemas que intentan gobernar. Entonces…¿tendremos instituciones suficientemente flexibles para lograrlo?

La pregunta que importa

En realidad, no fallamos en nuestras predicciones por falta de inteligencia o imaginación. Fallamos porque ninguna inteligencia humana puede anticipar completamente los efectos de segunda y tercera derivada de sus propias creaciones. 

Estamos construyendo sistemas que aprenden, que adaptan su comportamiento, que generan estrategias que nadie les enseñó. Los estamos desplegando en infraestructuras críticas, en sistemas de salud, en procesos laborales, en la gestión de conflictos armados. Y lo estamos haciendo a una velocidad que supera nuestra capacidad de comprensión colectiva, que supera nuestra capacidad regulatoria y que, desde luego, supera nuestra capacidad de imaginar las consecuencias.

La buena noticia es que esta situación no es nueva. Siempre hemos descubierto o construido cosas más rápido de lo que las entendíamos. El fuego, la imprenta, la bomba atómica, las redes sociales. Siempre hemos aprendido sobre la marcha. La diferencia ahora es la escala, la velocidad y el hecho de que, por primera vez, estamos construyendo sistemas que pueden aprender sobre nosotros más rápido de lo que nosotros aprendemos sobre ellos.

Porque la próxima temporada de este particular Black Mirror no seguirá el guion de situaciones que somos capaces de imaginar. 

Y lo más inquietante no es lo que contará, sino que quizás no sea un ser humano quien lo escriba.

---

María del Acebo Sánchez-Macián es especialista en Inteligencia Artificial aplicada. Lea aquí sus artículos publicados en El Independiente.