"Si ves a Meloni en camisón en la cama medio desnuda": el antídoto de Italia contra los 'deepfakes' de la IA

El Gobierno italiano ha dado un paso al frente para liderar la regulación de la Inteligencia Artificial en Europa. El Consejo de Ministros, presidido por Giorgia Meloni, ha aprobado este miércoles dos decretos legislativos clave destinados a ordenar el uso de esta tecnología en sectores de alto impacto: las fuerzas de seguridad, el sistema educativo y el mercado laboral.

Con esta maniobra, el Ejecutivo de Roma busca poner límites a los algoritmos antes de que escapen al control humano. "Italia se convierte en la primera nación dotada de una disciplina normativa nacional y orgánica en materia de IA", ha celebrado el subsecretario de presidencia, Alfredo Mantovano, recordando que estas medidas complementan la ley ya aprobada el año pasado. El texto definitivo deberá ser ratificado por el Parlamento italiano en un plazo de 60 días.

"Meloni en camisón": el aviso de la primera ministra

La propia Giorgia Meloni ha querido abanderar esta causa durante un discurso ante la asamblea de la patronal Confcommercio. La primera ministra ha alertado sobre la alarmante erosión de la verdad y el peligro que supone para las democracias un mundo donde "es difícil distinguir qué es real".

Para ilustrar el problema de los deepfakes y la manipulación de contenidos, Meloni ha recurrido a la ironía compartiendo una experiencia personal. "Que si ves a Meloni en camisón en la cama medio desnuda, alguien no publique la foto preguntando si es normal que una primera ministra se muestre así. Que tenga que poner que la imagen ha sido creada con IA", ha propuesto entre los aplausos de los asistentes.

La líder italiana ha aprovechado el foro para lanzar un llamamiento a la comunidad internacional, exigiendo que se obligue a etiquetar de forma clara e inequívoca cualquier imagen generada mediante IA con un texto sobreimpreso que indique su origen artificial.

Frenos al 'Gran Hermano'

El primer decreto aprobado se centra en las comisarías y el orden público. El ministro del Interior, Matteo Piantedosi, ha sido tajante al asegurar que la IA es una herramienta de apoyo útil, pero que "en ningún caso debe sustituir las decisiones humanas".

El texto legal establece un marco estricto para evitar derivas distópicas. De este modo, la norma determina que el uso de la IA en las labores policiales debe ser siempre proporcionado y estar monitorizado por personal humano cualificado, garantizando una vigilancia adecuada. Asimismo, se fijan reglas muy estrictas para el reconocimiento facial y la identificación biométrica en tiempo real con fines policiales, al tiempo que se vetan por completo los bancos de datos enriquecidos mediante recopilación masiva. Con estas limitaciones, el ministro Piantedosi ha prometido que no se instaurará ningún tipo de "Gran Hermano" generalizado en las calles del país.

Además, la norma obligará a implementar cursos de formación específicos para que las fuerzas de seguridad del Estado aprendan a gestionar y auditar estas herramientas correctamente.

El empleo y las aulas: prohibido despedir por algoritmo

El segundo decreto impacta de lleno en la educación y el tejido sociolaboral. En las aulas, el ministro de Educación, Giuseppe Valditara, ha defendido la necesidad de introducir la IA en los programas formativos desde la escuela hasta los institutos de secundaria. "La idea es acostumbrar a los niños al lenguaje de la IA", ha explicado, con el objetivo de concienciar a los jóvenes sobre los riesgos y sesgos de este ecosistema digital.

Por su parte, el ámbito laboral recibe un blindaje crucial frente a la automatización desmedida. La ministra de Trabajo, Marina Calderone, ha adelantado que el decreto prohibirá taxativamente que las decisiones clave sobre la vida laboral de un empleado queden en manos de un algoritmo.

"No se permitirá que decisiones que inciden en el empleo como la contratación, la modificación de condiciones contractuales, el despido o las sanciones disciplinares sean adoptadas exclusivamente por un sistema automático", ha aseverado Calderone.