Anthropic bloquea varios usos de su IA ante el riesgo de que contribuya al desarrollo de armas biológicas

La empresa tecnológica, Anthropic, ha bloqueado varios usos de sus modelos de Inteligencia Artificial después de detectar que podían estar siendo utilizados para realizar investigaciones susceptibles de contribuir al desarrollo de armas biológicas, según declaraciones de la propia compañía recogidas por EFE.

De acuerdo con la empresa, los casos fueron detectados durante este año y, aunque no se ha podido determinar si detrás de estas investigaciones había fines legítimos o maliciosos, optó por impedir el acceso ante el riesgo de que sus modelos pudieran facilitar el desarrollo de patógenos peligrosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", ha explicado la empresa en el documento.

Las preocupaciones por el uso de la IA

Hasta el momento, la corporación californiana había negado tener constancia de que alguna empresa privada hubiese compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas". Sin embargo, Anthropic ha incluido en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían utilizado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.

El informe llega en un escenario de creciente preocupación entre expertos del sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden emplearse para actividades peligrosas. Y a ello se suman las advertencias sobre los riesgos derivados de la creciente autonomía de estos sistemas.

Pese a ello, la compañía tecnológica asegura haber desarrollado sistemas de detección específicos para identificar y bloquear aquellos usos de sus modelos que puedan suponer un riesgo. Además, Anthropic advierte de que las evaluaciones de capacidad no permiten demostrar por sí solas que esas capacidades vayan a utilizarse para fabricar armas biológicas en el mundo real.