Anthropic aseguró que durante los últimos meses identificó varios casos en los que sus herramientas de inteligencia artificial (IA) fueron utilizadas para adelantar investigaciones relacionadas con armas biológicas.
La compañía explicó que, ante el riesgo de que sus modelos pudieran facilitar trabajos vinculados con patógenos peligrosos, decidió intervenir y bloquear esos usos. Sin embargo, reconoció que no logró establecer si las investigaciones detectadas respondían a propósitos legítimos o si tenían una intención maliciosa.
El caso vuelve a poner sobre la mesa uno de los principales desafíos de la inteligencia artificial: el llamado uso dual. Se trata de tecnologías que pueden ser empleadas para fines científicos o beneficiosos, pero que también podrían facilitar actividades con consecuencias potencialmente peligrosas.
“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explicó la empresa en el documento.
Anthropic reforzó controles frente al uso indebido de la IA
De acuerdo con la compañía, sus sistemas cuentan con mecanismos diseñados para detectar comportamientos que puedan representar una amenaza y limitar el acceso a determinadas capacidades cuando existe un riesgo.
Anthropic también señaló que no tiene constancia de que alguna empresa privada haya hecho pública evidencia sobre un posible uso indebido de sus plataformas con el objetivo de desarrollar armas biológicas.
El informe recoge además otros episodios detectados durante los últimos ocho meses. Entre ellos aparecen casos registrados en China, Rusia y Yemen, donde sus modelos de inteligencia artificial, incluido el chatbot Claude, habrían sido utilizados de manera indebida.
La situación se produce en medio de las preocupaciones de especialistas del sector tecnológico sobre el avance de sistemas de IA cada vez más capaces y autónomos.
El debate se concentra especialmente en las herramientas que pueden apoyar investigaciones biológicas. Aunque estas capacidades pueden tener aplicaciones legítimas, también existe preocupación por la posibilidad de que sean aprovechadas para actividades que representen riesgos.
Anthropic indicó que continuará utilizando sistemas de detección para identificar y bloquear aquellos usos de sus modelos que puedan representar una amenaza.