La empresa de inteligencia artificial Anthropic reveló que bloqueó cinco casos en los que sus modelos fueron utilizados para actividades de laboratorio que podrían haber derivado en el desarrollo o modificación de agentes biológicos con fines peligrosos.

En un nuevo informe, la compañía señaló que algunos usuarios recurrieron a sus sistemas para investigar modificaciones de virus y toxinas con potencial para incrementar su capacidad de contagio, resistencia o daño. Entre los casos detectados se encontraban consultas relacionadas con el chikungunya, la gripe aviar y el virus de la viruela, lo que llevó a la empresa a activar sus mecanismos de seguridad.

Uno de los episodios involucró a un científico vinculado con un instituto de investigación militar, quien solicitó asistencia para diseñar modificaciones del virus chikungunya que aumentaran su capacidad de causar daño durante experimentos con animales. Anthropic consideró que, aunque determinadas investigaciones sobre estos agentes pueden tener aplicaciones médicas legítimas, la información solicitada también podría ser utilizada para propósitos dañinos.

El informe destaca que la preocupación no se limita a los virus. La empresa también documentó posibles intentos de utilizar inteligencia artificial para desarrollar armas convencionales y realizar operaciones de influencia, lo que demuestra, según Anthropic, que los modelos avanzados pueden ser empleados en distintos tipos de actividades maliciosas.

La compañía explicó que los casos fueron detectados principalmente mediante modelos anteriores y que sus sistemas más recientes incorporan salvaguardas más sofisticadas para identificar solicitudes peligrosas, bloquearlas y reducir la posibilidad de que la IA proporcione información que pueda facilitar actividades ilícitas.

Anthropic advirtió que el riesgo aumenta cuando herramientas de inteligencia artificial cada vez más capaces son utilizadas por personas u organizaciones con conocimientos especializados. Entre los posibles actores se encuentran desde grupos respaldados por gobiernos hasta organizaciones criminales o individuos con motivaciones políticas.

El reporte pone de relieve uno de los principales desafíos que enfrenta el desarrollo de la IA: evitar que capacidades creadas para investigación, ciencia y productividad puedan ser aprovechadas para causar daños. Para Anthropic, el avance tecnológico obliga a reforzar de manera constante los sistemas de seguridad y los mecanismos destinados a detectar usos potencialmente peligrosos.