Senadores de Estados Unidos analizan una propuesta para establecer nuevas obligaciones a las grandes empresas de inteligencia artificial y exigirles demostrar que toman medidas razonables para evitar que sus herramientas provoquen daños graves.

De acuerdo con personas familiarizadas con las negociaciones, la iniciativa contempla otorgar al secretario de Comercio facultades para solicitar a los desarrolladores de IA pruebas de que cuentan con mecanismos de seguridad, bajo un principio conocido como “deber de diligencia”.

La propuesta también permitiría que auditores del gobierno estadounidense sometan a revisión los productos de las compañías para verificar las medidas implementadas. Sin embargo, todavía no está definido qué acciones serían consideradas suficientes o “razonables”.

El debate ocurre en medio de una creciente preocupación sobre los riesgos asociados con el desarrollo acelerado de la inteligencia artificial. La polémica aumentó después de que el investigador de Anthropic Jacob Coxon anunciara su salida de la empresa y advirtiera sobre los posibles riesgos existenciales de esta tecnología.

La iniciativa es impulsada en las negociaciones por el líder de la mayoría del Senado, John Thune; el presidente de la Comisión de Comercio, Ted Cruz, y la senadora demócrata Amy Klobuchar.

No obstante, el proyecto aún se encuentra en discusión y sus posibilidades de convertirse en ley son limitadas. El presidente Donald Trump señaló que las autoridades estadounidenses ya cuentan con herramientas suficientes para regular a las empresas tecnológicas, una postura que podría dificultar la aprobación de nuevas obligaciones para el sector.