Ante el Consejo de Seguridad de la Organización de las Naciones Unidas (ONU), los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, respectivamente, lanzaron una advertencia sobre los riesgos asociados al rápido desarrollo de la inteligencia artificial (IA) y llamaron a los gobiernos a establecer mecanismos internacionales de supervisión.

Durante la sesión celebrada en Nueva York, en el marco de la Asamblea General de la ONU, Amodei sostuvo que la IA puede generar importantes avances científicos y médicos, pero advirtió que, si su desarrollo y utilización se gestionan de manera inadecuada, podría convertirse en un riesgo para la humanidad. También señaló que el ritmo de avance tecnológico podría llegar a superar la capacidad de las personas para mantener el control sobre sistemas cada vez más autónomos.

Altman coincidió en la necesidad de mantener a los seres humanos en el centro de las decisiones relacionadas con la IA. El responsable de OpenAI planteó que las decisiones más importantes sobre el futuro de esta tecnología no deberían quedar exclusivamente en manos de laboratorios privados y propuso que sean abordadas mediante procesos democráticos y con participación de los gobiernos.

Entre las medidas planteadas por Altman se encuentra la creación de estándares internacionales comunes para evaluar las capacidades de los modelos avanzados, verificar sus mecanismos de seguridad y establecer sistemas para reportar incidentes y vulnerabilidades. También propuso canales seguros para que gobiernos y empresas puedan compartir información sobre posibles amenazas.

Amodei, por su parte, planteó acuerdos internacionales para impedir que la IA sea utilizada para facilitar el desarrollo de armas biológicas, además de establecer estándares globales para someter a pruebas de seguridad a los nuevos modelos antes de su despliegue. El directivo también ha respaldado una mayor coordinación entre gobiernos y empresas para controlar los riesgos asociados a sistemas capaces de mejorar sus propias capacidades.

Ambos ejecutivos insistieron en que las compañías tecnológicas pueden adoptar medidas de seguridad por cuenta propia, pero consideraron que los riesgos asociados a sistemas cada vez más poderosos tienen una dimensión internacional que rebasa a cualquier empresa individual. Altman sostuvo que OpenAI está dispuesta a reducir el ritmo de lanzamiento de nuevos sistemas cuando sea necesario para garantizar su seguridad.

La discusión también estuvo marcada por el temor a una concentración excesiva del poder tecnológico. Durante la reunión se planteó que el problema no solamente está relacionado con lo que una IA pueda hacer, sino con quién controla sus capacidades, los recursos informáticos necesarios para desarrollarla y la información sobre sus riesgos.

La sesión ocurre mientras gobiernos, investigadores y compañías tecnológicas debaten cómo responder al avance de los llamados modelos de frontera, sistemas de IA cada vez más capaces de realizar tareas complejas con mayores niveles de autonomía. Expertos que participaron en la reunión señalaron como riesgos el uso malicioso de estas herramientas, la concentración de poder y la eventual pérdida de control humano.

El debate internacional, sin embargo, no es uniforme. Mientras Altman y Amodei defendieron una mayor cooperación y estándares internacionales, el presidente de Estados Unidos, Donald Trump, ha expresado su rechazo a establecer un esquema global de regulación de la inteligencia artificial, argumentando que no debe frenarse el desarrollo tecnológico estadounidense.

Con esta reunión, el Consejo de Seguridad volvió a colocar la inteligencia artificial dentro de la agenda de seguridad internacional, en momentos en que el desarrollo de sistemas cada vez más avanzados plantea interrogantes sobre ciberseguridad, armas biológicas, autonomía tecnológica, concentración económica y la capacidad de los gobiernos para mantener una supervisión efectiva.