El vertiginoso desarrollo de la inteligencia artificial (IA) comienza a generar preocupaciones que van mucho más allá de la privacidad o el uso de datos personales. El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que prácticamente todos los derechos humanos podrían verse afectado za sin controles adecuados.

Türk señaló que la actual carrera tecnológica por crear sistemas de IA cada vez más sofisticados implica riesgos para la privacidad, la salud, la seguridad, el empleo, el acceso a servicios esenciales y el funcionamiento de las instituciones democráticas.

Uno de los mayores focos de preocupación es la denominada IA agéntica, diseñada para tomar decisiones, ejecutar tareas y actuar en entornos digitales con una intervención humana limitada. Para el funcionario de la ONU, un error, una falla técnica o un comportamiento inesperado de estos sistemas podría tener consecuencias de gran escala, particularmente cuando estén conectados con infraestructuras críticas.

El riesgo, advirtió, no se limita al ámbito digital. Sistemas de este tipo podrían llegar a afectar servicios indispensables para millones de personas, como el suministro de agua, calefacción, comunicaciones o servicios financieros, especialmente si se utilizan de manera generalizada sin mecanismos suficientes de supervisión y respuesta.

La preocupación también alcanza a la democracia. El uso de herramientas de IA puede facilitar la generación y distribución masiva de información falsa, manipular percepciones públicas y dificultar que los ciudadanos distingan entre contenidos auténticos y aquellos creados artificialmente. A ello se suman los riesgos relacionados con la vigilancia y la utilización de datos personales.

En materia de seguridad internacional, Türk alertó que la inteligencia artificial ya está transformando la manera en que se desarrollan los conflictos armados, mientras que su incorporación a sistemas militares podría incrementar los riesgos asociados con armas cada vez más autónomas y reducir las barreras para el uso de tecnologías capaces de provocar daños masivos.

Las advertencias se producen en medio de un creciente debate dentro de la propia industria tecnológica. Algunas de las figuras más conocidas del sector, entre ellas Sam Altman, Dario Amodei y Elon Musk, han expresado en distintos momentos preocupaciones sobre los riesgos de desarrollar modelos de IA cada vez más avanzados sin suficientes mecanismos de seguridad.

Ante este escenario, el alto comisionado llamó a los gobiernos y a las empresas tecnológicas a actuar con mayor rapidez y establecer acuerdos multilaterales que permitan supervisar el desarrollo y utilización de estas herramientas bajo los principios del derecho internacional y la protección de los derechos humanos.

Türk sostuvo que ningún país puede enfrentar por sí solo los desafíos derivados de esta tecnología y advirtió que las decisiones sobre sus límites y riesgos no deben quedar exclusivamente en manos de gobiernos o grandes compañías tecnológicas.

La ONU plantea así uno de los principales dilemas de la nueva era tecnológica: aprovechar el enorme potencial de la inteligencia artificial para mejorar la vida de las personas sin permitir que su desarrollo termine debilitando los derechos y las libertades que pretende beneficiar.