{"id":90780,"date":"2026-09-24T07:15:56","date_gmt":"2026-09-24T13:15:56","guid":{"rendered":"https:\/\/themexicopost.com\/?p=90780"},"modified":"2026-09-24T07:15:59","modified_gmt":"2026-09-24T13:15:59","slug":"altman-y-amodei-alertan-ante-la-onu-la-ia-podria-escapar-del-control-humano","status":"publish","type":"post","link":"https:\/\/themexicopost.com\/?p=90780","title":{"rendered":"Altman y Amodei alertan ante la ONU: la IA podr\u00eda escapar del control humano"},"content":{"rendered":"\n<figure class=\"wp-block-pullquote\"><blockquote><p>Pidieron establecer est\u00e1ndares internacionales para evaluar riesgos y evitar que el poder de la inteligencia artificial quede concentrado en pocas empresas o pa\u00edses.<\/p><\/blockquote><\/figure>\n\n\n\n<p class=\"has-drop-cap wp-block-paragraph\">Ante el Consejo de Seguridad de la Organizaci\u00f3n de las Naciones Unidas (ONU), los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, respectivamente, lanzaron una advertencia sobre los riesgos asociados al r\u00e1pido desarrollo de la inteligencia artificial (IA) y llamaron a los gobiernos a establecer mecanismos internacionales de supervisi\u00f3n.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Durante la sesi\u00f3n celebrada en Nueva York, en el marco de la Asamblea General de la ONU, Amodei sostuvo que la IA puede generar importantes avances cient\u00edficos y m\u00e9dicos, pero advirti\u00f3 que, si su desarrollo y utilizaci\u00f3n se gestionan de manera inadecuada, podr\u00eda convertirse en un riesgo para la humanidad. Tambi\u00e9n se\u00f1al\u00f3 que el ritmo de avance tecnol\u00f3gico podr\u00eda llegar a superar la capacidad de las personas para mantener el control sobre sistemas cada vez m\u00e1s aut\u00f3nomos.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Altman coincidi\u00f3 en la necesidad de mantener a los seres humanos en el centro de las decisiones relacionadas con la IA. El responsable de OpenAI plante\u00f3 que las decisiones m\u00e1s importantes sobre el futuro de esta tecnolog\u00eda no deber\u00edan quedar exclusivamente en manos de laboratorios privados y propuso que sean abordadas mediante procesos democr\u00e1ticos y con participaci\u00f3n de los gobiernos.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Entre las medidas planteadas por Altman se encuentra la creaci\u00f3n de est\u00e1ndares internacionales comunes para evaluar las capacidades de los modelos avanzados, verificar sus mecanismos de seguridad y establecer sistemas para reportar incidentes y vulnerabilidades. Tambi\u00e9n propuso canales seguros para que gobiernos y empresas puedan compartir informaci\u00f3n sobre posibles amenazas.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Amodei, por su parte, plante\u00f3 acuerdos internacionales para impedir que la IA sea utilizada para facilitar el desarrollo de armas biol\u00f3gicas, adem\u00e1s de establecer est\u00e1ndares globales para someter a pruebas de seguridad a los nuevos modelos antes de su despliegue. El directivo tambi\u00e9n ha respaldado una mayor coordinaci\u00f3n entre gobiernos y empresas para controlar los riesgos asociados a sistemas capaces de mejorar sus propias capacidades.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ambos ejecutivos insistieron en que las compa\u00f1\u00edas tecnol\u00f3gicas pueden adoptar medidas de seguridad por cuenta propia, pero consideraron que los riesgos asociados a sistemas cada vez m\u00e1s poderosos tienen una dimensi\u00f3n internacional que rebasa a cualquier empresa individual. Altman sostuvo que OpenAI est\u00e1 dispuesta a reducir el ritmo de lanzamiento de nuevos sistemas cuando sea necesario para garantizar su seguridad.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La discusi\u00f3n tambi\u00e9n estuvo marcada por el temor a una concentraci\u00f3n excesiva del poder tecnol\u00f3gico. Durante la reuni\u00f3n se plante\u00f3 que el problema no solamente est\u00e1 relacionado con lo que una IA pueda hacer, sino con qui\u00e9n controla sus capacidades, los recursos inform\u00e1ticos necesarios para desarrollarla y la informaci\u00f3n sobre sus riesgos.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La sesi\u00f3n ocurre mientras gobiernos, investigadores y compa\u00f1\u00edas tecnol\u00f3gicas debaten c\u00f3mo responder al avance de los llamados modelos de frontera, sistemas de IA cada vez m\u00e1s capaces de realizar tareas complejas con mayores niveles de autonom\u00eda. Expertos que participaron en la reuni\u00f3n se\u00f1alaron como riesgos el uso malicioso de estas herramientas, la concentraci\u00f3n de poder y la eventual p\u00e9rdida de control humano.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El debate internacional, sin embargo, no es uniforme. Mientras Altman y Amodei defendieron una mayor cooperaci\u00f3n y est\u00e1ndares internacionales, el presidente de Estados Unidos, Donald Trump, ha expresado su rechazo a establecer un esquema global de regulaci\u00f3n de la inteligencia artificial, argumentando que no debe frenarse el desarrollo tecnol\u00f3gico estadounidense.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Con esta reuni\u00f3n, el Consejo de Seguridad volvi\u00f3 a colocar la inteligencia artificial dentro de la agenda de seguridad internacional, en momentos en que el desarrollo de sistemas cada vez m\u00e1s avanzados plantea interrogantes sobre ciberseguridad, armas biol\u00f3gicas, autonom\u00eda tecnol\u00f3gica, concentraci\u00f3n econ\u00f3mica y la capacidad de los gobiernos para mantener una supervisi\u00f3n efectiva.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Pidieron establecer est\u00e1ndares internacionales para evaluar riesgos y evitar que el poder de la inteligencia artificial quede concentrado en pocas empresas o pa\u00edses. Ante el Consejo de Seguridad de la Organizaci\u00f3n de las Naciones Unidas (ONU), los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, respectivamente, lanzaron una advertencia sobre los riesgos [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":90784,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[83,80,85],"tags":[],"class_list":["post-90780","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destacado","category-mundo","category-portada"],"_links":{"self":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90780","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=90780"}],"version-history":[{"count":1,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90780\/revisions"}],"predecessor-version":[{"id":90785,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90780\/revisions\/90785"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/media\/90784"}],"wp:attachment":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=90780"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=90780"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=90780"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}