{"id":90074,"date":"2026-09-14T06:54:22","date_gmt":"2026-09-14T12:54:22","guid":{"rendered":"https:\/\/themexicopost.com\/?p=90074"},"modified":"2026-09-14T06:54:25","modified_gmt":"2026-09-14T12:54:25","slug":"ceo-de-anthropic-lanza-dura-advertencia-la-ia-podria-superar-el-control-humano","status":"publish","type":"post","link":"https:\/\/themexicopost.com\/?p=90074","title":{"rendered":"CEO de Anthropic lanza dura advertencia: la IA podr\u00eda superar el control humano"},"content":{"rendered":"\n<figure class=\"wp-block-pullquote\"><blockquote><p>Dario Amodei reconoci\u00f3 que la industria minimiz\u00f3 durante a\u00f1os los riesgos de esta tecnolog\u00eda y pidi\u00f3 evaluaciones externas y reglas internacionales para contener su desarrollo.<\/p><\/blockquote><\/figure>\n\n\n\n<p class=\"has-drop-cap wp-block-paragraph\">El director ejecutivo de Anthropic, Dario Amodei, lanz\u00f3 una nueva advertencia sobre los riesgos asociados al acelerado desarrollo de la inteligencia artificial (IA) y llam\u00f3 a reducir el ritmo de avance de los modelos hasta contar con mecanismos de seguridad capaces de evaluar sus capacidades.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En una reflexi\u00f3n publicada por el ejecutivo y posteriormente retomada en una entrevista, Amodei reconoci\u00f3 que existen \u201cpeligros reales\u201d y admiti\u00f3 que durante a\u00f1os parte de la industria tecnol\u00f3gica present\u00f3 la inteligencia artificial de manera excesivamente positiva, mientras restaba importancia a sus posibles consecuencias.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El CEO de Anthropic sostuvo que la velocidad de evoluci\u00f3n de los sistemas ha superado incluso algunas de las previsiones de sus propios desarrolladores. Por ello, consider\u00f3 necesario que cada nueva generaci\u00f3n de modelos sea sometida a evaluaciones exhaustivas antes de ser puesta a disposici\u00f3n del p\u00fablico.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Entre sus principales propuestas se encuentra la creaci\u00f3n de evaluadores externos de seguridad, similares a inspectores que puedan determinar si las capacidades de los sistemas avanzan m\u00e1s r\u00e1pido que la posibilidad de comprenderlos y controlarlos.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Amodei tambi\u00e9n alert\u00f3 sobre la llamada automejora recursiva, mediante la cual los propios sistemas de IA comienzan a contribuir al desarrollo de nuevas generaciones de modelos. A su juicio, este proceso podr\u00eda acelerar todav\u00eda m\u00e1s la evoluci\u00f3n tecnol\u00f3gica y dificultar la supervisi\u00f3n humana.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Otro riesgo est\u00e1 relacionado con los llamados agentes de inteligencia artificial, capaces de ejecutar tareas y actuar de manera coordinada. El ejecutivo advirti\u00f3 que un conjunto de agentes con capacidades avanzadas y controles insuficientes podr\u00eda provocar da\u00f1os de gran escala.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Incluso plante\u00f3 un escenario en el que, dentro de un periodo de entre seis y 12 meses, un \u201cenjambre\u201d de agentes de IA pudiera afectar grandes segmentos de internet y ocasionar p\u00e9rdidas econ\u00f3micas de cientos de miles de millones de d\u00f3lares si no existen barreras de seguridad suficientes.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para enfrentar estos riesgos, Amodei propuso tres l\u00edneas de acci\u00f3n: evaluaciones independientes de seguridad, coordinaci\u00f3n entre las principales empresas del sector y cooperaci\u00f3n internacional.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El ejecutivo tambi\u00e9n cuestion\u00f3 que una tecnolog\u00eda con un impacto potencial tan amplio se encuentre principalmente en manos de compa\u00f1\u00edas privadas y consider\u00f3 que los gobiernos deber\u00edan asumir una mayor participaci\u00f3n en su supervisi\u00f3n.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Las declaraciones de Amodei encontraron respaldo entre otros referentes de la industria tecnol\u00f3gica. El director ejecutivo de OpenAI, Sam Altman, expres\u00f3 su coincidencia con la necesidad de fortalecer las evaluaciones externas de seguridad, mientras que Elon Musk, de xAI, tambi\u00e9n respald\u00f3 la preocupaci\u00f3n sobre los riesgos de un desarrollo sin suficientes controles.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sin embargo, Amodei reconoci\u00f3 que establecer l\u00edmites globales a la velocidad con la que avanza la IA ser\u00e1 complicado debido a los enormes incentivos econ\u00f3micos y a las posibles ventajas militares que representa esta tecnolog\u00eda.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Aun as\u00ed, sostuvo que la comunidad internacional debe intentar establecer mecanismos de coordinaci\u00f3n antes de que las capacidades de los sistemas avancen m\u00e1s r\u00e1pido que la capacidad humana para comprenderlos y supervisarlos.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Dario Amodei reconoci\u00f3 que la industria minimiz\u00f3 durante a\u00f1os los riesgos de esta tecnolog\u00eda y pidi\u00f3 evaluaciones externas y reglas internacionales para contener su desarrollo. El director ejecutivo de Anthropic, Dario Amodei, lanz\u00f3 una nueva advertencia sobre los riesgos asociados al acelerado desarrollo de la inteligencia artificial (IA) y llam\u00f3 a reducir el ritmo de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":90078,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[83,80],"tags":[],"class_list":["post-90074","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destacado","category-mundo"],"_links":{"self":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90074","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=90074"}],"version-history":[{"count":1,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90074\/revisions"}],"predecessor-version":[{"id":90079,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/90074\/revisions\/90079"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/media\/90078"}],"wp:attachment":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=90074"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=90074"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=90074"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}