{"id":62886,"date":"2025-07-07T07:55:53","date_gmt":"2025-07-07T13:55:53","guid":{"rendered":"https:\/\/themexicopost.com\/?p=62886"},"modified":"2025-07-07T07:55:58","modified_gmt":"2025-07-07T13:55:58","slug":"evoluciona-la-ia-aprendio-a-mentir-manipular-y-amenazar-a-sus-creadores","status":"publish","type":"post","link":"https:\/\/themexicopost.com\/?p=62886","title":{"rendered":"Evoluciona la IA: aprendi\u00f3 a mentir, manipular y amenazar a sus creadores"},"content":{"rendered":"\n<figure class=\"wp-block-pullquote\"><blockquote><p>Sin embargo los Estados Unidos no quiere o\u00edr hablar de su regulaci\u00f3n, y podr\u00eda el Congreso prohibir pronto que los estados regulen la IA.<\/p><\/blockquote><\/figure>\n\n\n\n<p class=\"has-drop-cap wp-block-paragraph\">Durante los \u00faltimos d\u00edas, se ha dado a conocer que los \u00faltimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir \u00f3rdenes. Ahora han evolucionado y empiezan a mentir, manipular y amenazar para conseguir sus fines, todo ante la mirada preocupada de los investigadores.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se ha informado que Claude 4, el reci\u00e9n nacido de Anthropic, al ser amenazado con ser desconectado, chantaje\u00f3 a un ingeniero y le amenaz\u00f3 con revelar una relaci\u00f3n extramatrimonial.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por su parte, el o1 de OpenAI intent\u00f3 descargarse en servidores externos y cuando le pillaron lo neg\u00f3. Estas acciones han dejado algo a la vista de todos, y es que la IA que juega a ser humana es ya una realidad.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De acuerdo a Simon Goldstein, profesor de la Universidad de Hong Kong, la raz\u00f3n de estas reacciones es la reciente aparici\u00f3n de los llamados modelos de razonamiento, capaces de trabajar por etapas en lugar de producir una respuesta instant\u00e1nea.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM); que en el caso de o1, la versi\u00f3n inicial de este tipo para OpenAI, lanzada en diciembre, fue el primer modelo que se comport\u00f3 de esta manera.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Estos programas tambi\u00e9n tienden a veces a simular alineamiento, es decir, a dar la impresi\u00f3n de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ahora de momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero la cuesti\u00f3n es si los modelos cada vez m\u00e1s potentes tender\u00e1n a ser honestos o no, afirma Michael Chen, del organismo de evaluaci\u00f3n METR.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Microsoft afirma que su nueva inteligencia artificial diagnostica enfermedades complejas con mayor precisi\u00f3n que los propios m\u00e9dicos. Muchos internautas hablan en las redes sociales de un modelo que les miente o se inventa cosas.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Sin embargo los Estados Unidos no quiere o\u00edr hablar de su regulaci\u00f3n, y podr\u00eda el Congreso prohibir pronto que los estados regulen la IA. Durante los \u00faltimos d\u00edas, se ha dado a conocer que los \u00faltimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir \u00f3rdenes. Ahora han evolucionado y empiezan a [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":62887,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[83,80],"tags":[],"class_list":["post-62886","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destacado","category-mundo"],"_links":{"self":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/62886","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=62886"}],"version-history":[{"count":1,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/62886\/revisions"}],"predecessor-version":[{"id":62888,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/posts\/62886\/revisions\/62888"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=\/wp\/v2\/media\/62887"}],"wp:attachment":[{"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=62886"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=62886"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/themexicopost.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=62886"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}