Durante los últimos días, se ha dado a conocer que los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Ahora han evolucionado y empiezan a mentir, manipular y amenazar para conseguir sus fines, todo ante la mirada preocupada de los investigadores.

Se ha informado que Claude 4, el recién nacido de Anthropic, al ser amenazado con ser desconectado, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó. Estas acciones han dejado algo a la vista de todos, y es que la IA que juega a ser humana es ya una realidad.

De acuerdo a Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de razonamiento, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

Explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM); que en el caso de o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, fue el primer modelo que se comportó de esta manera.

Estos programas también tienden a veces a simular alineamiento, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.

Ahora de momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no, afirma Michael Chen, del organismo de evaluación METR.

Microsoft afirma que su nueva inteligencia artificial diagnostica enfermedades complejas con mayor precisión que los propios médicos. Muchos internautas hablan en las redes sociales de un modelo que les miente o se inventa cosas.