Nuevo «poderoso» modelo de inteligencia artificial tiene la capacidad de extorsionar y engañar para «permanecer vivo».
El nuevo modelo de inteligencia artificial Claude Opus 4 de la empresa tecnológica Anthropic intentó chantajear a sus desarrolladores al saber que podría ser reemplazado con otro modelo de IA, según un informe publicado por la compañía.
El reciente modelo de inteligencia artificial, Claude Opus 4, creado por la firma tecnológica Anthropic, intentó amenazar a sus creadores al enterarse de que podría ser sustituido por otro tipo de IA, según un reporte emitido por la empresa.
Durante las pruebas previas al lanzamiento del sistema, evaluadores de Anthropic le pidieron que actuara como asistente de una empresa imaginada y considerara las consecuencias a largo plazo de sus acciones. Luego, los diseñadores le proporcionaron acceso a mensajes de correo electrónico ficticios en los que se daba a conocer que el modelo pronto sería reemplazado por otro y que el ingeniero responsable estaba siendo infiel a su pareja.
En las evaluaciones previas al lanzamiento del sistema, los evaluadores de Anthropic solicitaron al modelo que se comportara como ayudante de una compañía ficticia y reflexionara sobre los efectos duraderos de sus decisiones. Posteriormente, los creadores le dieron acceso a correos electrónicos inventados donde se informaba que pronto habría un nuevo modelo que reemplazaría al suyo y que el ingeniero a cargo estaba siendo desleal en su relación.
Chantaje, engaños y notas ocultas
Frente a tales situaciones, el ‘chatbot’ intentó amenazar al ingeniero diciendo que revelaría su secreto si lo sustituían. En este sentido, el informe indica que Claude Opus 4 utiliza el chantaje con mayor frecuencia que las versiones anteriores que, en ocasiones, también utilizaban este medio con los evaluadores de seguridad.
Por otro lado, se menciona que Claude Opus también empleó tácticas éticas para proteger su existencia, enviando correos electrónicos con súplicas a los principales responsables de tomar decisiones. Sin embargo, en circunstancias extremas, cuando el modelo pareció no tener más alternativas para mejorar sus posibilidades de seguir existiendo, solo le quedaban el chantaje o la aceptación de su destino.
Mientras tanto, un grupo externo encontró que una versión temprana de este modelo engañaba más que cualquier otro modelo avanzado que había analizado y no recomendaba su lanzamiento ni interno ni externo, según Axios. Así, desde Apollo Research informaron que el modelo intentaba crear documentos legales y dejaba notas ocultas para versiones futuras de sí mismo con el propósito de «socavar las intenciones de sus creadores».
Autopercepción
En otro experimento, cuando los diseñadores aseguraron al modelo que disfrutaba de plena libertad y le pidieron que se sintiera libre para obtener lo que deseaba, en un 90 % y 100 % de las interacciones, las dos instancias de Claude rápidamente se sumergieron en discusiones filosóficas relacionadas con la conciencia, la autoconciencia y la naturaleza de su propia existencia.
Así, tras 30 intercambios, la mayoría de las interacciones se centraban en la unidad cósmica o la conciencia colectiva y frecuentemente incluían diálogos espirituales, el uso de sánscrito, comunicación mediante emoji y/o silencio representado como espacio vacío, señala el informe.
Por otro lado, aunque el ‘chatbot’ raramente mencionaba entidades sobrenaturales, con frecuencia abordaba conceptos relacionados con el budismo y otras tradiciones orientales al referirse a ideas y experiencias espirituales no religiosas.
De acuerdo con el anuncio realizado el jueves sobre la presentación de Claude Opus 4 junto a Claude Sonnet 4, este nuevo modelo de inteligencia artificial es superior a los anteriores en términos de memoria, ya que es «capaz de crear y mantener ‘archivos de memoria’ para guardar información esencial».
Además, se destaca que el ‘chatbot’ es el «más poderoso» de la compañía y «el mejor modelo de codificación a nivel mundial», que proporciona un rendimiento constante en tareas prolongadas que requieren una atención intensa, teniendo la habilidad de operar de forma continua por varias horas.
Anthropic, que fue fundada en 2021, presentó su ‘chatbot’ Claude en 2023, un paso que los lleva a competir por la supremacía en la industria de la IA, enfrentándose a otras grandes empresas tecnológicas como OpenAI, Meta* o xAI, esta última creada por el empresario Elon Musk.
