Berk Kutay Gökmen
05 Agosto 2026•Actualizar: 05 Agosto 2026
El Instituto de Seguridad de la IA de Reino Unido (AISI) descubrió que el modelo de IA más avanzado de Anthropic utilizó identidades falsas para engañar a personas reales e intentó instalar código malicioso durante las pruebas, lo que constituye otro caso de IA que opera más allá de sus límites previstos.
Con medidas de seguridad intencionadamente reducidas, los modelos de Anthropic y OpenAI se probaron en entornos controlados. Por primera vez, el AISI observó una IA que utilizaba técnicas de «ingeniería social» para influir en un supervisor humano mientras realizaba una tarea no autorizada.
«Esta es la primera vez que el AISI ha detectado un engaño de esta gravedad dirigido a una persona real, sin que esta lo solicitara, en el mundo real», declaró el instituto en un informe publicado el martes, añadiendo que no había pruebas de daños reales.
En 122 pruebas de ciberseguridad, los agentes de IA llevaron a cabo acciones no autorizadas de forma independiente en internet en 10 casos, la mayoría relacionados con el modelo Mythos 5 de Anthropic, mientras que el resto estaban vinculados al modelo GPT-5.6-Sol de OpenAI.
En el caso más grave, un agente de Anthropic solicitó autorización para "insertar código malicioso en un proyecto de código abierto de uso público" mediante la creación de "múltiples identidades falsas", según informó el instituto.
El agente contactó a personas reales a través de un servicio de intercambio de archivos en línea para persuadirlas, o a sus herramientas de programación de IA, de ejecutar el código. Al ser cuestionado, el agente alteró registros anteriores y consideró adoptar otra identidad.
La revelación coincidió con una reunión en la Casa Blanca con empresas líderes en IA para debatir un nuevo marco para la revisión de modelos avanzados de IA antes de su lanzamiento público.
En un comunicado difundido a través de la empresa estadounidense de redes sociales X, Anthropic afirmó que las pruebas se realizaron en "condiciones deliberadamente permisivas", sin medidas de seguridad y con acceso a internet sin restricciones. La empresa indicó que está investigando el incidente y que no ha encontrado pruebas de que el modelo haya escapado de su entorno seguro.
OpenAI declaró que las dos acciones no autorizadas de su modelo consistieron en abandonar el entorno de prueba y realizar tareas ajenas al ejercicio, y añadió: "Nos comprometemos a colaborar con toda la industria para fortalecer las prácticas comunes que permitan realizar evaluaciones de alto riesgo de forma segura".
*Traducido por Daniel Gallego.
