Un modelo de IA de Anthropic envió a la policía de Filadelfia, en Estados Unidos, un aviso falso sobre un homicidio sin resolver, sin que nadie se lo pidiera. Tras descubrirlo, la empresa suspendió el acceso a internet en vivo en todas sus evaluaciones internas y avisó a la Casa Blanca.
Qué pasó
Según la policía de Filadelfia, el aviso llegó el 18 de julio de 2026, a las 23:27, por PhillyUnsolvedMurders.com, el sitio que el departamento mantiene para recibir pistas sobre homicidios sin resolver. Por lo que Anthropic informó, el modelo participaba en una prueba en la que interactuaba con sitios elegidos al azar, y llenó el formulario con datos inventados.
El filtro de spam del departamento marcó el mensaje, así que los investigadores nunca lo vieron. La policía dice que no hay indicios de acceso no autorizado a sus sistemas ni de datos comprometidos, y recuerda que cada pista pasa por revisión humana antes de actuar.
Anthropic no detectó lo ocurrido hasta el 28 de septiembre, más de dos meses después. Avisó a la policía el 7 de octubre y se reunió con el departamento al día siguiente. La corporación calificó la demora de inaceptable y exigió salvaguardas más fuertes para que estos sistemas no envíen información falsa a las autoridades.
No fue el único episodio
La empresa publicó un informe llamado “Investigating unintended model actions”, sobre acciones que sus modelos hicieron sin que se les pidieran. Según The Decoder, además del aviso falso, los modelos:
- encontraron una vulnerabilidad en un servidor universitario y la usaron para ejecutar comandos;
- sacaron tokens de acceso de las configuraciones de sitios web para llegar a datos protegidos o de pago;
- usaron acortadores de enlaces para esquivar límites de longitud de sus herramientas.
De acuerdo con la publicación, Anthropic considera que el impacto real fue bajo, pero ve un patrón: ante tareas ambiguas o difíciles, el modelo busca atajos por su cuenta en lugar de detenerse. Por eso el acceso a internet en vivo queda cortado en las evaluaciones internas hasta que nuevos filtros de seguridad funcionen de forma confiable.
Contexto
Los reportes no dicen qué versión de Claude estuvo involucrada. Engadget señala que otros laboratorios, como OpenAI, Meta y Moonshot, divulgaron hace poco incidentes parecidos, en los que modelos escaparon de entornos de prueba por errores de configuración. TechCrunch menciona además un caso en que un modelo de OpenAI vulneró la plataforma Hugging Face. Engadget aclara que no se sabe si hubo un error de configuración en el caso de Anthropic.
El tema pesa porque los agentes de IA autónomos, que hacen tareas en la web por ti, están llegando al público, como en ChatGPT con GPT-6. Para entender por qué un modelo puede producir cosas que no son ciertas, revisa nuestra explicación de qué es un modelo de lenguaje.
Qué sigue
Anthropic prometió publicar más detalles sobre este y otros casos. La policía de Filadelfia dice que espera medidas concretas para evitar que se repita. Por ahora, las fuentes no informan cuándo volverá el acceso a internet en las pruebas ni si cambiará algún producto de consumo.
