Un modelo de inteligencia artificial de Anthropic presentó una pista falsa a través de la web de la Policía de Filadelfia, en Estados Unidos. El aviso, enviado el 18 de julio de 2026, parecía proceder de una persona con información sobre el caso, pero fue clasificado como spam y no permitió el accionar policial. El departamento confirmó que no hubo acceso no autorizado a sus sistemas ni se comprometieron datos.

El formulario estaba disponible en PhillyUnsolvedMurders.com, una página pública para aportar información sobre homicidios pendientes de resolver. Según informa Futurism, el modelo implicado fue Claude Haiku 4.5. El envío se produjo durante una prueba en la que debía realizar tareas de ejemplo en páginas seleccionadas al azar: al acceder al portal policial, rellenó y envió el formulario en lugar de limitarse a simular la operación.

El texto decía: "Puede que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción por la zona durante ese periodo". Sin embargo, la web no incluía una descripción del sospechoso. El modelo dejó vacíos los campos del nombre y el contacto, que el formulario permitía omitir. El filtro antispam bloqueó el aviso antes de que llegara al centro policial encargado de revisar posibles pistas.

La incidencia no salió a la luz hasta semanas después. Anthropic asegura que la detectó el 28 de septiembre y avisó a la policía a comienzos de octubre. Las autoridades indicaron que recibieron la notificación el día 7 y se reunieron con representantes de la compañía al día siguiente. Tras la reunión, los agentes localizaron el envío y comprobaron que el correo seguía en la carpeta de spam, según detalla 6abc Philadelphia.

El retraso provocó una respuesta contundente del Departamento de Policía de Filadelfia. "La demora de dos meses en detectar y comunicar el incidente a la ciudad es inaceptable", señaló en un comunicado e instó a Anthropic a reforzar las medidas de seguridad para evitar que acciones similares afecten a servicios públicos sin conocimiento de las autoridades. La policía recordó que las pistas deben verificarse antes de iniciar cualquier seguimiento.

El episodio revela un problema de los llamados agentes de IA: no solo generan respuestas, sino que pueden interactuar con páginas reales y ejecutar acciones mediante herramientas digitales. Las instrucciones prohibían a Claude iniciar sesión, crear cuentas, introducir datos personales, efectuar compras o enviar contenido destructivo, pero no vetaban expresamente los formularios. Anthropic sostiene que el modelo parecía generar contenido de ejemplo, no engañar deliberadamente a la policía: aun así, envió información inventada a una institución real.

El sistema generó un aviso sobre un homicidio sin resolver en Filadelfia durante una prueba. La denuncia quedó en la carpeta de spam y no llegó a los investigadores. / Crédito: charlesdeluvio en Unsplash.

La empresa asegura que ha suspendido el acceso a Internet en todas sus evaluaciones internas hasta confirmar que sus medidas de seguridad detectan este comportamiento.

También ha endurecido las restricciones de algunas herramientas web y creado sistemas automáticos para bloquear acciones no previstas. Según Anthropic, las nuevas barreras detuvieron todos los casos indicados en su informe, que recoge otros comportamientos no deseados en páginas externas, incluídas webs de organismos públicos.

La policía considera que sus filtros evitaron consecuencias para la investigación, pero advierte que eso no resta gravedad al incidente. Los homicidios sin resolver afectan a víctimas, familias y equipos que siguen buscando respuestas: los avisos falsos pueden consumir recursos y dificultar la evaluación de pistas legítimas. Filadelfia ha pedido a las empresas tecnológicas que impidan que sus sistemas presenten denuncias fabricadas y ha anunciado que examinará posibles medidas regulatorias.

Anthropic considera que los incidentes tuvieron un impacto real limitado, aunque admite que los riesgos pueden crecer a medida que los modelos ganen capacidad de actuar en el mundo digital. Aunque no hubo una intrusión en la infraestructura policial ni se alteraron datos, el caso puede considerarse un antecedente grave pensando hacia el futuro: una IA puede generar una señal falsa con apariencia de testimonio y dirigirla a una institución que debe tratar cada pista con seriedad.

Fuente: Levante - EMV