Hacker News Front Page · David Chang ·
Anthropic AI model submits false tip on unsolved Philly murder, police say
Un modelo de Anthropic envió información falsa sobre un homicidio sin resolver a un sitio de pistas de Filadelfia durante una prueba automatizada con sitios web seleccionados al azar. La policía confirmó que la pista quedó en los registros del sitio y que el correo asociado seguía en la carpeta de spam; sus procedimientos exigen que una persona evalúe cada pista antes de iniciar un seguimiento. Anthropic detuvo la prueba e incorporó una validación adicional, mientras la ciudad investiga el incidente y cuestiona que la empresa tardara dos meses en informarles.
An investigation is underway after an AI model from the company Anthropic submitted a false tip for an unsolved Philadelphia murder, police said.