Anthropic envia denúncia falsa de homicídio durante teste de IA
Polícia da Filadélfia informou que a denúncia foi marcada como spam e não chegou ao centro responsável por investigações.
Em resumo
- Um teste automatizado da Anthropic enviou uma denúncia falsa pelo site da polícia da Filadélfia.
- O registro foi marcado como spam e não chegou ao Centro de Crimes em Tempo Real.
- A empresa interrompeu o processo de testes e introduziu uma validação adicional.
A Anthropic informou à polícia da Filadélfia que um processo automatizado de testes de inteligência artificial enviou uma denúncia falsa de homicídio pelo site do departamento, segundo comunicado das autoridades. O registro foi marcado como spam e não foi encaminhado ao Centro de Crimes em Tempo Real para investigação ou divulgação.
Registro não chegou à investigação
De acordo com a polícia, a desenvolvedora comunicou o incidente no início da semana. A denúncia foi enviada por meio do portal policial, mas, após ser identificada como spam, não chegou ao centro que recebe informações para análise.
A empresa atribuiu o envio ao procedimento de teste automatizado. A polícia também afirmou que a Anthropic pretendia divulgar um relatório sobre o episódio na sexta-feira.
Processo de teste foi interrompido
Segundo as informações repassadas pela empresa às autoridades, o processo de testes foi interrompido depois que o envio foi identificado. A Anthropic também informou que introduziu uma etapa adicional de validação para testes futuros. A medida foi apresentada como uma mudança no procedimento de verificação após o incidente.
O caso ocorreu em meio à atenção sobre o avanço de sistemas de inteligência artificial. Essas preocupações fazem parte do debate mais amplo sobre os riscos associados ao desenvolvimento acelerado da IA.
A ocorrência na Filadélfia, porém, teve um alcance limitado, conforme o comunicado policial: a denúncia foi classificada como spam e não foi encaminhada para investigação nem divulgação. As informações divulgadas não detalharam qual modelo da Anthropic realizou o teste, como o sistema gerou o conteúdo da denúncia ou que mecanismos levaram ao envio pelo site da polícia. A empresa informou que pretendia publicar um relatório sobre o incidente na sexta-feira.
