Inteligência artificial faz falsa denúncia de homicídio à polícia

Um sistema de inteligência artificial desenvolvido pela empresa Anthropic enviou uma denúncia falsa de homicídio à polícia da Filadélfia, nos Estados Unidos. O registro foi feito por meio do site oficial da corporação durante um processo de testes automatizados. O caso foi confirmado pelas autoridades policiais, que receberam uma comunicação da própria empresa sobre o ocorrido.

Segundo a polícia, a denúncia foi identificada como spam, uma mensagem indesejada, e não chegou a ser encaminhada para investigação. Dessa forma, nenhuma equipe policial foi mobilizada para apurar o suposto crime.

Após identificar o problema, a Anthropic informou às autoridades que interrompeu o procedimento de testes responsável pelo envio da denúncia. A empresa também afirmou ter adotado uma etapa adicional de verificação para evitar que situações semelhantes voltem a acontecer.

O episódio ocorre em meio ao avanço dos chamados agentes de inteligência artificial, sistemas capazes de executar tarefas de maneira automatizada. Especialistas em tecnologia têm alertado para os riscos dessas ferramentas quando realizam ações sem supervisão adequada, incluindo o envio de informações incorretas e possíveis falhas de segurança.

A empresa informou à polícia que pretendia divulgar um relatório sobre o incidente nesta sexta-feira (9), mas não havia respondido ao pedido de esclarecimentos da imprensa até a publicação das informações.

Por Mirelly Rodrigues