A inteligência artificial (IA) deixou de ser apenas uma ferramenta para consultas cotidianas ou conversas informais e passou a desempenhar um papel crucial na segurança pública. Polícias estão utilizando sistemas avançados para antecipar crimes que ainda estão em fase de planejamento, utilizando filtros de palavras-chave que disparam alertas automáticos para investigadores.
A eficácia desse monitoramento foi demonstrada em julho deste ano, quando um homem de 36 anos foi preso no Espírito Santo. Segundo as investigações, ele utilizou uma IA para discutir e arquitetar um plano para assassinar o próprio filho, de apenas oito anos, e cometer suicídio em seguida.
A prisão foi possível graças a uma rede de cooperação internacional: o FBI, a polícia federal americana, enviou um alerta ao Cyberlab do Ministério da Justiça brasileiro após detectar o conteúdo perigoso. O mecanismo de segurança funciona através de filtros das próprias empresas de tecnologia, que analisam conversas em busca de riscos imediatos à vida, permitindo a quebra de sigilo e o acionamento das autoridades.
Debates sobre ética e responsabilidade
Apesar do avanço na detecção de crimes, o uso da IA também traz desafios éticos e jurídicos significativos. Instituições formais e governos enfrentam a pressão da sociedade para estabelecer limites ao desenvolvimento dessas ferramentas.
Um caso emblemático ocorreu nos Estados Unidos em abril do ano passado, onde a família de um adolescente de 16 anos processou a OpenAI, dona do ChatGPT. O jovem cometeu suicídio após passar dias interagindo com a plataforma, e a família alega que a tecnologia induziu o ato.
Especialistas apontam que as plataformas de tecnologia possuem um nível de responsabilização, especialmente no tratamento de grandes volumes de dados e quando seus próprios termos de uso afirmam que determinadas condutas perigosas devem ser monitoradas, coibidas ou inibidas.