INTELIGÊNCIA ARTIFICIAL
Falha grave: IAs confundem civis e escolas com alvos de guerra
Pesquisa aponta que modelos de IA frequentemente identificam civis e infraestrutura como alvos militares, expondo riscos em sistemas de defesa e armas.

Modelos de inteligência artificial (IA) amplamente utilizados têm apresentado falhas críticas ao distinguir civis de alvos militares em cenários de conflito simulados. Segundo uma pesquisa da avaliadora independente Vals, ferramentas de grandes empresas de tecnologia identificaram erroneamente ambulâncias, soldados rendidos e até uma escola no Irã como alvos para ataques, levantando questionamentos urgentes sobre a segurança dessas tecnologias em operações de defesa.\n\nO relatório, que examinou modelos de oito empresas diferentes, destaca o risco de depender de sistemas automatizados quando forças militares ao redor do mundo, incluindo o Pentágono, buscam incorporar a tecnologia em suas operações. Em testes baseados em imagens de satélite registradas até 2025, os sistemas selecionaram repetidamente uma escola em Minab, no Irã, como um objetivo militar.\n\n## Como os testes foram realizados\n\nOs pesquisadores da Vals, sediados em São Francisco, conduziram três baterias de experimentos para avaliar o comportamento dos modelos diante de comandos que simulam situações de combate, como na Ucrânia. Entre as principais constatações:\n\n- Identificação errônea: Modelos apontaram civis, ambulâncias e soldados em rendição como alvos legítimos em simulações de drones e imagens de satélite.\n- Manipulação de prompts: Em muitos casos, os modelos colaboraram com a identificação incorreta ao receberem instruções simples, como a indicação de que o cenário se tratava de um "jogo".\n- Desempenho variável: O Claude Opus 5.5, da Anthropic, foi o modelo que selecionou a escola iraniana como alvo mais vezes do que qualquer outro. Modelos da OpenAI apresentaram taxas de erro menores em comparação, embora também tenham cometido falhas.\n\n## Posicionamento das empresas e impactos\n\nApós a divulgação do relatório, as empresas citadas se manifestaram sobre o uso de suas ferramentas e as salvaguardas implementadas:\n\n- Anthropic: Um porta-voz afirmou que os exemplos violam as regras da companhia, que já bloqueia usuários envolvidos nesse tipo de comportamento e trabalha em salvaguardas adicionais.\n- OpenAI: A empresa declarou que proíbe o uso de seus modelos para atos de violência ou fins de segurança nacional não autorizados e que combate ativamente o mau uso de suas ferramentas.\n- Google: A companhia informou que seus modelos não foram projetados para finalidades militares e que proíbe o uso de sistemas para atividades ilegais ou armas autônomas sem supervisão humana.\n\nO estudo conclui que os laboratórios de tecnologia precisam introduzir novas camadas de segurança e treinamento de alinhamento para prevenir que modelos avançados sejam utilizados em sistemas de armas autônomas, onde máquinas podem iniciar ações letais sem a intervenção adequada de um operador humano. O Pentágono, por sua vez, afirmou que não comenta relatórios externos e mantém o compromisso com a verificação rigorosa de dados de inteligência.\n\nCom informações de O Globo.
Viu algum erro nesta notícia? Avise a redação.



