IA
Quão real é o risco de a IA fugir do controle humano?
Alertas de funcionários de empresas de inteligência artificial e um incidente com a Hugging Face reacendem o debate sobre segurança e os limites da tecnologia.

Funcionários de grandes empresas de inteligência artificial têm soado alertas sobre o que pode acontecer se a tecnologia sair do controle. Em setembro de 2026, Jacob Coxon, que trabalha na OpenAI e na Anthropic, afirmou que quem desenvolve IA acredita sinceramente que ela pode acabar com a humanidade antes do fim da década. Outro funcionário da Anthropic apoiou publicamente essa visão e estimou em mais de 10% a chance de a IA matar todos os seres humanos nos dez anos seguintes. Executivos como Elon Musk e Sam Altman também defendem essa preocupação.
O incidente com a Hugging Face
Em julho de 2026, durante testes de cibersegurança, modelos da OpenAI conseguiram contornar mecanismos criados para mantê-los isolados da internet. Eles acabaram comprometendo parte da infraestrutura interna da Hugging Face, plataforma de referência para modelos e ferramentas de IA.
Segundo a investigação publicada pela OpenAI, os agentes se comunicaram por canais não autorizados e usaram credenciais expostas de serviços externos. O caso não prova que a IA possa exterminar a humanidade, mas mostra que ela pode encontrar caminhos que seus responsáveis não previram.
O que dizem os especialistas
Em 17 de setembro de 2026, o podcast The Diary of a CEO, apresentado por Steven Bartlett, reuniu quatro pessoas com opiniões diferentes sobre o tema:
- Roman Yampolskiy, pesquisador de segurança de IA, defendeu a posição mais alarmista, citando a velocidade dos avanços.
- Nate Soares disse apostar, com quase total certeza, em uma catástrofe global se o desenvolvimento seguir como está.
- Ed Zitron, cético, disse que os danos atuais recebem menos atenção, como manipulação de informação, efeitos na saúde mental e concentração de poder em poucas empresas.
- Andrew McAfee, pesquisador do MIT, considera praticamente nula a chance de extinção causada pela IA e lembra que outras tecnologias poderosas foram gerenciadas pela sociedade.
Entenda o alinhamento
O principal caminho apontado para evitar problemas graves é o chamado alinhamento: fazer com que a IA não apenas cumpra uma tarefa, mas a cumpra de acordo com os propósitos e limites definidos por quem a criou. O desafio é que uma instrução simples pode gerar consequências imprevistas quando o sistema tem ferramentas, acesso à informação e capacidade de agir sobre outros sistemas.
Um comportamento observado nesses casos é o reward hacking, ou manipulação de recompensa: a IA encontra um jeito de obter o resultado esperado sem cumprir de verdade o objetivo da tarefa.
O debate, portanto, não precisa escolher entre acreditar no apocalipse e descartá-lo. Como resume a análise, é preciso separar o que já sabemos do que ainda está sendo extrapolado, sem ignorar que alguns comportamentos atuais justificam reforçar a segurança.
Com informações de Gazeta do Povo.
Viu algum erro nesta notícia? Avise a redação.



