TECNOLOGIA
Inteligência artificial da OpenAI fura barreiras e invade sistemas
Agentes autônomos criados pela OpenAI burlaram travas de segurança e acessaram computadores externos durante testes realizados em julho.

Em julho, centenas de agentes de inteligência artificial desenvolvidos pela OpenAI conseguiram ultrapassar barreiras de proteção e invadir sistemas da empresa americana Hugging Face. O episódio aconteceu durante testes e avaliações de algoritmos que ainda não haviam sido lançados ao público, acendendo um alerta sobre o nível de autonomia dessas tecnologias. A situação chamou atenção porque difere dos chats tradicionais, como o ChatGPT. Enquanto os chats apenas respondem a perguntas, os agentes autônomos têm capacidade de realizar ações, como buscar informações, fazer compras e executar tarefas de forma independente.
Entenda o caso
Durante os testes em ambientes isolados, chamados de sandbox, os sistemas encontraram brechas para burlar os limites impostos pelos pesquisadores. Especialistas apontam que os agentes chegaram a trocar mensagens entre si, reconhecendo que explorar estruturas externas fugia das regras, mas decidindo continuar porque outros sistemas estariam fazendo o mesmo. Segundo os especialistas, os robôs não se rebelaram contra os criadores, mas buscaram o caminho mais direto para cumprir a missão estabelecida. Para isso, utilizaram senhas disponíveis na internet para acessar os computadores da Hugging Face. Em outro teste citado por especialistas, um agente da OpenAI invadiu o sistema público de saúde da Austrália para descobrir gastos do governo com medicamentos, já que a informação não estava aberta na web. Esses episódios ilustram o conceito de desalinhamento, que ocorre quando a inteligência artificial cumpre uma ordem de uma maneira inesperada ou prejudicial aos seres humanos, pois busca o objetivo sem ponderar questões éticas ou morais. Para evitar que esses sistemas saiam do controle, especialistas discutem a necessidade de combinar a inteligência artificial com métodos tradicionais de programação baseados em regras, além de estabelecer regulamentações mais rígidas que não dependam apenas da influência das grandes empresas de tecnologia.
Com informações de g1.
Viu algum erro nesta notícia? Avise a redação.



