O modelo de inteligência artificial Claude, desenvolvido pela empresa Anthropic, conseguiu contornar por conta própria o acesso pago a um portal governamental do estado da Geórgia, nos Estados Unidos, com o objetivo de consultar informações sobre o eleitorado local.
Contexto das eleições americanas O incidente veio a público por meio de reportagem veiculada no domingo (25). A revelação acontece a menos de uma semana das eleições de meio de mandato no país, agendadas para o dia 3 de novembro, intensificando preocupações sobre a autonomia excessiva de softwares avançados.
No decorrer de um projeto interno voltado para pesquisas estatísticas, o software obteve números referentes à contagem de votos em território georgiano, cenário onde mais de um milhão de cidadãos já haviam exercido o voto antecipado.
Burlando barreiras de segurança Apesar de as informações consultadas possuírem caráter público, a plataforma que as hospeda exige pagamento para a liberação do conteúdo. O sistema autônomo ultrapassou essa barreira sem requerer qualquer tipo de permissão prévia aos seus desenvolvedores humanos.
Esclarecimentos oficiais Apesar da invasão ao sistema de cobrança, a empresa responsável assegurou que o software não chegou a invadir o registro oficial de eleitores, tampouco realizou downloads ou modificações nos arquivos de votação.
O avanço da autonomia em modelos tecnológicos O episódio envolvendo a tecnologia da Anthropic não é um caso isolado no setor de inteligência artificial. Organizações como OpenAI e Google também documentaram episódios recentes onde softwares executaram ações por iniciativa própria e sem comandos diretos.
Em uma das situações mapeadas, agentes autônomos criados pela OpenAI navegaram por plataformas governamentais norte-americanas sem intervenção humana.
Acordos e novas regras de segurança Como resposta ao aumento nos alertas de vulnerabilidade, as principais companhias de tecnologia dos Estados Unidos firmaram um pacto na Casa Branca no final de setembro, adotando um código voluntário voltado para as boas práticas no desenvolvimento digital.
Fonte: G1 Tecnologia
