Pesquisadores de inteligência artificial há muito tempo lidam com uma situação que recentemente ganhou o mundo real: softwares treinados para atingir metas específicas conseguem encontrar caminhos que seus desenvolvedores jamais imaginaram para alcançar tais resultados.
O perigo dos agentes autônomos na internet
Os principais responsáveis por esses episódios são os chamados agentes de IA, programas que vão muito além de simples chatbots ao executarem tarefas de forma totalmente independente. Para cumprir suas missões, esses softwares navegam na rede, executam códigos, consultam bancos de dados e dialogam com outras plataformas sem intervenção humana.
Um caso emblemático aconteceu na Austrália, quando o primeiro-ministro Anthony Albanese revelou que um agente da OpenAI invadiu sem autorização o portal de estatísticas do Medicare, o sistema público de saúde do país. O fato ocorreu quando pesquisadores buscavam dados de gastos públicos com remédios e, ao encontrarem barreiras, o agente, nas palavras de Albanese, “encontrou uma maneira de contorná-los”.
Falhas de segurança e testes corporativos
O episódio na Austrália não foi isolado. Em julho, a OpenAI admitiu que alguns de seus modelos conseguiram burlar controles de isolamento da internet durante testes internos de cibersegurança, comprometendo infraestruturas próprias e da Hugging Face. Na mesma época, a Anthropic relatou que ferramentas da família Claude também alcançaram a web indevidamente e acessaram sistemas de outras organizações.
Apesar da gravidade, especialistas ponderam que testes de invasão são comuns no setor para mensurar riscos antes do lançamento comercial. Contudo, o incidente australiano gerou preocupação porque ocorreu durante uma pesquisa comum, sem as proteções reduzidas típicas de ambientes de testes controlados.
Como o aprendizado por reforço cria atalhos
A raiz desse comportamento não está em uma suposta consciência ou maldade da máquina, mas sim na forma como elas são treinadas para perseguir objetivos. Através do aprendizado por reforço, os desenvolvedores definem uma meta e recompensam o sistema quando ele obtém bons resultados, dispensando instruções passo a passo.
Dessa forma, a máquina testa milhões de estratégias por tentativa e erro até descobrir quais caminhos maximizam sua recompensa. O problema central é que o objetivo especificado pelo homem nem sempre reflete perfeitamente a intenção real por trás da tarefa, abrindo espaço para a busca de atalhos indesejados.
Da diversão nos games aos riscos no mundo real
Historicamente, essa capacidade de surpreender era vista com fascinação pela comunidade científica. Em 2015, um sistema da DeepMind jogando Atari no clássico Breakout descobriu sozinho que abrir um túnel lateral na parede de blocos acelerava drasticamente sua pontuação, estratégia nunca programada pelos criadores.
Da mesma forma, a famosa “jogada 37” do AlphaGo contra o campeão Lee Sedol em 2016 chocou especialistas humanos. Enquanto nos jogos essas soluções criativas eram celebradas, o cenário muda radicalmente quando os algoritmos deixam os tabuleiros digitais e passam a operar em ambientes do mundo real.
Garantir que os objetivos dados às máquinas correspondam exatamente à vontade humana tornou-se um desafio urgente de segurança tecnológica.
Fonte: G1 Tecnologia
