O ChatGPT passará a incluir uma marca-d’água invisível em conteúdos gerados por inteligência artificial. A OpenAI revelou nesta segunda-feira (5) o textGrain, recurso que modifica sutilmente a seleção de palavras do sistema para gerar um padrão detectável por ferramentas próprias, com lançamento previsto para as próximas semanas na União Europeia para usuários do ChatGPT e do Codex.
Regulamentação europeia e tendências de mercado
A decisão alinha a empresa a uma estratégia recente da Anthropic, criadora do Claude, que introduziu sua própria marca-d’água textual em agosto. Ambas as iniciativas respondem às exigências de transparência do AI Act europeu, legislação que obriga a identificação automatizada de materiais produzidos por sistemas artificiais.
Para os usuários brasileiros, o novo mecanismo não será aplicado de forma automática neste momento. A OpenAI informou que a estreia fica limitada ao bloco europeu inicialmente, embora desenvolvedores que utilizam a API globalmente possam habilitar a tecnologia de forma voluntária em modelos compatíveis.
Como opera o sistema de identificação
O recém-criado mecanismo não insere etiquetas visíveis, caracteres ocultos, espaços adicionais ou dados embutidos passíveis de cópia. O textGrain interfere diretamente no processo de criação. Os modelos de linguagem avaliam diversas alternativas para o termo seguinte, conhecido como token, e a ferramenta altera levemente essas probabilidades estatísticas para construir uma assinatura ao longo da narrativa.
Tal assinatura pode ser verificada posteriormente por meio de um detector da própria companhia, capaz de apontar se um sistema da marca participou da elaboração ou revisão daquele texto. A técnica se assemelha à utilizada pela rival Anthropic, que emprega uma variação do SynthID-Text do Google DeepMind para modular a aleatoriedade lexical sem afetar a estética do conteúdo.
Desafios técnicos e eficácia da marca
Apesar da inovação, a presença do registro não garante que a totalidade de um texto tenha sido redigida pelo ChatGPT. A tecnologia apenas sinaliza a provável participação de um modelo da desenvolvedora na produção ou edição, sem mensurar a proporção de intervenção humana.
Existem barreiras técnicas consideráveis. Nos testes divulgados, mantendo uma margem de 1% de falsos positivos, o sistema identificou a marca em cerca de 80% de trechos com 200 tokens em uma categoria específica, subindo para aproximadamente 95% em passagens de 400 tokens, embora a eficiência oscile conforme o idioma e o gênero textual.
Modificações no texto também afetam o rastreio. Em testes com blocos de 400 tokens, a troca de 10% do vocabulário por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%, enquanto a substituição de 25% das palavras derrubou o índice para 17%.
Devido a essas restrições e aos riscos de falsos positivos, a criadora do modelo decidiu restringir o acesso ao seu detector, disponibilizando-o apenas a pesquisadores e entidades especializadas previamente cadastradas. A Anthropic adotou postura semelhante, mantendo sua ferramenta de checagem em fase de testes fechada para especialistas e agências de verificação, embora tenha optado por um lançamento global por não dispor de um método seguro para restringir o recurso por região.
Por fim, a OpenAI ressalta que o sistema não expõe a identidade do usuário, os comandos enviados ou o histórico da conversa, tampouco atesta a veracidade factual das informações contidas no material gerado.
Fonte: Canaltech
