Ao tratar respostas de IA como palavra da empresa, jurisprudência europeia acaba com o refúgio da neutralidade algorítmica e impõe a acurácia factual como custo de operação.
Por mais de duas décadas, a jogada de mestre das plataformas de internet foi se vestir de correio. Google, Meta e YouTube não eram autores de conteúdo, mas meros transportadores — tubos passivos por onde a informação de terceiros fluía. Essa ficção jurídica lhes deu o escudo da Seção 230 nos EUA e equivalentes na Europa, blindando-os contra processos por difamação ou erros alheios. Mas uma corte alemã acabou de rasgar esse roteiro. Segundo um recente e emblemático ruling reportado pela imprensa especializada, o Google pode ser responsabilizado por erros factuais em seus AI Overviews. A mensagem é clara: quando a máquina sintetiza e fala por conta própria, a empresa não é mais um correio; é a autora.
A genialidade da decisão está na quebra de um falso paradoxo tecnológico. Como observa Bruce Schneier, citado por Simon Willison, agentes de IA são, para todos os efeitos legais, agentes de quem os implanta. Se uma empresa contrata escritores humanos para produzir resumos, ela é processada se esses resumos forem mentirosos ou difamatórios. Não existe motivo racional para que o mesmo princípio não se aplique a um modelo de linguagem. Na minha opinião, permitir o contrário não seria apenas um erro jurídico, mas um subsídio disfarçado à incompetência corporativa. Afinal, por que contratar humanos — ou arcar com o ônus de suas falhas — se um algoritmo erra de graça, protegido por um manto de complexidade técnica?
O argumento de que a IA é imprevisível por natureza não deveria ser uma defesa, mas uma acusação. Lançar no mercado um sistema que cospe declarações como se fossem fatos, sem conseguir garantir sua veracidade, é uma escolha de design, não um acidente cósmico. A indústria de tecnologia generativa construiu seu modelo de negócios sobre a premissa de que a moderação de conteúdo pode ser reativa: você publica primeiro, remove se alguém reclamar. Mas a IA não publica conteúdo de terceiros; ela inventa o próprio. Isso muda a engenharia do risco.
O que a Alemanha sinaliza é que o jogo comercial mudou. A isenção de responsabilidade só fazia sentido quando a plataforma era um índice, um catálogo de links. Ao entregar uma resposta direta e sintetizada na barra de busca, o Google se posiciona como um oráculo. E oráculos não podem alegar neutralidade diante das próprias profecias. A exigência agora não é mais apenas filtrar o que é impróprio após a queixa, mas garantir acurácia factual antes da publicação. Isso é um custo operacional monumental, e deveria ser.
A ironia fina dessa virada é que ela força a mão da própria tecnologia. Se a garantia de acurácia se torna um requisito legal para evitar litígios financeiramente letais, as empresas terão que investir muito mais em retrieval-augmented generation (RAG), checagem de fontes e arquiteturas de segurança do que em marketing. A lei, nesse caso, pode ser o melhor amigo da confiabilidade — e o pior inimigo do hype. No fim das contas, a decisão alemã nos lembra de uma verdade que a euforia tech tentou apagar: se você automatiza a fala, você automatiza a responsabilidade.
A corte alemã estabelece que o Google pode ser responsabilizado por erros factuais em seus AI Overviews. Ao sintetizar e gerar respostas próprias, a empresa deixa de ser apenas uma 'transportadora' neutra de informações e passa a ser tratada como autora do conteúdo.
A jurisprudência encerra o escudo da neutralidade algorítmica para respostas de IA. A exigência passa a ser garantir a acurácia factual antes da publicação, e não apenas moderar conteúdo de terceiros após uma reclamação, transformando a checagem em um custo operacional obrigatório.
Lançar um sistema que apresenta invenções como fatos sem garantir sua veracidade é considerado uma escolha de design, não um acidente. Agentes de IA são legalmente agentes de quem os implanta, significando que a empresa é responsável pelas falhas do algoritmo, assim como seria com falas humanas.