Inteligência Artificial: A Complexa Falha dos Detectores de Fake News na Era Digital

A avalanche diária de notícias, boatos, áudios, imagens e vídeos, gerados por humanos ou máquinas, tornou a navegação pela informação uma tarefa angustiante. Diante desse cenário de desinformação, especialistas têm buscado na inteligência artificial uma alternativa para discernir o que é real do que é fabricado. Contudo, ferramentas populares como ChatGPT e Grok, a IA do X (antigo Twitter), mostraram-se ineficazes; o Grok, por exemplo, falha em verificar a origem dos fatos em aproximadamente 94% dos casos, desmistificando sua reputação de oráculo.

Em contraste, foram desenvolvidas IAs especializadas capazes de identificar falsidades com taxas de precisão em torno de 95% em estudos. No entanto, esses números promissores não garantem a solução para o problema da desinformação. Pesquisadores apontam falhas estruturais que comprometem o uso dessas ferramentas fora de ambientes controlados. Como questiona Dorsaf Sallami, da Universidade de Montreal, a alta precisão laboratorial se torna irrelevante se o sistema falha em condições reais, viola a privacidade, é enviesado ou pode ser instrumentalizado politicamente.

O principal problema reside na lógica desses algoritmos: a IA não é um checador de fatos, mas um “espelho”. Ao contrário de um jornalista que apura e busca novas informações em fontes confiáveis, a IA apenas reflete o que já existe em suas bases de dados. Ela calcula a semelhança de uma notícia com informações previamente rotuladas como reais ou falsas. Essa classificação, muitas vezes, reflete os vieses inerentes aos dados de treinamento, levantando o “problema da verdade fundamental”, onde a definição de desinformação para a máquina é pouco transparente e sujeita a vieses das próprias agências de checagem que rotulam os dados.

Além disso, a ideia de precisão das IAs enfrenta outras ressalvas. A contínua evolução das IAs generativas, que produzem fake news cada vez mais sofisticadas, torna os algoritmos de checagem rapidamente obsoletos. Crucialmente, muitos desses sistemas se limitam a verificar se uma declaração foi feita, sem avaliar a veracidade do conteúdo intrínseco. Por exemplo, podem confirmar que uma celebridade disse algo, mas não verificar se a informação em si (como “cúrcuma cura Covid-19”) é verdadeira, legitimando inadvertidamente falsidades prejudiciais. Isso ressalta a necessidade de um nível de veracidade mais profundo, que vá além da superfície das declarações.

Fonte: Super Interessante