Campbell Brown, Ex-Líder de Notícias da Meta, Expõe Riscos da IA na Disseminação de Informações e Lança Iniciativa Crítica
A inteligência artificial generativa está rapidamente se tornando o principal canal de informação para milhões de pessoas. No entanto, a precisão e a confiabilidade das respostas fornecidas por esses modelos são uma preocupação crescente, especialmente em assuntos de alto impacto.
Campbell Brown, com sua vasta experiência como jornalista e primeira chefe de notícias do Facebook (agora Meta), identifica um paralelo preocupante com o passado. Ela vê a história se repetindo, onde a busca por informação confiável pode ser comprometida pela velocidade e escala da IA.
Diante desse cenário, Brown decidiu agir. Sua nova empresa, a Forum AI, dedica-se a avaliar o desempenho de modelos de fundação em “tópicos de alto risco”, como geopolítica, saúde mental, finanças e contratação, áreas onde as respostas não são binárias e exigem profunda nuance.
O Papel Crucial da Forum AI na Avaliação de Tópicos Sensíveis
A Forum AI adota uma abordagem inovadora para garantir a precisão. A empresa reúne especialistas de renome mundial para criar benchmarks rigorosos em áreas críticas. Posteriormente, juízes de IA são treinados para avaliar os modelos em larga escala, comparando suas respostas com o conhecimento especializado.
Para o trabalho em geopolítica, Brown recrutou figuras proeminentes como Niall Ferguson, Fareed Zakaria, o ex-Secretário de Estado Tony Blinken, o ex-Presidente da Câmara Kevin McCarthy e Anne Neuberger, que liderou a cibersegurança na administração Obama. O objetivo é alcançar um consenso de aproximadamente 90% entre os juízes de IA e esses especialistas humanos, um marco que a Forum AI já demonstrou ser factível.
A fundação da Forum AI, há 17 meses, foi motivada por um momento específico. “Eu estava na Meta quando o ChatGPT foi lançado publicamente”, Brown relembrou. “E logo percebi que este seria o funil pelo qual toda a informação fluiria. E ele não é muito bom.” A preocupação com o impacto em seus próprios filhos a impulsionou a agir, pensando: “Meus filhos ficarão muito burros se não descobrirmos como consertar isso.”
Desafios Atuais dos Modelos de IA em Tópicos de Alto Risco
O que mais frustrava Brown era a aparente falta de prioridade dada à precisão pelas empresas de modelos de fundação. Ela observou que essas companhias estão “extremamente focadas em codificação e matemática”, enquanto o trabalho com notícias e informações é mais desafiador. Contudo, Brown argumenta que “mais difícil não significa opcional.”
As avaliações iniciais da Forum AI nos modelos líderes não foram encorajadoras. Brown citou o caso do Gemini extraindo informações de sites do Partido Comunista Chinês para “histórias que não têm nada a ver com a China”. Ela também notou um viés político de esquerda em quase todos os modelos testados.
Falhas mais sutis também abundam, incluindo a falta de contexto, a omissão de perspectivas e a distorção de argumentos sem o devido reconhecimento. “Ainda há um longo caminho a percorrer”, disse Brown. “Mas também acredito que existem algumas correções muito fáceis que melhorariam vastamente os resultados.”
Lições do Passado e o Futuro da Informação na Era da IA
Brown passou anos na Facebook observando as consequências de uma plataforma otimizada para os objetivos errados. “Falhamos em muitas das coisas que tentamos”, ela disse a Fernholz. O programa de verificação de fatos que ela construiu não existe mais.
A lição, mesmo que as mídias sociais tenham se esquecido dela, é que a otimização para engajamento tem sido prejudicial para a sociedade, deixando muitas pessoas menos informadas. Sua esperança é que a IA possa quebrar esse ciclo.
“Neste momento, pode ir para qualquer um dos lados”, ela afirmou. As empresas poderiam dar aos usuários o que eles querem, ou “dar às pessoas o que é real, o que é honesto e o que é verdadeiro.” Ela reconheceu que a versão idealista disso, a IA otimizando para a verdade, pode soar ingênua.
No entanto, ela acredita que o setor corporativo pode ser um aliado improvável. Empresas que utilizam IA para decisões de crédito, empréstimos, seguros e contratação se preocupam com a responsabilidade legal. “Elas vão querer que você otimize para acertar.”
O Desafio da Monetização e a Realidade da Conformidade em IA
Essa demanda corporativa é em que a Forum AI aposta seu negócio. Contudo, transformar o interesse em conformidade em receita consistente ainda é um desafio. Grande parte do mercado atual se contenta com auditorias de “checkbox” e benchmarks padronizados que Brown considera inadequados.
O cenário de conformidade, segundo ela, “é uma piada”. Quando Nova York aprovou a primeira lei de viés em contratação, exigindo auditorias de IA, o controlador do estado descobriu que mais da metade das empresas falharam em detectar violações.
A avaliação real, ela explicou, requer expertise de domínio para trabalhar não apenas com cenários conhecidos, mas também com casos extremos que “podem te colocar em apuros de formas que as pessoas não pensam”. E esse trabalho leva tempo. “Generalistas inteligentes não vão resolver.”
A empresa de Brown, que no outono passado levantou US$ 3 milhões liderados pela Lerer Hippeau, está em uma posição única para descrever o descompasso entre a autoimagem da indústria de IA e a realidade para a maioria dos usuários.
“Você ouve dos líderes das grandes empresas de tecnologia: ‘Essa tecnologia vai mudar o mundo’, ‘vai te deixar sem trabalho’, ‘vai curar o câncer'”, ela disse. “Mas, para uma pessoa comum que está apenas usando um chatbot para fazer perguntas básicas, elas ainda estão recebendo muita informação de baixa qualidade e respostas erradas.”
Conclusão Estratégica: Navegando o Futuro da Informação Gerada por IA
A confiança na IA está em níveis extraordinariamente baixos, e Brown acredita que esse ceticismo é, em muitos casos, justificado. “A conversa está acontecendo no Vale do Silício sobre uma coisa, e uma conversa totalmente diferente está acontecendo entre os consumidores.” A lacuna entre a promessa tecnológica e a experiência do usuário real é vasta, especialmente em áreas onde a precisão é fundamental.
O impacto econômico direto dessa desinformação gerada por IA pode ser sentido em decisões de investimento equivocadas, diagnósticos de saúde incorretos e escolhas financeiras prejudiciais. Indiretamente, a erosão da confiança pública em fontes de informação pode levar a uma maior polarização social e instabilidade.
Oportunidades financeiras surgem para empresas que, como a Forum AI, se dedicam a garantir a qualidade e a confiabilidade da informação gerada por IA. Há um mercado crescente para auditoria, validação e desenvolvimento de IA responsável, especialmente em setores regulamentados como finanças e saúde.
Riscos financeiros se concentram nas empresas de IA que não priorizam a precisão e a ética, enfrentando potenciais litígios, danos à reputação e perda de mercado. Para investidores, o desafio é identificar quais empresas estão realmente comprometidas com a entrega de resultados confiáveis, e não apenas com a velocidade de desenvolvimento.
A tendência futura aponta para uma maior demanda por transparência e responsabilização na criação e uso de IA. O cenário provável é um aumento na regulamentação e na pressão pública para que os modelos de IA sejam mais confiáveis, especialmente em aplicações críticas. Empresas que anteciparem e se adaptarem a essa necessidade terão uma vantagem competitiva significativa.
Este conteúdo é de caráter exclusivamente informativo e educacional. Não constitui recomendação de investimento, consultoria financeira ou oferta de qualquer ativo. Consulte um profissional habilitado antes de tomar decisões financeiras.
O que você pensa sobre o futuro da informação com a ascensão da IA? Compartilhe sua opinião, dúvidas ou críticas nos comentários abaixo.
