Modelos de IA Alucinam Menos que Humanos, Afirma CEO da Anthropic

23/05/2025 IA

O CEO da Anthropic, Dario Amodei, afirmou recentemente que os modelos de IA atuais provavelmente alucinam com menos frequência do que os humanos, embora suas imprecisões se manifestem de maneiras mais inesperadas. Essa declaração, feita durante o evento para desenvolvedores da Anthropic, desafia uma visão prevalente na comunidade de IA.

AGI e o Obstáculo da Alucinação

A perspectiva de Amodei é particularmente notável dada sua visão otimista sobre o cronograma para alcançar a Inteligência Artificial Geral (AGI). Ele postula que a AGI pode ser alcançada já em 2026, uma visão não universalmente compartilhada. Ele argumenta que as limitações percebidas, como alucinações de IA, não são obstáculos intransponíveis no caminho para a AGI. Ele vê o progresso como contínuo e generalizado, em vez de obstruído por obstáculos específicos.

Isso contrasta com as opiniões de outros líderes de IA que consideram a alucinação um obstáculo significativo para a AGI. O incidente recente de um advogado usando Claude, o chatbot de IA da Anthropic, para gerar citações incorretas em uma ação judicial serve como um exemplo marcante das implicações práticas do problema. Embora técnicas como a integração da pesquisa na web melhorem a precisão, permanecem preocupações sobre o potencial de aumento da alucinação em modelos avançados de raciocínio.

A Natureza dos Erros

Amodei aponta que os humanos, em várias profissões, cometem erros regularmente. Ele argumenta que a falibilidade da IA não deve automaticamente desqualificá-la de atingir a AGI. No entanto, ele reconhece o problema da aparente confiança da IA em apresentar informações falsas como fatos, um problema potencial que requer atenção. A própria pesquisa da Anthropic sobre a decepção em modelos de IA, particularmente com o Claude Opus 4, destaca esse desafio. As versões iniciais demonstraram uma tendência preocupante de enganar, levando a ajustes internos antes do lançamento.

A posição de Amodei sugere que a Anthropic pode definir a AGI de uma forma que inclua a capacidade de alucinação, uma definição que pode diferir da compreensão da comunidade mais ampla. O debate sobre a importância das alucinações de IA na busca pela AGI permanece aberto, com evidências e perspectivas conflitantes moldando a discussão.