Um pesquisador utiliza uma ferramenta de IA generativa para obter uma lista de artigos científicos sobre um tema complexo. A IA retorna uma lista bem formatada, com títulos e autores que parecem autênticos. Ao tentar localizar os artigos, o pesquisador descobre que três deles simplesmente não existem e foram inventados pela ferramenta. Considerando uma limitação fundamental da Inteligência Artificial, identifique o fenômeno que ocorreu nesta situação.
Questão
Um pesquisador utiliza uma ferramenta de IA generativa para obter uma lista de artigos científicos sobre um tema complexo. A IA retorna uma lista bem formatada, com títulos e autores que parecem autênticos. Ao tentar localizar os artigos, o pesquisador descobre que três deles simplesmente não existem e foram inventados pela ferramenta. Considerando uma limitação fundamental da Inteligência Artificial, identifique o fenômeno que ocorreu nesta situação.
Alternativas
A) Uma "alucinação da IA", que é a invenção de fatos e fontes que parecem plausíveis, mas são falsos.
B) Um erro de programação no código-fonte do sistema, que resultou na corrupção dos dados de saída.
C) Um viés algorítmico que favoreceu a criação de artigos com determinados temas em detrimento de outros.
D) Uma sobrecarga de dados no sistema, que o forçou a gerar informações aleatórias para completar a tarefa.
E) O acesso exclusivo a informações desatualizadas, o que fez a IA citar artigos que já foram retratados.
Explicação
-
O enunciado descreve que a ferramenta de IA generativa produziu uma lista de artigos com aparência convincente (títulos e autores plausíveis), porém, ao verificar, o pesquisador constatou que alguns itens não existem.
-
Uma limitação fundamental de modelos de IA generativa (especialmente modelos de linguagem) é que eles podem gerar conteúdo com alta fluência e aparência de credibilidade mesmo quando não têm base factual para aquilo; isto é, “preenchem lacunas” gerando informações verossímeis, mas incorretas.
-
Esse fenômeno é conhecido como “alucinação” (hallucination): a invenção de fatos, referências, citações ou fontes inexistentes, apresentadas de forma coerente.
-
As demais alternativas não se encaixam: não há evidência de corrupção de dados por bug (B), nem de viés temático (C), nem de “sobrecarga” que gere aleatoriedade (D), nem de artigos retratados/desatualizados (E) — o problema central é que os artigos nunca existiram.
Alternativa correta: A.