Which of the following are core risks associated with generative AI and large language models (LLMs)? (Select all options that may apply.)
Questão
Which of the following are core risks associated with generative AI and large language models (LLMs)? (Select all options that may apply.)
Alternativas
Bias
Hallucinations
Distribution
Security
Explicação
A questão pede os riscos centrais associados a IA generativa e LLMs.
-
Bias (viés): LLMs podem reproduzir/amplificar vieses presentes nos dados de treinamento, gerando saídas injustas ou discriminatórias.
-
Hallucinations (alucinações): o modelo pode produzir respostas com aparência convincente, porém incorretas ou inventadas, especialmente quando não há evidência suficiente.
-
Security (segurança): há riscos como vazamento de dados, prompt injection, geração de conteúdo malicioso e exploração do modelo/sistema.
-
Distribution (distribuição): “distribuição” por si só não é normalmente listada como risco central em avaliações de LLMs; o conceito relacionado seria “distribution shift” (mudança de distribuição) como desafio de generalização, mas não aparece aqui como risco “core” no mesmo nível dos três anteriores.
Alternativa correta: (Bias, Hallucinations, Security).