Por que escrever regras diretamente no prompt do sistema não é um controle de segurança infalível?
Questão
Por que escrever regras diretamente no prompt do sistema não é um controle de segurança infalível?
Alternativas
A
Os avisos do sistema custam muito caro.
B
Resposta certa
As regras são escritas no mesmo idioma do ataque, permitindo que os atacantes as ignorem.
C
Os avisos do sistema são verificados apenas uma vez por dia.
D
O prompt do sistema não pode ser atualizado após a implantação.
Explicação
Porque regras no prompt do sistema são apenas instruções em linguagem natural. Como o conteúdo malicioso (prompt injection) também é linguagem natural, um atacante pode tentar sobrescrever, contornar ou induzir o modelo a desobedecer essas instruções. Ou seja, não é uma barreira técnica/isolada: é o mesmo “canal” textual, então não garante segurança por si só.
Carregando…