Também chamado de: Barreiras de proteção, regras de segurança
Guardrails são regras de segurança em volta de uma IA. Eles impedem respostas ou ações indesejadas.
Exemplo
Um bot de atendimento não pode prometer descontos e encaminha essas perguntas a uma pessoa.
Para profissionais
Eles atuam em várias camadas: no modelo, no prompt de sistema, como filtros de entrada e saída e como permissões de ferramentas. Nenhuma camada é segura sozinha.
