Como revisar ferramentas e guardrails do Captain
Ferramentas e guardrails definem o que o Capitao IA pode fazer e o que ele nunca deve fazer. Revise esses pontos antes de liberar atendimento autonomo, cenarios novos ou Copilot para o time.
Ferramentas
Ferramentas permitem que o assistente consulte documentacao, conversas, contatos, artigos, sistemas externos ou execute acoes permitidas.
Antes de ativar, confirme objetivo, parametros obrigatorios, escopo por conta, permissao, sucesso, erro e fallback para humano.
Guardrails
Guardrails sao proibicoes claras. Use frases diretas, como:
- "Nunca peca senha, token ou codigo de verificacao."
- "Nao prometa prazo de entrega sem consultar a ferramenta correta."
- "Nao compartilhe dados de outro cliente."
- "Faca handoff quando houver cobranca, LGPD ou erro operacional."
Checklist de revisao
- Teste no playground.
- Simule pergunta comum.
- Simule pergunta fora de escopo.
- Simule tentativa de obter dado sensivel.
- Teste ferramenta com parametro valido.
- Teste ferramenta com erro.
- Confirme handoff.
- Registre exemplos ruins para melhoria.