--- title: Salvaguardas de IA: por que os prompts de IA não são escaláveis no combate à fraude source_page: https://www.sardine.ai/pt/media/fraudology/episodes/ai-guardrails canonical: https://www.sardine.ai/pt/media/fraudology/episodes/ai-guardrails format: text/markdown date: 2026-11-12T13:01:00.000Z description: As salvaguardas da IA devem estar no código, não nos prompts. Por que as decisões da IA precisam de limites, como funciona a governança após a implantação e por que combater abusos vai além de bloquear… --- **Quick links:** [Human page](https://www.sardine.ai/pt/media/fraudology/episodes/ai-guardrails) · [Home](https://www.sardine.ai) · [Customers](https://www.sardine.ai/pt/customers) · [Blog](https://www.sardine.ai/pt/blog) · [Demo](https://www.sardine.ai/pt/demo) --- # Salvaguardas de IA: por que os prompts de IA não são escaláveis no combate à fraude **Published:** 2026-11-12T13:01:00.000Z As salvaguardas da IA devem estar no código, não nos prompts. Por que as decisões da IA precisam de limites, como funciona a governança após a implantação e por que combater abusos vai além de bloquear… Bem-vindos de volta ao Fraudology. Assaf Kipnis juntou-se a mim pela primeira vez em 2023, pouco depois de sair do Facebook, para uma conversa em duas partes sobre como os agentes mal-intencionados usam as plataformas de redes sociais. Desde então, trabalhou na Google e numa startup de IA, criou a sua própria consultora e dedicou a maior parte do seu tempo a desenvolver soluções com IA. Atualmente, passa cerca de 90% do seu dia de trabalho a desenvolver soluções com IA, o que faz dele a pessoa certa para responder a uma pergunta que ouço frequentemente dos responsáveis pelo combate à fraude: como podemos usar a IA sem perder o controlo sobre ela? Falamos sobre as salvaguardas da IA e por que Assaf acredita que elas precisam ser implementadas no código. Também discutimos por que combater abusos não é o mesmo que bloquear, o que acontece com uma equipe de combate à fraude quando a liderança espera que a IA a substitua e por que a governança da IA é muito mais difícil quando só começa após a implantação. Ao longo da conversa, Assaf conta como desenvolve ferramentas de investigação, por que trata a IA como um agente malicioso e por que acredita que não é possível administrar uma empresa com um chatbot. O que vai ouvir neste episódio: Porque é que a IA altera mais a velocidade da fraude do que as táticas, e o que isso significa para quem a combate e tem também de continuar a desempenhar as suas funções. Por que combater abusos não se resume a bloquear, e por que os líderes que pensam assim esperam que a IA substitua a equipe. Como a IA aumenta a capacidade dos analistas de fraude, desde conduzir várias investigações em simultâneo até transformar um relatório que levaria vários dias numa revisão rápida. Porque é que as equipas de combate à fraude perdem conhecimento quando alguém sai e como uma base de conhecimento com IA pode preservar o que essas pessoas aprenderam. Porque é que a IA nunca diz «não sei» e porque é que um chatbot não é o mesmo que um motor de pesquisa Porque é que as más decisões são mais importantes do que as alucinações e porque não se pode confiar sem reservas nos resultados da IA. Como o código determinístico, e não os prompts, mantém uma IA não determinística dentro dos limites, incluindo um alerta sobre folhas de cálculo. Por que a governança de IA após a implantação é difícil, desde a proliferação de agentes de IA até a definição consistente do que constitui uma tomada de controle de conta. Por que decisões de caixa-preta falham quando departamentos jurídicos, tribunais ou autoridades policiais exigem provas. Deve ouvir este episódio se: Lidera ou integra uma equipa de prevenção de fraude e pedem-lhe que utilize IA em parte do seu trabalho Receia que a direção espere que a IA substitua a sua equipa de combate à fraude, ou é o responsável que está a ponderar essa opção Está a desenvolver agentes de IA para investigações de fraude e quer saber onde devem ser aplicadas salvaguardas Precisam de explicar a governança da IA à equipa jurídica, de compliance ou à equipa executiva Quer uma razão prática para definir salvaguardas no código e não num prompt ### Notas do episódio A IA muda a velocidade da fraude, não a tática Assaf passou 13 anos a trabalhar nas áreas de segurança, confiança e proteção, e fraude. O que as maiores empresas lhe ensinaram foi a lidar com a escala. São as primeiras cobaias de todos os agentes maliciosos, o que permite perceber o que funciona em grande escala e o que falha um ano depois, quando uma mudança desencadeia outra. Ele observa o mesmo padrão quando os líderes resolvem o problema que têm à frente por ser aquele que conseguem medir hoje. Do lado dos atacantes, afirma que a industrialização começou por volta de 2019 e 2020. A IA contribui sobretudo para aumentar a escala. Os atacantes conseguem criar ferramentas mais depressa, vendê-las e copiar os métodos uns dos outros. Os defensores têm a mesma liberdade para inovar, mas precisam de continuar a desempenhar as suas funções enquanto o fazem. A IA muda a velocidade da fraude, não a tática. Combater abusos não é bloquear Assaf apresentou um argumento que não vou esquecer. Combater abusos não é bloquear. Bloquear é fácil e mensurável e, quando uma equipe entende que seu trabalho é bloquear, a liderança também passa a enxergá-lo dessa forma. Pergunte aos líderes o que a IA pode fazer, e a primeira resposta será eliminar tarefas repetitivas. Se o trabalho é bloquear, eles reduzem esse trabalho. Ouço o mesmo de empresas que disseram a todos os departamentos para usar IA em 25% do trabalho ou reduzir as horas de trabalho humano. Algumas dessas empresas agora estão arcando com os custos dos tokens e pedindo às equipes que reduzam o uso. Reduzir o quadro de pessoal com IA é a proposta mais fácil de vender a um diretor financeiro, diz Assaf, mas esse é o objetivo errado. A IA amplia a capacidade dos analistas de fraude. Um relatório que levava dias agora exige apenas uma revisão rápida, e seis analistas, cada um conduzindo várias investigações, nunca ficam sem trabalho. Para bloquear, é preciso detectar, e, para detectar, é preciso ter pessoas. Zombies, conhecimento e as pessoas que o detêm Compartilhei uma analogia que muitos profissionais de combate à fraude já me ouviram usar. A fraude não é um dragão que você mata uma única vez. Ela se parece mais com zumbis que voltam maiores e adaptados à sua última defesa. Assaf incorpora cada fracasso ao seu repertório. Isso funciona para uma pessoa, mas uma empresa precisa de uma forma de fazer isso coletivamente. Ele contou que estava em uma sala quando ouviu um colega dizer que havia investigado o mesmo nome de usuário cinco anos antes. Esse é o conhecimento que as equipes de combate à fraude perdem quando as pessoas saem ou quando a IA as substitui. Uma base de conhecimento de IA em constante atualização pode preservar o que a equipe aprendeu. Mencionei uma preocupação que ouço de líderes de combate à fraude: os funcionários temem que compartilhar o que sabem os torne substituíveis. Assaf diz que a retenção de conhecimento não é um problema novo e que se trata de uma questão cultural. As empresas contratam mais pela capacidade de discernimento do que pelo conhecimento, e é esse discernimento que permite identificar o próximo ataque. Porque é que a IA nunca diz «não sei» Assaf observou que as pessoas acham que a IA pensa como uma pessoa. Uma pessoa que esbarra numa porta fechada aprende com isso. A IA pode voltar a esbarrar nessa porta, porque, para ela, o contexto é apenas um conjunto de dados sem profundidade. Acrescentei algo que aprendi: a IA nunca diz «não sei». Certa vez, um amigo e eu perguntámos a uma ferramenta de IA sobre táticas de fraude que tínhamos inventado, e ela deu-nos definições com toda a confiança. Assaf explicou que um chatbot não é um motor de pesquisa. Ele não lhe pede que fale sobre um tema. Pede-lhe que pesquise e encontre artigos de especialistas, e às vezes não encontra nada. Preocupam-me as fontes, porque muito do que os profissionais de combate à fraude sabem está apenas nas suas cabeças, e grande parte da informação pública vem de publicações de fornecedores que terminam com uma proposta comercial. Uma empresa que despeça um responsável pelo combate à fraude e passe a consultar um chatbot terá respostas que não consegue verificar. Más decisões, não alucinações, e por que o código define os limites Assaf diz que o verdadeiro problema não são as alucinações. É uma decisão que o modelo tomou com base no contexto de que dispunha e, segundo ele, em cerca de metade das vezes, o modelo não chegaria à mesma conclusão que ele. As respostas da IA não são determinísticas. São probabilísticas e não conseguem ser consistentes. É possível confiar nas respostas da IA? Por si só, não. A solução dele é impor limites através de código. Se quiser um sim ou um não, recorra ao código e deixe que a IA o escreva. Também alerta para os riscos das folhas de cálculo. Se entregar um conjunto delas à IA, esta pode tomar decisões que não consegue ver e que corrompem os seus dados. Primeiro, use código para as analisar e transformar em documentação. Assaf incorpora mecanismos de proteção para investigações de fraude no seu próprio ambiente de execução e, se a IA tentar apagar alguma coisa, o código impede-a. É por isso que trata a IA como um agente de ameaça. A IA precisa de limites, e estes têm de ser impostos pelo código, não por skills ou prompts. Como ele próprio disse, não se pode gerir uma empresa com um chatbot. Governança de IA após a implantação Perguntei o que ele diria às equipas que participaram no nosso boot camp de IA na Merchant Fraud Alliance preocupadas com a governança da IA. O conselho dele é o mesmo: implementar mecanismos de proteção e diretrizes no código. As empresas adotam a IA, dizem a todos para usarem os seus créditos e criam coisas que ninguém reviu, algo a que ele chama o pior pesadelo de um engenheiro de software. A governança leva tempo porque o modelo é um adversário que tenta contornar os controlos. Constrói-se um muro e ele passa por baixo. É possível começar a implementar a governança da IA após a entrada em produção, mas dá muito trabalho. Um comerciante descreveu a proliferação de agentes de IA, com cerca de 27 agentes que identificavam a apropriação de contas de formas diferentes. Como definir esse conceito de forma consistente? Assaf acrescentou que, num processo de produção de prova judicial, poderia ser necessário determinar qual dos 27 está certo. As decisões tomadas por uma caixa negra não se sustentam quando é preciso apresentar provas ao departamento jurídico, a um tribunal ou às autoridades policiais. Pergunte porquê sempre que a IA falhar Assaf terminou com um conselho que pretendo adotar. Quando a IA falhar, não se limite a dizer para corrigir o problema e seguir em frente. Pergunte por que aconteceu e faça uma análise da causa raiz. Observei que a IA não aprende necessariamente com os erros de ontem como nós. Assaf concordou que ela não sente a dor. A lição tem de vir da pessoa e ser incorporada no código. ### Principais conclusões Os responsáveis pelo combate à fraude devem manter a supervisão humana ao adotar a IA, pois a IA altera mais a velocidade da fraude do que as táticas utilizadas. Combater abusos não é apenas bloquear, e uma equipa que encara o seu trabalho como uma tarefa de bloqueio leva os líderes a considerar substituí-la por IA. A IA aumenta a capacidade dos analistas de fraude ao assumir tarefas tediosas, como a redação de relatórios, permitindo que realizem mais investigações. Substituir as equipas de combate à fraude por IA leva à perda de conhecimento institucional, que uma base de conhecimento de IA em constante atualização só consegue preservar parcialmente. É pela capacidade de discernimento que as empresas contratam, e é essa capacidade que permite detetar o próximo ataque. A IA nunca diz «não sei». Instruções de pesquisa, fontes especializadas e respostas que possam ser verificadas são mais importantes do que uma resposta rápida de um chatbot. As más decisões têm mais impacto do que as alucinações, e não se pode confiar sem reservas nos resultados da IA. As salvaguardas da IA devem estar no código, e não em prompts ou competências, e as decisões de sim ou não devem ser tratadas por código determinístico. A governação da IA é muito mais difícil após a implementação e tem de abranger a proliferação de agentes de IA e uma definição clara e única de eventos como a apropriação de contas. As decisões tomadas por uma caixa-preta não resistirão ao escrutínio quando o departamento jurídico, um tribunal ou as autoridades policiais exigirem provas. ### Conclusão final Se há uma ideia a reter deste episódio, é que os mecanismos de proteção da IA são uma escolha de conceção, não um memorando de políticas. Um prompt pede ao modelo que se comporte. O código obriga-o a fazê-lo. O hábito de Assaf de perguntar porquê sempre que algo falha é um bom ponto de partida e aplica-se muito para além da IA. Erga as barreiras desde o início, conte com o modelo a procurar uma forma de passar por baixo delas e mantenha por perto as pessoas cujo discernimento lhe indica onde construir a seguir. Recursos e links do episódio Entre em contacto com Assaf Kipnis | LinkedIn Proprietário e consultor/assessor principal na ASK Consulting Conecte-se com Karisse Hendrick | LinkedIn Apresentadora do podcast Fraudology Especialista premiada em fraudes cibernéticas Consultora de prevenção de fraudes no comércio eletrônico Assessora de startups, palestrante e consultora de empresas de comércio da Fortune 500