Como construímos uma IA que explica dinheiro sem alucinar
Uma IA que erra um número em um app de finanças não é uma esquisitice, é um dano. Veja como construímos assistentes que explicam crédito, orçamento e dívida em 13 idiomas sem inventar conselhos nem números.
Svetlana Burninova
CTO & Co-Founder
A IA da YPA-FINANCE explica conceitos financeiros, ela nunca inventa conselhos nem números. Cada cálculo que toca no seu dinheiro roda em código auditado, não em um modelo de linguagem. Este post é sobre como traçamos essa linha, e por que é a decisão de engenharia mais importante por trás dos nossos assistentes de IA.
Quando as pessoas ouvem "assistente financeiro de IA", geralmente imaginam um chatbot que responde perguntas sobre dinheiro. Essa é a parte fácil. A parte difícil, a parte sobre a qual quase ninguém fala, é garantir que ele nunca diga algo falso com confiança. Na maioria dos produtos, uma alucinação é um print constrangedor. Em um app de finanças usado por alguém que navega o sistema de um país novo no segundo idioma, é uma pessoa tomando uma decisão real com base em um número que inventamos.
Então quero contar como construímos isso de verdade: onde deixamos a IA falar livremente, onde não deixamos chegar perto, e os limites de segurança no meio.
Uma alucinação em finanças não é uma esquisitice. É dano.
Modelos de linguagem grandes preveem texto plausível. É o que eles fazem. Na maior parte do tempo, plausível e correto se sobrepõem, e é exatamente isso que torna a lacuna perigosa, porque ela é invisível até deixar de ser.
Pergunta para um chatbot de propósito geral "se eu pagar 200 dólares por mês em um saldo de 5.000 dólares a 24% de APR, quando vou estar livre da dívida?" e ele vai te dar uma resposta confiante, específica, bem formatada. Às vezes está certa. Às vezes erra por um ano. Você não consegue saber qual só olhando, e nem a pessoa que precisou fazer a pergunta consegue.
Agora soma os nossos usuários reais: imigrantes e recém-chegados que muitas vezes não têm uma rede financeira de segurança, um pai que já conhece o sistema, ou inglês fluente para conferir um parágrafo que soa seguro. A razão inteira pela qual estão usando YPA-FINANCE é que eles *não conseguem* verificar essas coisas facilmente sozinhos. Esse não é um usuário a quem podemos entregar um chute plausível. Então projetamos em torno de uma regra dura: o modelo nunca é a fonte da verdade para nada que precise estar correto.
Explicar ≠ aconselhar
A linha mais importante que traçamos é entre explicar e aconselhar.
Explicar é: "O APR é o custo anual de pegar dinheiro emprestado, incluindo os juros. Um APR de 24% significa que, aproximadamente, para cada 100 dólares que você mantém no cartão durante um ano, cerca de 24 dólares são adicionados em juros." Isso é um conceito. É estável, é verdadeiro independentemente da sua situação específica, e a IA pode explicar em palavras simples, em qualquer um dos nossos 13 idiomas.
Aconselhar é: "Você deveria colocar 300 dólares neste cartão e parar de usar o outro." Isso é uma prescrição sobre o dinheiro de uma pessoa específica. Depende de números que precisam ser exatos, e carrega consequências se estiver errado.
Nossa IA faz a primeira coisa. Ela é deliberadamente construída para não fazer a segunda. Essa fronteira não é uma limitação pela qual nos desculpamos, é um recurso de segurança. Uma ferramenta que explica como o crédito funciona te dá poder para tomar sua própria decisão. Uma ferramenta que silenciosamente toma a decisão por você, baseada em um chute, é exatamente do que estamos tentando proteger as pessoas.
Os limites de segurança, na prática
Veja como essa fronteira aparece no sistema real.
A matemática roda em código, não no modelo. Cada cálculo, prazos de quitação de dívida, juros pagos, comparações entre estratégias de pagamento, roda em código determinístico e testado. A mesma lógica por trás do Calculator PRO. O modelo de linguagem nunca faz a aritmética. Quando você faz uma pergunta que precisa de um número, o trabalho do modelo é reconhecer o que você está perguntando e passar para a calculadora, depois explicar o resultado no seu idioma. O número é calculado; só a explicação é gerada. Se o motor de cálculo não consegue responder, a IA diz isso, ela não improvisa.
As explicações são ancoradas, não livres. Quando a IA explica um conceito, ela está trabalhando a partir do nosso próprio conteúdo financeiro verificado, o mesmo material por trás dos nossos guias, não daquilo que ela por acaso absorveu no treinamento. Ancorar a resposta em uma fonte conhecida é o que impede que "o que é um pagamento mínimo" derive em uma invenção confiante.
O escopo é limitado de propósito. O assistente é construído para falar sobre crédito, orçamento, dívida e entendimento de documentos financeiros. Pede algo fora disso, prever uma ação, te prometer que vai ser aprovado para um cartão, garantir um score de crédito em 30 dias, e ele é projetado para recusar em vez de te agradar com uma resposta. "Não sei" e "depende, aqui está o que considerar" são respostas válidas e corretas. Nós tratamos como recursos.
Sempre há um caminho humano. Quando uma pergunta vai além do que a IA deveria responder, o passo certo não é um chute melhor, é uma pessoa. Os usuários conseguem alcançar um humano de verdade por WhatsApp ou Telegram. A IA saber onde o trabalho dela termina é tão importante quanto o que ela faz dentro dele.
Fazer isso em 13 idiomas multiplica o risco
Aqui está um problema que a maioria dos artigos sobre "app de finanças com IA" pula completamente: o risco de alucinação e o risco de tradução se acumulam.
Uma coisa é fazer um modelo explicar APR corretamente em inglês. Outra é garantir que a *mesma* explicação seja precisa, simples e culturalmente legível em espanhol, árabe, russo, coreano, vietnamita, tagalog e mais sete, incluindo idiomas escritos da direita para a esquerda e outros onde o vocabulário financeiro não se encaixa direito nos conceitos dos EUA. Uma tradução sutilmente errada de "pagamento mínimo" ou "saldo do extrato" pode ser tão prejudicial quanto um número alucinado, e é mais difícil de pegar porque o inglês parecia bom.
Então o mesmo princípio se aplica entre os idiomas: os conceitos financeiros que explicamos vêm de material-fonte verificado e controlado, e o trabalho do modelo é apresentá-los com clareza no idioma do usuário, não reinventar o significado financeiro a cada tradução. A estrutura permanece fixa; o idioma se adapta. É assim que você impede que "linguagem simples em 13 idiomas" se torne silenciosamente "13 chances de errar sutilmente."
O que não deixamos ela fazer
Vale a pena ser explícito, porque a lista é a confiança:
Por que isso é a coisa toda
Eu já disse que a confusão financeira não é uma falha pessoal, é uma falha de design, e falhas de design podem ser consertadas. A IA é a ferramenta mais poderosa que já tivemos para consertar: uma explicadora paciente que funciona no seu idioma, no seu ritmo, sem julgamento.
Mas esse poder corta dos dois lados. Uma IA que explica com clareza *e precisão* é genuinamente transformadora para alguém trancado do lado de fora do sistema financeiro pelo idioma. Uma IA que explica com clareza e *às vezes está errada* é pior do que nada para essa mesma pessoa, porque ela não tem como saber qual vez é qual.
É por isso que construímos do jeito que construímos. A maioria das ferramentas financeiras com que os nossos usuários já lidaram — bancos, call centers, chatbots genéricos — soam confiantes e silenciosamente erram. Recusamos lançar mais uma assim. Os limites de segurança não são o que adicionamos depois de construir a IA. Eles são a razão pela qual a IA vale a pena ser lançada.
Você pode ver como o assistente funciona na prática na página do assistente de IA, ou ver como YPA-FINANCE se compara a outros apps de finanças na nossa página de comparação.
---
Svetlana Burninova é cofundadora e CTO da YPA Finance, com 15 anos em sistemas financeiros e 7 anos em infraestrutura. Tem certificações AWS, CKA, CKAD e HashiCorp Terraform. Dúvidas sobre como construímos nossa IA? Escreva para hello@ypa.finance.