환각 없이 돈을 설명하는 AI를 어떻게 만들었나

YPA-FINANCE의 AI는 금융 개념을 설명할 뿐, 조언이나 숫자를 절대로 지어내지 않습니다. 당신의 돈에 닿는 모든 계산은 검증된 코드에서 실행되며, 언어 모델에서는 실행되지 않습니다. 이 글은 우리가 그 경계선을 어떻게 그었는지, 그리고 그것이 우리 AI 어시스턴트 뒤에 있는 가장 중요한 엔지니어링 결정인 이유에 관한 것입니다.

"AI 금융 어시스턴트"라는 말을 들으면 사람들은 보통 돈에 관한 질문에 답하는 챗봇을 떠올립니다. 그건 쉬운 부분입니다. 어려운 부분, 거의 아무도 이야기하지 않는 부분은, 그것이 거짓을 자신 있게 말하지 않도록 보장하는 것입니다. 대부분의 제품에서 환각은 부끄러운 스크린샷에 그칩니다. 모국어가 아닌 언어로 새로운 나라의 시스템을 헤쳐 나가는 사람이 쓰는 금융 앱에서는, 우리가 만들어낸 숫자에 근거해 실제 결정을 내리는 한 사람입니다.

그래서 우리가 이걸 어떻게 실제로 만들었는지 짚어보고 싶습니다. AI에게 자유롭게 말하게 두는 곳, 절대 가까이 두지 않는 곳, 그리고 그 사이의 안전 가드레일을 말입니다.

금융에서 환각은 신기한 일이 아닙니다. 그건 피해입니다.

대형 언어 모델은 그럴듯한 텍스트를 예측합니다. 그게 그들이 하는 일입니다. 대부분의 경우 그럴듯함과 정확함이 겹치는데, 바로 이게 그 격차를 위험하게 만듭니다. 문제가 드러나기 전까지는 보이지 않기 때문입니다.

범용 챗봇에 "월 200달러를 24% APR인 5,000달러 잔액에 갚으면 언제 빚을 다 갚을까?"라고 물어보세요. 그러면 자신 있고 구체적이며 깔끔하게 정리된 답을 줍니다. 어떤 때는 맞습니다. 어떤 때는 1년이 틀립니다. 보기만 해서는 어느 쪽인지 알 수 없고, 애초에 그 질문을 해야 했던 사람도 알 수 없습니다.

여기에 우리 실제 사용자를 더해 보세요. 금융 안전망이 없는 경우가 많고, 이미 시스템을 아는 부모도 없으며, 자신 있게 들리는 한 단락을 검토할 만한 영어 실력도 없는 이민자와 새로 온 사람들입니다. 그들이 YPA-FINANCE를 사용하는 모든 이유는, 바로 그런 것들을 스스로 *쉽게 확인할 수 없기* 때문입니다. 그건 그럴듯한 추측을 건네줄 수 있는 사용자가 아닙니다. 그래서 우리는 단단한 규칙 하나를 중심으로 설계했습니다. 모델은 정확해야 하는 어떤 것에 대해서도 절대 진실의 출처가 되지 않습니다.

설명 ≠ 조언

우리가 그은 가장 중요한 선은 설명과 조언 사이입니다.

설명은 이렇습니다. "APR은 돈을 빌리는 연간 비용이며, 이자를 포함합니다. 24% APR은 대략, 카드에 1년 동안 100달러를 들고 있으면 약 24달러가 이자로 더해진다는 뜻입니다." 이건 개념입니다. 안정적이고, 당신의 특정한 상황과 상관없이 사실이며, AI는 우리의 13개 언어 중 어느 언어로든 평이한 말로 설명할 수 있습니다.

조언은 이렇습니다. "이 카드에 300달러를 넣고 다른 카드는 그만 쓰는 게 좋겠어요." 이건 특정한 사람의 돈에 대한 처방입니다. 정확해야 하는 숫자에 의존하며, 틀리면 결과가 따릅니다.

우리 AI는 첫 번째 일을 합니다. 두 번째 일을 하지 않도록 의도적으로 만들어졌습니다. 그 경계는 사과해야 할 한계가 아니라 안전 기능입니다. 신용이 어떻게 작동하는지 설명하는 도구는 스스로 결정을 내리도록 힘을 실어줍니다. 추측에 근거해 조용히 결정을 대신해 주는 도구야말로 우리가 사람들을 보호하려는 바로 그 대상입니다.

안전 가드레일, 구체적으로

이 경계가 실제 시스템에서 어떻게 보이는지입니다.

수학은 모델이 아니라 코드에서 실행됩니다. 모든 계산, 즉 부채 상환 일정, 지불된 이자, 상환 전략 간 비교는 결정적이고 테스트된 코드에서 실행됩니다. Calculator PRO 뒤에 있는 것과 동일한 로직입니다. 언어 모델은 산술을 하지 않습니다. 숫자가 필요한 질문을 하면 모델의 일은 무엇을 묻는지 인식하고 계산기에 전달한 다음, 결과를 당신의 언어로 설명하는 것입니다. 숫자는 계산되며, 설명만 생성됩니다. 계산 엔진이 답할 수 없으면 AI가 그렇다고 말합니다. 즉흥적으로 만들어내지 않습니다.

설명은 자유롭지 않고 근거에 매여 있습니다. AI가 어떤 개념을 설명할 때는, 학습 중에 우연히 흡수한 것에서가 아니라 우리가 검증한 자체 금융 콘텐츠, 즉 우리 가이드 뒤에 있는 동일한 자료에서 작업합니다. 답을 알려진 출처에 묶어 두는 것이 "최소 결제액이란 무엇인가"가 자신만만한 창작으로 흘러가지 않게 해 줍니다.

범위는 의도적으로 좁혀져 있습니다. 이 어시스턴트는 신용, 예산, 부채, 금융 문서 이해에 대해 이야기하도록 만들어졌습니다. 그 밖의 것을 물어보면, 즉 주가를 예측해 달라거나, 카드 승인을 약속해 달라거나, 30일 안에 신용 점수를 보장해 달라고 하면, 답으로 비위를 맞추는 대신 거절하도록 설계되어 있습니다. "모르겠습니다"와 "상황에 따라 다릅니다. 고려할 점은 다음과 같습니다"는 유효하고 올바른 답입니다. 우리는 그것들을 기능으로 취급합니다.

언제나 사람으로 가는 길이 있습니다. 어떤 질문이 AI가 답해야 할 범위를 넘어설 때, 옳은 다음 수는 더 나은 추측이 아니라 사람입니다. 사용자는 WhatsApp이나 Telegram을 통해 실제 사람에게 닿을 수 있습니다. AI가 자기 일이 어디서 끝나는지 아는 것은 그 안에서 무엇을 하느냐만큼 중요합니다.

이걸 13개 언어로 하면 위험이 곱해집니다

대부분의 "AI 금융 앱" 글이 통째로 건너뛰는 문제가 여기 있습니다. 환각 위험과 번역 위험은 합쳐집니다.

영어로 모델이 APR을 올바르게 설명하게 하는 건 한 가지 일입니다. *동일한* 설명이 스페인어, 아랍어, 러시아어, 한국어, 베트남어, 타갈로그어, 그리고 일곱 가지 더, 오른쪽에서 왼쪽으로 쓰는 언어와 미국식 개념에 깔끔히 들어맞지 않는 금융 어휘를 가진 언어를 포함해, 정확하고 평이하며 문화적으로 읽힐 수 있게 만드는 건 또 다른 일입니다. "최소 결제액"이나 "명세서 잔액"의 미묘한 오역은 환각된 숫자만큼 해로울 수 있고, 영어가 멀쩡해 보였기 때문에 잡아내기가 더 어렵습니다.

그래서 같은 원칙이 언어를 가로질러 적용됩니다. 우리가 설명하는 금융 개념은 검증되고 통제된 원본 자료에서 나오며, 모델의 일은 그것들을 사용자의 언어로 명확히 표현하는 것입니다. 번역할 때마다 금융적 의미를 재발명하는 것이 아닙니다. 구조는 고정된 채로 유지되고, 언어가 적응합니다. 그것이 "13개 언어의 평이한 말"이 조용히 "13번의 미묘하게 틀릴 기회"로 바뀌지 않게 막는 방법입니다.

우리가 그것에 시키지 않는 일

명시적으로 말할 가치가 있습니다. 이 목록이 곧 신뢰이기 때문입니다.

왜 이게 핵심입니까

저는 전에도 금융적 혼란이 개인의 실패가 아니라 디자인 결함이며, 디자인 결함은 고칠 수 있다고 말한 적이 있습니다. AI는 이를 고치기 위해 우리가 가졌던 가장 강력한 도구입니다. 당신의 언어로, 당신의 속도로, 판단 없이 작동하는 인내심 있는 설명자입니다.

하지만 그 힘은 양날의 검입니다. *명확하고도 정확하게* 설명하는 AI는 언어 때문에 금융 시스템에서 차단된 사람에게 진정으로 변혁적입니다. 명확하게 설명하지만 *때때로 틀리는* AI는 같은 사람에게는 아무것도 없는 것보다 더 나쁩니다. 어느 때가 어느 쪽인지 알 방법이 없기 때문입니다.

그래서 우리는 이렇게 만들었습니다. 우리 사용자가 상대해온 대부분의 금융 도구—은행, 콜센터, 일반 챗봇—은 자신감 있게 들리면서 조용히 틀립니다. 우리는 그런 도구를 하나 더 출시하기를 거부했습니다. 안전 가드레일은 AI를 만든 후에 추가한 것이 아닙니다. 그것이 곧 AI를 출시할 만한 이유입니다.

어시스턴트가 실제로 어떻게 작동하는지는 AI 어시스턴트 페이지에서, YPA-FINANCE가 다른 금융 앱과 어떻게 비교되는지는 비교 페이지에서 보실 수 있습니다.

---

Svetlana Burninova는 YPA Finance의 공동 창립자 겸 CTO로, 금융 시스템에서 15년, 인프라에서 7년의 경력을 보유하고 있습니다. AWS, CKA, CKAD, HashiCorp Terraform 인증을 보유하고 있습니다. 우리가 AI를 어떻게 만드는지에 대한 질문이 있다면 hello@ypa.finance로 보내 주세요.