Как мы построили ИИ, который объясняет деньги, не выдумывая

ИИ в YPA-FINANCE объясняет финансовые концепции, он никогда не выдумывает советы или числа. Каждый расчёт, который касается твоих денег, выполняется в проверенном коде, а не в языковой модели. Этот пост о том, как мы провели эту черту, и почему это самое важное инженерное решение за нашими ИИ-ассистентами.

Когда люди слышат "финансовый ИИ-ассистент", они обычно представляют чат-бота, который отвечает на вопросы о деньгах. Это лёгкая часть. Сложная — та, о которой почти никто не говорит — это убедиться, что он никогда не скажет тебе что-то ложное с уверенностью. В большинстве продуктов выдумка — это позорный скриншот. В финансовом приложении, которым пользуется человек, разбирающийся в системе новой страны на своём втором языке, это человек, принимающий реальное решение на основе числа, которое мы выдумали.

Поэтому я хочу рассказать, как мы это действительно построили: где мы позволяем ИИ говорить свободно, куда мы его не подпускаем, и какие защитные барьеры находятся между.

Выдумки в финансах — это не курьёз. Это вред.

Большие языковые модели предсказывают правдоподобный текст. Это то, что они делают. Большую часть времени правдоподобное и правильное совпадают — и именно это делает разрыв опасным, потому что он невидим, пока не становится видимым.

Спроси у обычного чат-бота "если я плачу $200 в месяц при балансе $5000 под 24% APR, когда я расплачусь?" — и он даст уверенный, конкретный, красиво оформленный ответ. Иногда он правильный. Иногда ошибается на год. Ты не сможешь понять, какой именно, просто глядя на него, и человек, которому нужно было задать этот вопрос, тоже не сможет.

А теперь добавь сюда наших реальных пользователей: иммигрантов и новоприбывших, у которых часто нет финансовой подушки, родителя, который уже разобрался в системе, или достаточного английского, чтобы проверить уверенно звучащий абзац. Вся причина, почему они пользуются YPA-FINANCE, в том, что они *не могут* легко проверить это сами. Это не тот пользователь, которому мы можем выдать правдоподобную догадку. Поэтому мы спроектировали всё вокруг жёсткого правила: модель никогда не является источником истины для того, что должно быть правильным.

Объяснять ≠ советовать

Самая важная линия, которую мы провели — это между объяснением и советом.

Объяснять — это: "APR — это годовая стоимость заёмных денег, включая проценты. APR 24% означает, что примерно за каждые $100, которые ты держишь на карте в течение года, добавляется около $24 процентов." Это концепция. Она устойчива, она верна вне зависимости от твоей конкретной ситуации, и ИИ может объяснить её простыми словами — на любом из наших 13 языков.

Советовать — это: "Ты должен положить $300 на эту карту и перестать пользоваться второй." Это предписание относительно денег конкретного человека. Оно зависит от чисел, которые должны быть точными, и несёт последствия, если оно ошибочно.

Наш ИИ делает первое. Он намеренно построен так, чтобы не делать второго. Эта граница — не ограничение, за которое мы извиняемся, это функция безопасности. Инструмент, который объясняет, как работает кредит, даёт тебе возможность принять собственное решение. Инструмент, который тихо принимает решение за тебя на основе догадки — это именно то, от чего мы пытаемся защитить людей.

Защитные барьеры, конкретно

Вот как эта граница выглядит в реальной системе.

Математика выполняется в коде, не в модели. Каждый расчёт — сроки погашения долга, выплаченные проценты, сравнения стратегий выплаты — выполняется в детерминированном, протестированном коде. Та же логика стоит за Calculator PRO. Языковая модель никогда не выполняет арифметику. Когда ты задаёшь вопрос, требующий числа, работа модели — распознать, что ты спрашиваешь, и передать это калькулятору, а затем объяснить результат на твоём языке. Число вычисляется; генерируется только объяснение. Если математический движок не может ответить, ИИ так и говорит — он не импровизирует.

Объяснения заземлены, а не свободны. Когда ИИ объясняет концепцию, он работает из нашего собственного проверенного финансового контента — того же материала, который стоит за нашими руководствами — а не из того, что он случайно впитал на обучении. Заземление ответа в известном источнике — это то, что не даёт "что такое минимальный платёж" уйти в уверенную выдумку.

Область определения намеренно ограничена. Ассистент построен, чтобы говорить о кредите, бюджете, долгах и понимании финансовых документов. Попроси его о чём-то за пределами этого — предсказать акцию, пообещать, что тебе одобрят на карту, гарантировать кредитный рейтинг через 30 дней — и он спроектирован так, чтобы отказать, а не угодить тебе ответом. "Я не знаю" и "это зависит, вот что стоит учесть" — это валидные, правильные ответы. Мы относимся к ним как к фичам.

Всегда есть путь к человеку. Когда вопрос выходит за рамки того, на что должен отвечать ИИ, правильный шаг — это не лучшая догадка, а человек. Пользователи могут связаться с настоящим человеком через WhatsApp или Telegram. То, что ИИ знает, где заканчивается его работа, не менее важно, чем то, что он делает внутри неё.

Делать это на 13 языках умножает риск

Вот проблема, которую большинство статей про "ИИ-приложения для финансов" пропускают полностью: риск выдумки и риск перевода складываются.

Одно дело — заставить модель правильно объяснить APR на английском. Другое — обеспечить, чтобы *то же самое* объяснение было точным, простым и культурно понятным на испанском, арабском, русском, корейском, вьетнамском, тагальском и ещё семи языках — включая языки с письмом справа налево и те, где финансовая лексика чисто не накладывается на американские концепции. Тонко неправильный перевод "минимального платежа" или "баланса выписки" может быть так же вреден, как и выдуманное число, и его сложнее поймать, потому что английский выглядел нормально.

Поэтому тот же принцип применяется между языками: финансовые концепции, которые мы объясняем, берутся из проверенного, контролируемого исходного материала, а работа модели — ясно передать их на языке пользователя, а не переизобретать финансовый смысл при каждом переводе. Структура остаётся фиксированной; язык адаптируется. Так ты не даёшь "простому языку на 13 языках" тихо стать "13 шансами тонко ошибиться".

Чего мы ему не позволяем

Стоит сказать явно, потому что список — это доверие:

Почему это весь смысл

Я уже говорила, что финансовая запутанность — это не личный недостаток, это недостаток дизайна, а недостатки дизайна можно исправить. ИИ — самый мощный инструмент, который у нас когда-либо был, чтобы это исправить: терпеливый объяснитель, работающий на твоём языке, в твоём темпе, без осуждения.

Но эта сила режет в обе стороны. ИИ, который объясняет ясно *и точно*, по-настоящему преобразующий для человека, заблокированного от финансовой системы языком. ИИ, который объясняет ясно и *иногда ошибается*, хуже, чем ничего, для того же самого человека, потому что у него нет способа узнать, какой раз какой.

Вот почему мы построили это так, как построили. Большинство финансовых инструментов, с которыми сталкивались наши пользователи — банки, колл-центры, обычные чат-боты — звучат уверенно и тихо ошибаются. Мы отказались выпускать ещё один такой. Защитные барьеры — это не то, что мы добавили после того, как построили ИИ. Они — причина, почему ИИ вообще стоит выпускать.

Ты можешь посмотреть, как ассистент работает на практике, на странице ИИ-ассистента, или увидеть, как YPA-FINANCE сравнивается с другими финансовыми приложениями, на нашей странице сравнения.

---

Светлана Бурнинова — со-основательница и CTO YPA Finance, с 15 годами опыта в финансовых системах и 7 годами в инфраструктуре. Имеет сертификаты AWS, CKA, CKAD и HashiCorp Terraform. Вопросы о том, как мы строим наш ИИ? Пиши ей на hello@ypa.finance.