Як ми побудували ШІ, який пояснює гроші, не вигадуючи

ШІ в YPA-FINANCE пояснює фінансові концепції, він ніколи не вигадує поради чи числа. Кожен розрахунок, що торкається твоїх грошей, виконується у перевіреному коді, а не в мовній моделі. Цей пост про те, як ми провели цю межу, і чому це найважливіше інженерне рішення за нашими ШІ-асистентами.

Коли люди чують "фінансовий ШІ-асистент", вони зазвичай уявляють чат-бота, який відповідає на питання про гроші. Це легка частина. Складна — та, про яку майже ніхто не говорить — це переконатися, що він ніколи не скаже тобі щось хибне з впевненістю. У більшості продуктів вигадка — це соромний скріншот. У фінансовому застосунку, яким користується людина, що розбирається у системі нової країни своєю другою мовою, це людина, яка ухвалює реальне рішення на основі числа, що ми вигадали.

Тому я хочу розповісти, як ми це справді побудували: де ми дозволяємо ШІ говорити вільно, куди ми його не підпускаємо, і які захисні бар'єри стоять між.

Галюцинація у фінансах — це не курйоз. Це шкода.

Великі мовні моделі передбачають правдоподібний текст. Це те, що вони роблять. Більшість часу правдоподібне і правильне збігаються — і саме це робить розрив небезпечним, бо він невидимий, поки не стає видимим.

Запитай у звичайного чат-бота "якщо я плачу $200 на місяць при балансі $5000 під 24% APR, коли я виплачу борг?" — і він дасть впевнену, конкретну, гарно оформлену відповідь. Іноді вона правильна. Іноді помиляється на рік. Ти не зрозумієш, яка з них яка, просто дивлячись на неї, і людина, яка змушена була поставити це питання, теж не зрозуміє.

Тепер додай сюди наших реальних користувачів: іммігрантів і новоприбулих, які часто не мають фінансової подушки безпеки, батьків, що вже розібралися у системі, чи достатньо англійської, щоб перевірити впевнено звучний абзац. Уся причина, чому вони користуються YPA-FINANCE, у тому, що вони *не можуть* легко перевірити це самостійно. Це не той користувач, якому ми можемо віддати правдоподібний здогад. Тому ми спроєктували все навколо жорсткого правила: модель ніколи не є джерелом істини для нічого, що має бути правильним.

Пояснювати ≠ радити

Найважливіша лінія, яку ми провели — це між поясненням і порадою.

Пояснювати — це: "APR — це річна вартість позичених грошей, включно з відсотками. APR 24% означає, що приблизно за кожні $100, які ти тримаєш на картці протягом року, додається близько $24 відсотків." Це концепція. Вона стабільна, вона правдива незалежно від твоєї конкретної ситуації, і ШІ може пояснити її простими словами — будь-якою з наших 13 мов.

Радити — це: "Ти маєш покласти $300 на цю картку і перестати користуватися іншою." Це припис щодо грошей конкретної людини. Він залежить від чисел, що мають бути точними, і несе наслідки, якщо він неправильний.

Наш ШІ робить перше. Він навмисно побудований так, щоб не робити другого. Ця межа — не обмеження, за яке ми вибачаємося, це функція безпеки. Інструмент, що пояснює, як працює кредит, дає тобі змогу ухвалити власне рішення. Інструмент, що тихо ухвалює рішення за тебе на основі здогаду — це саме те, від чого ми намагаємося захистити людей.

Захисні бар'єри, конкретно

Ось як ця межа виглядає в реальній системі.

Математика виконується в коді, не в моделі. Кожен розрахунок — терміни погашення боргу, сплачені відсотки, порівняння стратегій погашення — виконується в детермінованому, протестованому коді. Та сама логіка стоїть за Calculator PRO. Мовна модель ніколи не виконує арифметику. Коли ти ставиш запитання, що потребує числа, робота моделі — розпізнати, що ти запитуєш, і передати це калькулятору, а потім пояснити результат твоєю мовою. Число обчислюється; генерується лише пояснення. Якщо математичний рушій не може відповісти, ШІ так і каже — він не імпровізує.

Пояснення заземлені, а не вільні. Коли ШІ пояснює концепцію, він працює з нашого власного перевіреного фінансового контенту — того самого матеріалу, що стоїть за нашими гайдами — а не з того, що він випадково вбрав на тренуванні. Заземлення відповіді у відомому джерелі — це те, що не дає "що таке мінімальний платіж" перетворитися на впевнену вигадку.

Область визначення навмисно обмежена. Асистент побудований, щоб говорити про кредит, бюджет, борги і розуміння фінансових документів. Попроси його про щось за межами цього — спрогнозувати акцію, пообіцяти, що тебе схвалять на картку, гарантувати кредитний рейтинг за 30 днів — і він спроєктований так, щоб відмовити, а не догодити тобі відповіддю. "Я не знаю" і "це залежить, ось що варто врахувати" — це валідні, правильні відповіді. Ми ставимося до них як до фіч.

Завжди є шлях до людини. Коли запитання виходить за межі того, на що має відповідати ШІ, правильний крок — це не кращий здогад, а людина. Користувачі можуть зв'язатися зі справжньою людиною через WhatsApp або Telegram. Те, що ШІ знає, де закінчується його робота, не менш важливо, ніж те, що він робить усередині неї.

Робити це 13 мовами множить ризик

Ось проблема, яку більшість статей про "ШІ-застосунки для фінансів" пропускають повністю: ризик вигадки і ризик перекладу складаються.

Одна справа — змусити модель правильно пояснити APR англійською. Інша — забезпечити, щоб *те саме* пояснення було точним, простим і культурно зрозумілим іспанською, арабською, російською, корейською, в'єтнамською, тагальською і ще сімома мовами — включно з мовами з письмом справа наліво й тими, де фінансова лексика чисто не накладається на американські концепції. Тонко неправильний переклад "мінімального платежу" чи "балансу виписки" може бути так само шкідливим, як і вигадана цифра, і його важче спіймати, бо англійська виглядала добре.

Тому той самий принцип діє між мовами: фінансові концепції, які ми пояснюємо, беруться з перевіреного, контрольованого вихідного матеріалу, а робота моделі — ясно передати їх мовою користувача, а не переосмислювати фінансовий зміст щоразу, як перекладає. Структура залишається фіксованою; мова адаптується. Так ти не даєш "простій мові 13 мовами" тихо стати "13 шансами тонко помилитися".

Чого ми йому не дозволяємо

Варто сказати явно, бо список — це довіра:

Чому це весь сенс

Я вже казала, що фінансова заплутаність — це не особистий недолік, це недолік дизайну, а недоліки дизайну можна виправити. ШІ — найпотужніший інструмент, який ми коли-небудь мали, щоб це виправити: терплячий пояснювач, який працює твоєю мовою, у твоєму темпі, без осуду.

Але ця сила ріже в обидва боки. ШІ, який пояснює ясно *і точно*, по-справжньому трансформаційний для людини, заблокованої від фінансової системи мовою. ШІ, який пояснює ясно і *іноді помиляється*, гірший за нічого для тієї самої людини, бо у неї немає способу зрозуміти, який раз який.

Ось чому ми побудували це так, як побудували. Більшість фінансових інструментів, з якими стикалися наші користувачі — банки, кол-центри, звичайні чат-боти — звучать упевнено і тихо помиляються. Ми відмовилися випускати ще один такий. Захисні бар'єри — це не те, що ми додали після того, як побудували ШІ. Вони — причина, чому ШІ взагалі варто випускати.

Ти можеш подивитися, як асистент працює на практиці, на сторінці ШІ-асистента, або побачити, як YPA-FINANCE порівнюється з іншими фінансовими застосунками, на нашій сторінці порівнянь.

---

Світлана Бурнінова — співзасновниця і CTO YPA Finance, з 15 роками досвіду у фінансових системах і 7 роками в інфраструктурі. Має сертифікати AWS, CKA, CKAD і HashiCorp Terraform. Запитання про те, як ми будуємо наш ШІ? Пиши їй на hello@ypa.finance.