Chúng tôi đã xây AI giải thích tiền bạc mà không ảo giác như thế nào

AI của YPA-FINANCE giải thích các khái niệm tài chính, nó không bao giờ bịa lời khuyên hay con số. Mọi phép tính chạm vào tiền của bạn đều chạy trong code đã được kiểm toán, không chạy trong mô hình ngôn ngữ. Bài viết này nói về cách chúng tôi vạch ra đường ranh đó, và vì sao đó là quyết định kỹ thuật quan trọng nhất đứng sau các trợ lý AI của chúng tôi.

Khi nghe "trợ lý tài chính AI", người ta thường hình dung một chatbot trả lời các câu hỏi về tiền. Đó là phần dễ. Phần khó, phần gần như không ai nói tới, là đảm bảo nó không bao giờ tự tin nói với bạn điều sai sự thật. Ở hầu hết các sản phẩm, một lần ảo giác là một ảnh chụp màn hình xấu hổ. Trong một ứng dụng tài chính mà người dùng đang tự xoay xở với hệ thống của một đất nước mới bằng ngôn ngữ thứ hai, đó là một con người đưa ra quyết định thật dựa trên một con số chúng tôi bịa ra.

Vì vậy tôi muốn kể chúng tôi thực sự đã xây nó như thế nào: ở đâu chúng tôi để AI nói tự do, ở đâu chúng tôi không cho nó tới gần, và những lan can an toàn ở giữa.

Ảo giác trong tài chính không phải chuyện lạ. Đó là thiệt hại.

Các mô hình ngôn ngữ lớn dự đoán văn bản có vẻ hợp lý. Đó là việc chúng làm. Hầu hết thời gian, hợp lý và chính xác trùng nhau, và đó chính là điều khiến khoảng hở trở nên nguy hiểm, vì nó vô hình cho đến khi không còn vô hình nữa.

Hỏi một chatbot phổ thông: "Nếu tôi trả 200 đô la mỗi tháng cho khoản dư 5.000 đô la ở APR 24%, khi nào tôi hết nợ?" và nó sẽ đưa ra một câu trả lời tự tin, cụ thể, được trình bày đẹp đẽ. Đôi khi đúng. Đôi khi lệch một năm. Bạn không thể biết là cái nào chỉ bằng cách nhìn, và người cần đặt câu hỏi đó cũng không thể.

Bây giờ cộng thêm người dùng thực sự của chúng tôi: những người nhập cư và người mới đến thường không có lưới an toàn tài chính, không có bố mẹ đã quen với hệ thống, hay đủ tiếng Anh để rà lại một đoạn văn nghe có vẻ chắc chắn. Toàn bộ lý do họ dùng YPA-FINANCE là vì họ *không thể* dễ dàng tự kiểm chứng những thứ này. Đó không phải kiểu người dùng chúng tôi có thể đưa cho một phỏng đoán nghe có vẻ hợp lý. Nên chúng tôi thiết kế quanh một quy tắc cứng: mô hình không bao giờ là nguồn sự thật cho bất cứ điều gì phải đúng.

Giải thích ≠ khuyên

Ranh giới quan trọng nhất chúng tôi đã vạch là giữa giải thích và khuyên.

Giải thích là: "APR là chi phí hàng năm để vay tiền, bao gồm cả lãi. APR 24% nghĩa là, đại khái, cứ mỗi 100 đô la bạn để trên thẻ trong một năm, có khoảng 24 đô la được cộng thêm dưới dạng lãi." Đó là một khái niệm. Nó ổn định, đúng bất kể tình huống cụ thể của bạn, và AI có thể giải thích bằng ngôn từ giản dị, bằng bất kỳ ngôn ngữ nào trong 13 ngôn ngữ của chúng tôi.

Khuyên là: "Bạn nên đặt 300 đô la vào thẻ này và ngừng dùng thẻ kia." Đó là một đơn thuốc cho tiền của một người cụ thể. Nó phụ thuộc vào những con số phải chính xác, và sẽ có hậu quả nếu sai.

AI của chúng tôi làm việc đầu. Nó được thiết kế có chủ đích để không làm việc thứ hai. Đường ranh đó không phải là một giới hạn mà chúng tôi xin lỗi vì có, đó là một tính năng an toàn. Một công cụ giải thích tín dụng hoạt động ra sao trao quyền cho bạn tự quyết định. Một công cụ lặng lẽ ra quyết định thay bạn, dựa trên một phỏng đoán, chính là thứ chúng tôi đang cố bảo vệ mọi người khỏi.

Lan can an toàn, cụ thể

Đây là cách đường ranh đó nhìn trong hệ thống thật.

Toán chạy trong code, không chạy trong mô hình. Mỗi phép tính, lịch trình trả nợ, lãi đã trả, so sánh giữa các chiến lược trả nợ, đều chạy trong code xác định và đã được kiểm thử. Cùng một logic đứng sau Calculator PRO. Mô hình ngôn ngữ không bao giờ làm phép tính. Khi bạn đặt một câu hỏi cần một con số, công việc của mô hình là nhận diện bạn đang hỏi gì và chuyển nó cho bộ tính toán, rồi giải thích kết quả bằng ngôn ngữ của bạn. Con số được tính ra; chỉ phần giải thích là được tạo ra. Nếu bộ tính toán không thể trả lời, AI sẽ nói thẳng ra, nó không ngẫu hứng.

Giải thích có neo, không tự do. Khi AI giải thích một khái niệm, nó đang làm việc từ nội dung tài chính đã được kiểm duyệt của chúng tôi, cùng nguồn tài liệu đứng sau các hướng dẫn của chúng tôi, không phải từ những gì nó tình cờ hấp thụ trong huấn luyện. Việc neo câu trả lời vào một nguồn đã biết là điều ngăn "khoản thanh toán tối thiểu là gì" trôi thành một sáng tác đầy tự tin.

Phạm vi được hẹp lại có chủ đích. Trợ lý được dựng để nói về tín dụng, ngân sách, nợ, và hiểu các tài liệu tài chính. Hỏi nó điều gì đó ngoài phạm vi, dự đoán cổ phiếu, hứa rằng bạn sẽ được duyệt thẻ, đảm bảo điểm tín dụng trong 30 ngày, và nó được thiết kế để từ chối thay vì làm bạn hài lòng bằng một câu trả lời. "Tôi không biết" và "tùy, đây là những điều cần cân nhắc" là những câu trả lời hợp lệ và đúng đắn. Chúng tôi coi đó là tính năng.

Luôn có lối ra con người. Khi một câu hỏi vượt quá những gì AI nên trả lời, bước đúng đắn không phải là một phỏng đoán tốt hơn, mà là một con người. Người dùng có thể liên hệ một người thật qua WhatsApp hoặc Telegram. Việc AI biết công việc của mình kết thúc ở đâu cũng quan trọng như những gì nó làm bên trong nó.

Làm việc này bằng 13 ngôn ngữ nhân đôi rủi ro

Đây là vấn đề mà hầu hết các bài viết về "ứng dụng tài chính AI" bỏ qua hoàn toàn: rủi ro ảo giác và rủi ro dịch thuật cộng dồn.

Làm một mô hình giải thích APR đúng bằng tiếng Anh là một chuyện. Đảm bảo rằng *cùng* lời giải thích đó chính xác, đơn giản, và đọc lên thuận tai về mặt văn hóa bằng tiếng Tây Ban Nha, tiếng Ả Rập, tiếng Nga, tiếng Hàn, tiếng Việt, tiếng Tagalog và bảy thứ tiếng khác, bao gồm cả các ngôn ngữ viết từ phải sang trái và những ngôn ngữ mà từ vựng tài chính không gọn gàng khớp với các khái niệm Mỹ, là chuyện khác. Một bản dịch sai tinh vi của "khoản thanh toán tối thiểu" hay "số dư sao kê" có thể gây hại không kém một con số ảo giác, và khó phát hiện hơn vì tiếng Anh trông vẫn ổn.

Vì vậy cùng một nguyên tắc áp dụng xuyên các ngôn ngữ: các khái niệm tài chính mà chúng tôi giải thích đến từ tài liệu nguồn đã được kiểm duyệt và kiểm soát, và công việc của mô hình là trình bày chúng rõ ràng bằng ngôn ngữ của người dùng, không phải tái phát minh nghĩa tài chính mỗi lần dịch. Cấu trúc giữ nguyên; ngôn ngữ thì thích nghi. Đó là cách bạn ngăn "ngôn ngữ giản dị bằng 13 thứ tiếng" lặng lẽ trở thành "13 cơ hội sai một cách tinh vi".

Những gì chúng tôi không để nó làm

Đáng nói rõ ra, vì danh sách này chính là niềm tin:

Vì sao đây là cốt lõi của vấn đề

Tôi đã nói trước đây rằng sự lúng túng về tài chính không phải là thất bại cá nhân, đó là lỗi thiết kế, và lỗi thiết kế thì có thể sửa. AI là công cụ mạnh nhất chúng ta từng có để sửa nó: một người giải thích kiên nhẫn làm việc bằng ngôn ngữ của bạn, theo nhịp của bạn, không phán xét.

Nhưng sức mạnh đó cắt cả hai chiều. Một AI giải thích rõ ràng *và chính xác* thực sự thay đổi cuộc sống cho một người bị khóa ra khỏi hệ thống tài chính vì rào cản ngôn ngữ. Một AI giải thích rõ ràng và *đôi khi sai* lại tệ hơn không có gì cho chính người đó, vì họ không có cách nào để biết lần nào là lần nào.

Đó là lý do chúng tôi đã xây nó theo cách chúng tôi đã xây. Phần lớn các công cụ tài chính mà người dùng của chúng tôi đã gặp — ngân hàng, tổng đài, chatbot phổ thông — nghe có vẻ tự tin và lặng lẽ sai. Chúng tôi từ chối ra mắt thêm một cái nữa như vậy. Lan can an toàn không phải là thứ chúng tôi thêm vào sau khi xây AI. Chúng là lý do để AI đáng được phát hành.

Bạn có thể xem trợ lý hoạt động trên thực tế tại trang trợ lý AI, hoặc xem YPA-FINANCE so sánh với các ứng dụng tài chính khác trên trang so sánh của chúng tôi.

---

Svetlana Burninova là đồng sáng lập và CTO của YPA Finance, với 15 năm trong hệ thống tài chính và 7 năm trong hạ tầng. Cô có các chứng chỉ AWS, CKA, CKAD và HashiCorp Terraform. Có câu hỏi về cách chúng tôi xây AI? Liên hệ cô tại hello@ypa.finance.