Jev AI là gì? Mô hình AI chuyên đưa ra quyết định của TypeSafe AI

Các mô hình AI hiện nay rất giỏi tạo văn bản, trả lời câu hỏi và thực hiện những tác vụ cần ngôn ngữ. Nhưng khi AI được đưa vào một phần mềm, có một vấn đề khác xuất hiện: phần mềm không phải lúc nào cũng cần một câu trả lời bằng chữ, mà cần một quyết định để tiếp tục chạy.

Ví dụ, một hệ thống customer support không cần AI viết cả đoạn giải thích. Nó chỉ cần biết ticket này thuộc bộ phận nào, có cần ưu tiên xử lý hay phải chuyển cho nhân viên.

Đó là bài toán TypeSafe AI muốn giải quyết với Jev — model được thiết kế để đưa ra các quyết định có cấu trúc mà code có thể sử dụng trực tiếp.

Jev AI là gì?

Jev là flagship model và cũng là System One model đầu tiên của TypeSafe AI. Thay vì sinh text, Jev nhận vào state cùng những câu hỏi có kiểu dữ liệu xác định, sau đó trả về kết quả có cấu trúc và xác suất tương ứng.

Sự khác biệt có thể hình dung rất đơn giản:

LLM thông thường
User input → AI → Text → Parse → Validate → Code

Trong khi với Jev:

State → Jev → Structured decision → Code

Ví dụ, một customer gửi:

“Tôi bị trừ tiền hai lần cho gói subscription.”

Ứng dụng có thể dùng Jev để xác định:

department = billing

Sau đó code quyết định chuyển yêu cầu sang workflow của bộ phận Billing.

Jev vì vậy không được xây dựng như một chatbot để thay thế những mô hình tạo sinh. Nó tập trung vào một vai trò cụ thể hơn: giúp phần mềm đưa ra quyết định dựa trên dữ liệu và context có sẵn.

Jev dùng để làm gì?

Điểm đáng chú ý của Jev là nó phù hợp với những workflow mà AI nằm ở giữa quá trình xử lý.

Ví dụ trong một AI Agent, thay vì để một LLM tự quyết định toàn bộ quy trình, developer có thể tách riêng các câu hỏi:

Request
   ↓
Jev
   ├── nên dùng agent nào?
   ├── request có khẩn cấp không?
   └── có cần human review không?
            ↓
       Application
            ↓
          Action

Cách tiếp cận này phù hợp với những bài toán như classification, routing, scoring và workflow automation. TypeSafe cũng định hướng Jev cho AI-powered workflows, real-time applications và các hệ thống cần AI đưa ra quyết định để code tiếp tục xử lý.

Một điểm quan trọng là Jev không cố giải quyết toàn bộ bài toán trong một câu hỏi lớn. Tài liệu của TypeSafe khuyến nghị chia bài toán thành những câu hỏi nhỏ, rõ ràng rồi kết hợp kết quả bằng code.

Những tính năng đáng chú ý của Jev

TypeSafe hiện cung cấp ba kiểu AI primitive chính: Choice, Score và Noul.

Choice dùng khi cần chọn một giá trị trong danh sách. Chẳng hạn xác định ticket thuộc billing, sales hay technical. Kết quả đi kèm probability và confidence.

Score dùng để chấm điểm một state theo một tiêu chí, phù hợp với những bài toán như đánh giá mức độ rủi ro hoặc mức độ ưu tiên.

Noul dùng cho câu hỏi dạng đúng/sai và trả về một giá trị từ 0 đến 1, có thể hiểu như xác suất model cho rằng phát biểu đó đúng.

Jev cũng cho phép kết hợp nhiều loại question trong cùng một API call. Các câu hỏi được đánh giá song song và độc lập trên cùng một state.

Một điểm khác đáng chú ý là confidence. Thay vì chỉ nhận một kết quả, application có thể sử dụng mức độ chắc chắn của decision để xây dựng workflow:

confidence cao
      ↓
tự động xử lý

confidence thấp
      ↓
human review

Điều này đặc biệt hữu ích với những hệ thống muốn tự động hóa nhưng vẫn cần giữ con người ở những trường hợp không chắc chắn.

Ai nên dùng Jev?

Jev chủ yếu hướng tới developer và đội ngũ đang xây dựng AI-powered software, đặc biệt là những hệ thống mà AI phải liên tục đưa ra các quyết định để điều khiển workflow.

Một số trường hợp tiêu biểu là:

• Xây AI Agent hoặc Multi-Agent System.
• Xây workflow automation.
• Classification và request routing.
• Risk hoặc lead scoring.
• Hệ thống cần kết hợp automation với human-in-the-loop.

Ngược lại, Jev không phải lựa chọn dành cho mọi bài toán AI.

Nếu mục tiêu là chat, viết nội dung, tóm tắt tài liệu hay sinh code, generative LLM vẫn phù hợp hơn vì những tác vụ đó cần khả năng sinh text. Jev được thiết kế cho một loại workload khác: các decision có thể định nghĩa và đưa trực tiếp vào application.

Ưu điểm, hạn chế và khi nào nên dùng Jev?

Điểm mạnh rõ nhất của Jev là cách nó đặt AI vào trong software. Output có cấu trúc, có probability và confidence, nên developer có thể kết hợp trực tiếp với business logic thay vì phải lấy một đoạn text rồi tự parse lại.

TypeSafe cũng công bố Jev hướng tới tốc độ và chi phí thấp cho các System One tasks, với mô hình được tối ưu riêng cho structured decisions thay vì text generation. Tuy nhiên, đây là các benchmark và tuyên bố từ chính TypeSafe, nên khi đánh giá production vẫn cần test trên workflow và dữ liệu thực tế của từng hệ thống.

Hạn chế lớn nhất cũng nằm ở chính mục tiêu của nó: Jev không phải một LLM đa năng. Nếu bài toán không thể chia thành những decision rõ ràng, hoặc đầu ra cuối cùng vẫn là văn bản tự do, lợi thế của Jev sẽ không còn nhiều.

Cách nhìn đơn giản nhất là:

LLM
→ hiểu và sinh nội dung

Jev
→ đưa ra decision

Application
→ thực thi action

Jev vì vậy không nhất thiết phải thay thế LLM. Trong nhiều hệ thống, hai loại model có thể nằm cạnh nhau: LLM xử lý phần ngôn ngữ, còn Jev đảm nhiệm những decision mà phần mềm cần để chạy workflow.

Và đó cũng là lý do Jev đáng chú ý: thay vì bắt phần mềm phải “đọc” câu trả lời của AI, TypeSafe đang xây một model để AI đưa ra quyết định mà phần mềm có thể sử dụng ngay từ đầu.