Công cụ này tính ra sao
Số token của đoạn văn bản được ước lượng theo ba họ bộ tách từ khác nhau, trong đó ký tự ASCII và ký tự ngoài ASCII được đếm riêng, bởi tiếng Việt có dấu tốn nhiều token hơn hẳn tiếng Anh cùng độ dài. Con số đó nhân với đơn giá đầu vào và đầu ra của từng mô hình, cộng thêm độ dài câu trả lời dự kiến và số lượt gọi mỗi ngày, cho ra chi phí một lượt và chi phí một tháng, quy đổi sang cả tiền đồng.
Lúc lập dự toán cho tính năng AI
Khi lập dự toán trước lúc đưa một tính năng dùng mô hình ngôn ngữ vào sản phẩm. Khi cân nhắc đổi sang mô hình nhỏ hơn và muốn biết tiết kiệm được bao nhiêu cho cùng khối lượng. Khi giải thích với khách vì sao tính năng trò chuyện phải tính phí theo mức dùng chứ không thể gói vào một khoản cố định.
Đọc bảng so sánh
Bảng sắp theo chi phí tháng nên hai đầu bảng cho thấy khoảng dao động rất rộng giữa mô hình rẻ nhất và mô hình đắt nhất cho cùng một khối lượng công việc. Chú ý rằng đơn giá đầu ra thường cao gấp nhiều lần đơn giá đầu vào, nên cách giảm chi phí nhanh nhất là ràng buộc độ dài câu trả lời chứ không phải cắt bớt câu hỏi.
Sai số và phần chưa được tính
Đây là ước lượng theo số ký tự chứ không chạy bộ tách từ thật của nhà cung cấp, sai số vào khoảng một phần bảy; đủ dùng để lập dự toán, không đủ để đối soát hoá đơn. Dự toán này chưa tính phần chỉ dẫn hệ thống và lịch sử hội thoại được gửi lại ở mỗi lượt, vốn thường là khoản tốn nhất trong một ứng dụng trò chuyện nhiều lượt. Đơn giá do nhà cung cấp thay đổi theo thời gian và tỉ giá cũng vậy, nên hãy kiểm lại bảng giá gốc trước khi ký hợp đồng với con số ở đây.