Prompt Engineering
Ước tính chi phí sử dụng API AI theo token
0lượt xem0bình luận
Công thức tính chi phí theo input/output token, mẹo giảm chi phí bằng cache prompt.
Tổng quan
Bài viết hướng dẫn cách ước tính chi phí gọi API AI trước khi triển khai một tính năng dùng LLM.
Công thức tính
Chi phí = (số token input × đơn giá input) + (số token output × đơn giá output), nhân với số lượt gọi dự kiến.
Giảm chi phí
Cache prompt lặp lại (system prompt cố định) và rút gọn context không cần thiết giúp giảm đáng kể chi phí.
Tags
costtokens
Danh mục
Prompt Engineering · AI