Theo ông Khải Trần, trong một hệ thống quảng cáo quy mô lớn, việc một quảng cáo được hiển thị không chỉ phụ thuộc vào ngân sách hay giá thầu, mà còn phụ thuộc rất lớn vào khả năng dự đoán mức độ phù hợp với từng người dùng. Với mỗi người dùng, hệ thống trước hết sẽ sử dụng các tiêu chí nhắm chọn để lọc ra vài nghìn quảng cáo phù hợp từ kho dữ liệu rất lớn. Sau đó, các mô hình AI được sử dụng để tính toán xác suất người dùng có thể tương tác với từng quảng cáo.
Nói cách khác, điểm số của quảng cáo chính là xác suất người dùng có thể click hoặc thực hiện một hành động nhất định. Điểm số này tiếp tục được kết hợp với mức giá thầu để lựa chọn quảng cáo tối ưu nhất, vừa bảo đảm trải nghiệm phù hợp cho người dùng, vừa tối ưu hiệu quả phân phối cho nền tảng và nhà quảng cáo.
Trong quá trình này, AI đóng vai trò trung tâm. Các hệ thống hiện nay có thể sử dụng nhiều lớp mô hình khác nhau, từ mô hình học sâu để học đặc điểm của người dùng và quảng cáo, đến mô hình tạo sinh nhằm dự đoán hành vi tiếp theo dựa trên chuỗi tương tác trong quá khứ. Đặc biệt, hướng tiếp cận tinh chỉnh mô hình ngôn ngữ nhỏ đang mở ra một lựa chọn đáng chú ý khi cho phép tận dụng các mô hình đã được huấn luyện sẵn, sau đó tiếp tục đào tạo bằng dữ liệu quảng cáo thực tế.
Điểm đáng quan tâm trong chia sẻ của ông Khải Trần là bài toán xếp hạng quảng cáo không chỉ là bài toán về độ chính xác của mô hình, mà còn là bài toán về hiệu năng vận hành. Một mô hình sau khi tinh chỉnh phải chứng minh được chất lượng tốt hơn mô hình đang chạy trên môi trường production. Tuy nhiên, mô hình đó cũng phải đủ nhẹ, đủ nhanh và đủ hiệu quả để có thể phục vụ hàng triệu quảng cáo mỗi giây với số lượng GPU tối ưu.
Đây chính là mối quan hệ đối nghịch trong triển khai AI ở quy mô lớn. Mô hình càng lớn thường càng có khả năng cho kết quả tốt hơn, nhưng cũng đòi hỏi nhiều tài nguyên tính toán hơn và làm giảm hiệu năng phục vụ trên mỗi GPU. Tương tự, prompt càng chi tiết có thể giúp mô hình hiểu ngữ cảnh tốt hơn, nhưng lại làm tăng độ dài đầu vào, kéo theo chi phí xử lý và độ trễ cao hơn.
Từ góc nhìn thực tiễn, chia sẻ của ông Khải Trần cho thấy tinh chỉnh mô hình ngôn ngữ nhỏ không đơn thuần là một giải pháp kỹ thuật, mà là một hướng tiếp cận cân bằng giữa chất lượng, chi phí và khả năng mở rộng. Trong bối cảnh doanh nghiệp ngày càng quan tâm đến hiệu quả thật sự của AI, những mô hình nhỏ, được tối ưu đúng bài toán và triển khai phù hợp với hạ tầng vận hành, có thể trở thành lựa chọn quan trọng thay vì chỉ chạy theo các mô hình ngày càng lớn. Tinh chỉnh mô hình ngôn ngữ nhỏ vì vậy không chỉ là một giải pháp kỹ thuật, mà còn là hướng tiếp cận thực tiễn để cân bằng giữa chất lượng, chi phí và năng lực vận hành.
