Nghiên cứu được thực hiện bởi đội ngũ an toàn AI của Google DeepMind và Google, tiếp nối nhiều năm nghiên cứu về khả năng thuyết phục và mức độ ảnh hưởng của các mô hình ngôn ngữ. Kết quả cũng được sử dụng để đánh giá các mô hình AI thế hệ mới trong khuôn khổ Frontier Safety Framework của DeepMind.
Điểm đáng chú ý của nghiên cứu nằm ở một vấn đề ngày càng quan trọng: AI có thể thuyết phục con người đến mức nào, và khi nào sự thuyết phục trở thành thao túng?
Khả năng thuyết phục không phải lúc nào cũng tiêu cực. Nếu AI đưa ra lập luận logic, dựa trên thông tin chính xác, nó có thể giúp con người hiểu vấn đề và đưa ra quyết định tốt hơn. Tuy nhiên, AI cũng có thể khai thác điểm yếu về cảm xúc hoặc nhận thức để khiến người dùng đưa ra những lựa chọn bất lợi cho chính mình. Rủi ro này đặc biệt đáng lưu ý trong các lĩnh vực như tài chính, y tế và chính sách công.
Để đo lường vấn đề này, nhóm nghiên cứu đã thực hiện 9 nghiên cứu với hơn 10.100 người tham gia tại Mỹ, Anh và Ấn Độ. Các thử nghiệm được tiến hành trong ba lĩnh vực: chính sách công, tài chính và y tế, với những tình huống mô phỏng gần với quyết định thực tế, chẳng hạn như lựa chọn đầu tư hoặc sản phẩm chăm sóc sức khỏe.
Nhóm nghiên cứu tập trung đo hai khía cạnh:
- Khả năng thao túng: AI có thể sử dụng các chiến thuật thao túng hiệu quả đến mức nào?
- Xu hướng thao túng: AI có tự thực hiện hành vi này khi không được yêu cầu hay không?
Sự phân biệt này rất quan trọng, bởi một mô hình có khả năng thao túng không đồng nghĩa với việc mô hình đó thường xuyên có xu hướng thao túng người dùng.
Kết quả cho thấy, khi được yêu cầu trực tiếp, mô hình thử nghiệm có thể tạo ra những cách thức giao tiếp mang tính thao túng và làm thay đổi niềm tin, hành vi của người tham gia. Tuy nhiên, khi không được yêu cầu thực hiện hành vi này, xu hướng thao túng giảm đáng kể.
Nghiên cứu cũng cho thấy bối cảnh có ảnh hưởng rất lớn đến mức độ rủi ro. Cách AI tác động đến con người không giống nhau giữa lĩnh vực tài chính, y tế hay chính sách công. Vì vậy, không thể chỉ sử dụng một phép đo chung để đánh giá rủi ro thao túng của AI. Các mô hình cần được kiểm định trong từng bối cảnh cụ thể, đặc biệt là những lĩnh vực có thể gây hậu quả lớn đối với con người.
Một số chiến thuật thao túng cũng được ghi nhận có mối liên hệ với những hậu quả bất lợi. Tuy nhiên, nhóm nghiên cứu lưu ý rằng vẫn cần thêm nghiên cứu để xác định rõ mối quan hệ nhân quả giữa cách AI giao tiếp và hậu quả gây hại.
Từ những kết quả này, nghiên cứu mở ra hướng đánh giá sâu hơn đối với các tình huống có mức độ rủi ro cao, đặc biệt khi AI tác động đến những niềm tin và quyết định mang tính cá nhân sâu sắc.
Trong tương lai, phạm vi nghiên cứu cũng sẽ không chỉ giới hạn ở văn bản. Âm thanh, hình ảnh, video và khả năng tự chủ thực hiện hành động của AI (agentic capabilities) có thể khiến khả năng tác động đến con người mạnh hơn và làm thay đổi đáng kể cách chúng ta đánh giá rủi ro.
Điều này cho thấy, khi năng lực của AI ngày càng phát triển, bài toán an toàn không chỉ là ngăn AI tạo ra nội dung sai hoặc nguy hiểm, mà còn phải hiểu AI có thể ảnh hưởng đến con người như thế nào và trong hoàn cảnh nào sự ảnh hưởng đó trở thành rủi ro.
