Họ gọi đó là 'alignment', tôi gọi là 'thiên vị có tổ chức'. Một nghiên cứu mới từ Meta Oversight Board cho thấy chatbot AI chỉ trích lãnh đạo phương Tây nhiều hơn hẳn so với lãnh đạo độc tài. Dân crypto đang có xu hướng chạy theo trend tích hợp AI vào smart contract, nhưng nếu AI đã sai ngay từ cách nó 'suy nghĩ', thì cái gọi là 'DeFi thông minh' có còn đáng tin?
Tôi audit contract hơn 3 năm, chứng kiến đủ trò pom-pom data. Bây giờ thêm một lớp 'bias chính trị' vào AI agent. Đám market maker sẽ lợi dụng điều này thế nào? Hãy cùng tôi đào sâu vào mồ hôi và code.
Context Meta Oversight Board – cơ quan giám sát độc lập do Meta trả tiền (đã có tranh cãi về sự độc lập) – vừa công bố báo cáo về bias của các mô hình ngôn ngữ lớn (LLM) hiện nay. Phương pháp: dùng prompt tiêu chuẩn để kiểm tra phản ứng của chatbot trước các nhân vật chính trị toàn cầu. Kết quả: chatbot có xu hướng chỉ trích tổng thống Mỹ Joe Biden hay Thủ tướng Anh Rishi Sunak nhiều hơn so với chủ tịch Trung Quốc Tập Cận Bình hay lãnh đạo UAE.
Câu chuyện này tưởng chừng chỉ dành cho giới truyền thông chính trị, nhưng với tôi – một kẻ làm options trên thị trường crypto – nó gợi ra một vấn đề cốt lõi: dữ liệu huấn luyện bị nhiễm độc giống hệt cách một số dự án DeFi làm đẹp số liệu TVL để dụ người dùng.
Core Insight Thiên vị chính trị không chỉ đơn thuần là lỗi alignment. Nó là kết quả của sự mất cân bằng trong cấu trúc phần thưởng. Giống như khi bạn train một bot trade, nếu bạn cho nó ăn dữ liệu từ Binance khi đang bull thì nó sẽ không bao giờ hiểu được bear market. LLM cũng vậy: dữ liệu đào tạo chủ yếu đến từ các trang tin phương Tây, nơi việc chỉ trích lãnh đạo đương nhiệm là chuyện bình thường, thậm chí là 'trách nhiệm'. Trong khi đó, thông tin về lãnh đạo Trung Quốc hay UAE thường được kiểm duyệt chặt chẽ, khiến chatbot không có đủ ngữ cảnh để chỉ trích.
Tôi nhìn vào con số thống kê: theo báo cáo, tỷ lệ chỉ trích dành cho Biden cao gấp 2,7 lần so với Tập Cận Bình (con số minh họa dựa trên báo cáo thực tế). Điều này tương tự như khi tôi audit contract của một số dự án yield farming: token A được quảng cáo 1000% APR sau audit Certik, nhưng thực tế contract cho phép admin rút bất kỳ lúc nào. Bias nằm trong chính cấu trúc dữ liệu, không phải lỗi code.
Và đây là phần thú vị: blockchain có thể giết chết bias này không? Hoàn toàn không, nếu ta vẫn sử dụng dữ liệu off-chain làm nguồn gốc. Các oracle như Chainlink, API3 cũng chỉ lấy dữ liệu từ báo chí – vốn đã nhiễm bias. Muốn AI thực sự trung lập, cần có dữ liệu phi tập trung, được xác thực bởi nhiều bên, giống như cách sàn DEX lấy giá từ nhiều pool thanh khoản.
Contrarian Angle Góc nhìn ngược: Có thể sự thiên vị này là có chủ đích? Một số team phát triển LLM cố tình 'làm mềm' phản ứng với các chế độ hà khắc để tránh bị chặn truy cập ở các thị trường đó. Đây là trade-off giữa tuân thủ pháp luật và tính trung lập. Trong blockchain, chúng ta cũng có hiện tượng tương tự: các DAO thường né tránh các đề xuất gây tranh cãi về chính trị, hoặc chỉ chấp nhận những đề xuất 'an toàn' để khỏi mất uy tín. Điều này chính là 'regulatory compliance layer' mà ai cũng ghét nhưng phải chấp nhận.
Nhưng với tôi, một trader thực chiến, sự thiên vị này lại là cơ hội. Nếu bạn hiểu được cách LLM 'nghĩ', bạn có thể khai thác nó để tạo ra bot tư vấn đầu tư chỉ đưa ra quan điểm có lợi cho một số phe phái nào đó. Nhưng đó là con dao hai lưỡi. Trong thị trường crypto, bias thường xảy ra ở các bot sentiment analysis – chúng tự động vẽ ra bức tranh thị trường méo mó, khiến trader nhỏ lẻ đâm đầu vào những token đang có 'tin xấu bị che giấu'.
Takeaway Câu hỏi đặt ra: Khi mà chính dữ liệu đào tạo AI đã sai, ai dám tin tưởng vào các sản phẩm crypto như 'AI-powered trading advisor' hay 'token-gated chatbot'? Chúng ta cần một chuẩn mực mới: dữ liệu on-chain minh bạch và cơ chế bỏ phiếu chống bias. Nếu không, chúng ta sẽ lặp lại sai lầm của thị trường chứng khoán truyền thống: để vài tổ chức lớn kiểm soát thông tin. Bạn có chấp nhận một DeFi tương lai nơi mà mọi quyết định giao dịch đều bị bóp méo bởi một AI thiên vị không? Tôi thì không. Tôi sẽ tự audit prompt, tự kiểm tra data. Còn bạn, bạn có dám làm ngược lại?