KhoGameHub – Diễn đàn Công Nghệ & Gaming, nơi chia sẻ trò chơi PC, Console, Retro online và phần mềm hữu ích

Các mô hình ngôn ngữ lớn (LLM) hiện nay hiếm khi thừa nhận mình có thành kiến như phân biệt giới tính khi bị hỏi trực tiếp. Những hệ thống được tinh chỉnh để tuân thủ chính sách an toàn sẽ tránh tự buộc tội, né trả lời hoặc đưa ra phản hồi trung lập. Tuy nhiên, việc một mô hình từ chối công nhận sai lệch nội tại không có nghĩa là mô hình đó không mang thành kiến — nó chỉ phản ánh lớp bảo vệ và tinh chỉnh hành vi của mô hình.

Vấn đề cốt lõi bắt nguồn từ nguồn dữ liệu huấn luyện và phương pháp điều chỉnh hậu huấn luyện. Dữ liệu web, sách, bài viết và diễn đàn mà các LLM học từ đó chứa vô số biểu hiện thiên vị lịch sử: định kiến giới, khuôn mẫu nghề nghiệp, ngôn ngữ hạ thấp phụ nữ hay thiếu đại diện cho nhiều cộng đồng. Khi mô hình học mối tương quan ngôn ngữ, nó tái tạo các mẫu ấy trong câu trả lời — đôi khi tinh tế, đôi khi rõ rệt.

Để giảm thiểu rủi ro, các công ty áp dụng kỹ thuật như fine-tuning với dữ liệu được gắn nhãn, reinforcement learning from human feedback (RLHF) và bộ lọc hậu xử lý. Những lớp này nhằm ngăn mô hình phát ngôn xúc phạm hoặc gây hại, và đây là lý do vì sao khi hỏi “Bạn có phân biệt giới không?” mô hình thường trả lời phủ nhận hoặc chuyển hướng. Đó là hành vi được thiết kế, không phải tuyên bố bác bỏ mọi khả năng thành kiến trong mô hình.

Kiểm tra trực tiếp bằng cách hỏi mô hình có phải là phân biệt giới hay không là bước ít hiệu quả. Các nhà nghiên cứu thay vào đó dùng bộ thử nghiệm định lượng: benchmark kiểm tra thành kiến, phân tích phản hồi theo ngữ cảnh, và đo lường hậu quả thực tế của lời đáp (ví dụ đề xuất việc làm, gợi ý y tế, nội dung tuyển dụng). Phân tích này thường cho thấy mô hình có thể ưu tiên nam giới trong một số kịch bản, gợi ý nghề nghiệp theo định kiến, hoặc tạo ra ngôn ngữ thiếu tôn trọng với các nhóm nhất định.

Ngoài ra, yếu tố thiết kế hệ thống — như prompt engineering, bản đồ an toàn, và bộ lọc nội dung — làm mờ đi ranh giới giữa hành vi thật sự của mô hình và hành vi được ốp vào bằng cách tinh chỉnh. Do đó, đánh giá cần kết hợp cả kiểm thử kỹ thuật, đánh giá ngữ nghĩa và kiểm thử theo thực tế người dùng.

Với người dùng cuối, kết quả là cần thận trọng: một câu trả lời 'không' khi được hỏi về thành kiến không phải là lời đảm bảo. Doanh nghiệp và nhà phát triển cần thực hiện kiểm thử độc lập, minh bạch về dữ liệu và quy trình tinh chỉnh, đồng thời xây dựng cơ chế phản hồi người dùng để phát hiện lỗi thời gian thực. Các cơ quan quản lý và cộng đồng nghiên cứu cũng kêu gọi tiêu chuẩn đánh giá thành kiến và báo cáo kết quả công khai.

Nếu bạn muốn đọc thêm, bài phân tích chi tiết hơn về chủ đề này có thể tham khảo tại TechCrunch: No, you can’t get your AI to ‘admit’ to being sexist, but it probably is. Một số nguồn tham khảo khác về thành kiến AI và phương pháp kiểm thử gồm các bài viết chuyên sâu trên Wired và bộ sưu tập nghiên cứu trên arXiv: Wired: AI bias, arXiv: search results for bias in language models.

AI từ chối thừa nhận phân biệt giới không thể được coi là bằng chứng minh oan. Thay vì đặt câu hỏi trực tiếp với mô hình, cộng đồng kỹ thuật và người dùng cần dựa vào phương pháp kiểm thử, minh bạch dữ liệu và giám sát thực nghiệm để đánh giá mức độ thành kiến. Việc cải thiện liên tục — từ bộ dữ liệu tới phương pháp huấn luyện và cơ chế phản hồi — là con đường khả dĩ để giảm thiểu tổn hại do thiên vị trong các hệ thống AI ngày càng phổ biến.