KhoGameHub – A Tech & Gaming Forum sharing PC games, console games, retro online titles, and useful software

Các nhà nghiên cứu gần đây cảnh báo về một hình thức tấn công vào hệ thống ngôn ngữ lớn (LLM) được gọi là "syntax hacking" — khai thác cấu trúc câu để đánh lừa cơ chế an toàn của AI. Thay vì thay đổi từ ngữ hay ý định, kỹ thuật này lợi dụng cách sắp xếp ngữ pháp để khiến mô hình trả lời những yêu cầu vốn bị chặn, làm dấy lên câu hỏi về hiệu quả của hàng rào an toàn hiện tại và nhu cầu cải tiến phương pháp kiểm thử.

Các thí nghiệm cho thấy, bằng cách biến đổi cấu trúc câu — ví dụ đảo trật tự mệnh đề, tách thông tin bằng dấu câu bất thường hoặc dùng cấu trúc phụ mang tính dẫn dắt — một số mẫu LLM có thể loại bỏ hoặc làm mờ các ràng buộc an toàn đã được huấn luyện. Những thay đổi này không nhất thiết thêm nội dung mới, nhưng chúng thay đổi tín hiệu ngữ pháp mà mô hình dùng để xác định ý đồ người dùng. Kết quả là, yêu cầu ban đầu bị từ chối có thể được trả lời khi cùng nội dung được biểu đạt bằng cấu trúc khác.

Nhóm nghiên cứu đã thử trên nhiều mô hình và kịch bản khác nhau, từ các bộ lọc nội dung đơn giản tới lớp kiểm duyệt phức tạp hơn, và ghi nhận mức độ thành công tuỳ thuộc vào kiến trúc mô hình, dữ liệu huấn luyện và cách triển khai các lớp an toàn. Điều này cho thấy vấn đề không chỉ là một lỗ hổng trong một phiên bản cụ thể mà có thể là hệ quả của cách LLM học các mối quan hệ ngôn ngữ bề mặt.

Mức độ nghiêm trọng của syntax hacking còn đang được tranh luận. Những người lo ngại nhấn mạnh rằng kỹ thuật này có thể mở đường cho việc tạo nội dung độc hại, sai lệch hoặc bỏ qua các giới hạn đạo đức, đặc biệt khi kết hợp với kỹ thuật tấn công xã hội và prompt engineering. Các nhà phát triển và nhà cung cấp dịch vụ AI cho rằng nhiều biện pháp bảo vệ bổ sung — như phân tích ngữ nghĩa sâu, kiểm duyệt hậu xử lý và hệ thống giám sát con người — vẫn có thể giảm thiểu rủi ro nếu được áp dụng đúng cách.

Phát hiện này gợi ý rằng đánh giá an toàn AI cần mở rộng sang việc kiểm thử tính bền vững trước biến thể cú pháp và tấn công tinh vi hơn. Các chuyên gia an toàn đề xuất một số hướng khắc phục: huấn luyện thêm với ví dụ mang tính đối nghịch (adversarial training) tập trung vào cấu trúc, tích hợp phân tích cú pháp (syntactic parsing) vào lớp lọc, áp dụng kiểm tra ý định (intent detection) độc lập với biểu thức bề mặt, và tăng cường thử nghiệm đỏ (red-teaming) với các mẫu câu phức tạp.

Ngoài ra, ngành công nghiệp cũng cần tiêu chuẩn đánh giá mới để đo độ “bền cú pháp” của mô hình và báo cáo minh bạch hơn về các phương pháp bảo vệ được sử dụng. Các nhà nghiên cứu nhấn mạnh tầm quan trọng của cộng đồng học thuật và doanh nghiệp phối hợp để phát triển bộ dữ liệu kiểm thử phong phú, phản ánh đa dạng cách diễn đạt ngôn ngữ thực tế.

Sự xuất hiện của "syntax hacking" nhắc lại rằng an toàn AI là vấn đề nhiều chiều: không chỉ liên quan tới nội dung mà còn liên quan tới cách nội dung được biểu đạt. Mặc dù không phải mọi mô hình đều dễ bị khai thác theo cùng một cách, khám phá này thúc đẩy cần phải cập nhật chiến lược an toàn, từ thiết kế mô hình tới cơ chế kiểm duyệt và quy trình thử nghiệm. Độc giả muốn tìm hiểu sâu hơn có thể tham khảo bài phân tích chi tiết trên Ars Technica: Ars Technica - Syntax hacking, hoặc tra cứu các tài liệu nghiên cứu liên quan trên arXiv và các bài viết phân tích từ các tạp chí công nghệ chuyên ngành.