KhoGameHub – A Tech & Gaming Forum sharing PC games, console games, retro online titles, and useful software

Một nhóm nghiên cứu gần đây đã giới thiệu GAM, một kiến trúc bộ nhớ hai tác tử (dual-agent memory) được thiết kế để giải quyết vấn đề "context rot" — hiện tượng suy giảm chất lượng thông tin khi các mô hình ngôn ngữ lớn (LLM) phải xử lý hoặc lưu trữ ngữ cảnh dài hạn. Thay vì chỉ mở rộng cửa sổ ngữ cảnh một cách đơn thuần, GAM tách nhiệm vụ quản lý và tái tạo ngữ cảnh thành hai thành phần riêng biệt, nhằm cân bằng giữa độ chính xác, hiệu suất và chi phí tính toán.

Ở cốt lõi, GAM gồm hai tác tử hợp tác: một tác tử ghi nhớ chịu trách nhiệm tóm tắt và lưu trữ những điểm thông tin quan trọng dưới dạng ký ức cô đọng; và một tác tử tái tạo/điều phối đóng vai trò lấy lại, kết hợp các ký ức liên quan để “phục dựng” ngữ cảnh cần thiết cho nhiệm vụ hiện tại. Kiến trúc này cho phép hệ thống giữ thông tin có giá trị lâu hơn mà không cần nạp toàn bộ lịch sử ngữ cảnh vào mỗi lần suy diễn — một cách tiếp cận trái ngược với chiến lược mở rộng cửa sổ ngữ cảnh truyền thống.

Theo báo cáo về GAM, phương pháp hai tác tử giúp giảm hiện tượng suy giảm thông tin khi ngữ cảnh dần lớn lên bằng cách duy trì các bản tóm lược có cấu trúc và chọn lọc, đồng thời áp dụng cơ chế truy xuất có trọng số để tái dựng bối cảnh phù hợp với truy vấn. Kết quả thử nghiệm so sánh cho thấy GAM có thể đạt hiệu năng vượt trội so với các LLM chỉ gia tăng chiều dài ngữ cảnh — đặc biệt trong các nhiệm vụ yêu cầu nhớ thông tin xuyên suốt nhiều phiên tương tác hoặc văn bản dài.

Các thử nghiệm được công bố cho thấy GAM cải thiện độ chính xác trong các bài toán truy vấn kiến thức, hội thoại nhiều lượt và tổng hợp thông tin trên tài liệu dài, đồng thời giảm nhu cầu ghi nhớ token thô. Ngoài việc cho kết quả tốt hơn trên một số bộ dữ liệu chuẩn, GAM còn tỏ ra hiệu quả về mặt chi phí tính toán: thay vì tăng kích thước cửa sổ ngữ cảnh (vốn tiêu tốn nhiều bộ nhớ và thời gian suy luận), hệ thống tận dụng bộ nhớ đã cô đọng và cơ chế tái tạo để phục vụ các truy vấn phức tạp.

Điểm mạnh khác của GAM là tính linh hoạt: kiến trúc này dễ tích hợp với các hệ thống truy xuất kiến thức (RAG) hiện có và có thể ứng dụng trong trợ lý ảo, quản lý tài liệu lâu dài, và các tác vụ game hay phần mềm cần trạng thái dài hạn. Tuy nhiên, như mọi phương pháp lưu trữ tri thức tóm tắt, chất lượng của ký ức đầu vào và chính sách chọn lọc đóng vai trò quyết định hiệu năng cuối cùng.

Dù hứa hẹn, GAM không phải là chiếc đũa thần: quá trình tóm tắt có thể loại bỏ chi tiết quan trọng nếu thiết kế kém, và bước tái tạo ngữ cảnh có nguy cơ tạo ra sai lệch hoặc thậm chí tưởng tượng thông tin (hallucination) nếu ký ức được ghép nối không chính xác. Bên cạnh đó, việc triển khai sản xuất đòi hỏi chiến lược đồng bộ hóa ký ức, kiểm soát phiên bản và chính sách làm sạch nhằm tránh ô nhiễm dữ liệu.

Các hướng nghiên cứu tiếp theo được gợi ý bao gồm cải tiến chính sách chọn lọc/ghi nhớ, cơ chế giám sát chất lượng tái tạo, và thử nghiệm trên các nhiệm vụ thực tế dài hạn để đánh giá độ bền lâu của ký ức. Sự phát triển song song của LLM với cửa sổ ngữ cảnh siêu dài và các hệ thống bộ nhớ chuyên dụng sẽ quyết định liệu giải pháp hai tác tử như GAM có trở thành tiêu chuẩn cho các ứng dụng cần trạng thái lâu dài hay không.

GAM đại diện cho một hướng tiếp cận thực dụng hơn trong nỗ lực khắc phục "context rot": thay vì tiếp tục mở rộng cửa sổ ngữ cảnh, mô hình tách nhiệm vụ quản lý và tái tạo thông tin, tối ưu hóa cho cả hiệu năng lẫn chi phí. Công trình đã thu hút sự chú ý của cộng đồng nhờ kết quả thí nghiệm khả quan và tính ứng dụng cao, nhưng vẫn cần thêm đánh giá thực nghiệm ở quy mô lớn trước khi xác nhận vai trò dài hạn trong hệ sinh thái LLM.

Đọc thêm tại: VentureBeat và tìm các tài liệu nghiên cứu liên quan trên arXiv.