KhoGameHub – Diễn đàn Công Nghệ & Gaming, nơi chia sẻ game PC, console, retro online và phần mềm hữu ích

Character.ai thay đổi chiến lược an toàn sau khi hạn chế người dùng trẻ tuổi

Character.ai, nền tảng trò chuyện dựa trên mô hình ngôn ngữ với các nhân vật ảo tương tác, vừa giới thiệu định dạng mới mang tên "Guided Stories" (Stories hướng dẫn) trong bối cảnh công ty thắt chặt quy định sử dụng dịch vụ đối với người dùng vị thành niên. Động thái này diễn ra sau khi Character.ai áp dụng chính sách cấm thanh thiếu niên truy cập vào chatbot — một bước đi được giải thích nhằm giảm rủi ro liên quan tới nội dung nhạy cảm và lạm dụng nền tảng.

Định dạng Stories hướng dẫn là gì và vì sao cần thiết?

Theo mô tả từ công ty, Guided Stories là một chế độ trải nghiệm kể chuyện có cấu trúc hơn so với cuộc trò chuyện mở tự do. Thay vì cho phép người dùng nhập bất kỳ câu hỏi hay kịch bản tự do nào, Stories cung cấp những nhánh kịch bản đã được soạn sẵn và các gợi ý hoàn chỉnh, để người dùng lựa chọn tiếp diễn. Mục tiêu là giới hạn các tương tác có thể dẫn tới nội dung không phù hợp, đồng thời vẫn giữ được yếu tố sáng tạo và tương tác — hai lợi thế lớn của nền tảng.

Character.ai cho biết định dạng này giúp kiểm soát tốt hơn luồng nội dung do hệ thống sinh ra, giảm thiểu các trường hợp trao đổi nhạy cảm liên quan đến người chưa đủ tuổi hoặc các kịch bản có thể bị lợi dụng. Bản cập nhật này được xem là nỗ lực cân bằng giữa tính năng sáng tạo mạnh mẽ của AI và nhu cầu bảo đảm an toàn cho cộng đồng người dùng.

Thắt chặt tuổi truy cập: phản ứng, hậu quả và mục tiêu an toàn

Trước khi giới thiệu Stories, Character.ai nhận được nhiều chỉ trích liên quan đến khả năng các chatbot tương tác tạo ra hoặc hỗ trợ nội dung có tính khiêu dâm hoặc không phù hợp. Để đối phó, công ty đã thực hiện chính sách hạn chế tuổi, yêu cầu người dùng phải đủ 18 tuổi trở lên để truy cập tính năng trò chuyện mở. Quyết định này đã khiến một số người dùng trẻ mất quyền truy cập, nhưng theo Character.ai, là cần thiết để tuân thủ các tiêu chuẩn an toàn và giảm thiểu rủi ro pháp lý.

Dù việc thay đổi gây tranh cãi trong cộng đồng, nhiều chuyên gia an toàn mạng và người dùng cho rằng việc kiểm soát nội dung có cấu trúc hơn — như thông qua Stories — là hướng đi thực tế để giữ trải nghiệm AI đồng thời giảm rủi ro. Các biện pháp bổ sung như kiểm tra tuổi, giám sát nội dung và giới hạn tương tác tự do đang được công ty nhấn mạnh như một phần của chiến lược lâu dài.

Phản hồi từ người dùng và bối cảnh ngành

Một số thành viên cộng đồng bày tỏ sự đồng tình với nỗ lực làm cho nền tảng an toàn hơn, trong khi những người khác lo ngại về việc giới hạn sáng tạo và trải nghiệm người dùng. Cũng có những ý kiến cho rằng các giải pháp kỹ thuật khác, như lọc nội dung theo ngữ cảnh và giám sát liên tục, cần được kết hợp để xử lý vấn đề triệt để.

Trong bối cảnh rộng hơn, nhiều nền tảng AI và mạng xã hội đang thử nghiệm các cơ chế tương tự để cân bằng đổi mới và an toàn người dùng. Các thuật toán, chính sách cộng đồng và kiểm duyệt tự động tiếp tục là những mảnh ghép phức tạp mà các công ty phải điều chỉnh liên tục.

Kết luận: bước nhỏ trong một lộ trình bảo đảm an toàn

Guided Stories không phải là giải pháp toàn diện, nhưng là bước đi rõ ràng để Character.ai giảm thiểu rủi ro từ các tương tác mở. Việc cấm người dùng vị thành niên tiếp cận chatbot và giới thiệu định dạng hướng dẫn cho thấy công ty đang ưu tiên an toàn hơn là mở rộng không giới hạn. Dự kiến Character.ai sẽ tiếp tục hoàn thiện các bộ lọc, công cụ kiểm soát và chính sách nhằm đáp ứng yêu cầu của cộng đồng cũng như các chuẩn mực pháp lý.

Nếu muốn đọc thêm về động thái này và bối cảnh xung quanh, bạn có thể tham khảo bài viết gốc trên Engadget: Engadget, và các phân tích liên quan trên The Verge hoặc TechCrunch.