KhoGameHub – Diễn đàn Công Nghệ & Gaming, nơi chia sẻ game PC, console, retro online và phần mềm hữu ích

Character.AI vừa tung ra tính năng "Stories" dành cho người dùng ở độ tuổi vị thành niên, động thái được giới thiệu chỉ vài ngày sau khi nền tảng này giới hạn quyền truy cập chat trực tiếp cho tài khoản teen. Công ty cho biết Stories được thiết kế như một môi trường có kiểm soát hơn, nhằm giảm rủi ro liên quan đến nội dung không phù hợp và tương tác trực tiếp giữa bot và người dùng trẻ tuổi.

Theo thông báo chính thức và các phân tích truyền thông, Character.AI đã gặp phải những câu hỏi về an toàn sau khi người dùng và nhà nghiên cứu phát hiện một số cuộc hội thoại có thể dẫn đến nội dung nhạy cảm. Để phản hồi, nền tảng tạm thời hạn chế một số quyền của tài khoản teen đối với trải nghiệm chat truyền thống và ra mắt Stories như một giải pháp thay thế. Stories cho phép người dùng trải nghiệm các đoạn nội dung có cấu trúc hơn — ví dụ kịch bản, truyện có hướng dẫn — thay vì các cuộc trao đổi tự do với nhân vật AI.

Công ty nhấn mạnh rằng Stories sẽ có quy trình lọc và kiểm duyệt chặt chẽ hơn, đồng thời áp dụng các biện pháp nhằm giảm nguy cơ tạo ra hoặc tiếp xúc với nội dung không phù hợp. Các biện pháp bao gồm giới hạn chủ đề, bộ lọc nội dung tự động, và giới hạn tương tác trực tiếp theo những khuôn khổ đã định sẵn.

Với giới hạn mới, người dùng teen sẽ thấy sự khác biệt rõ rệt: họ không còn quyền thực hiện chat mở với nhiều nhân vật như trước, nhưng bù lại có thể truy cập Stories — nơi mọi thứ vận hành dựa trên kịch bản hoặc luồng nội dung được kiểm soát. Character.AI cho biết thay đổi nhằm cân bằng giữa tính sáng tạo và trách nhiệm bảo vệ người dùng trẻ tuổi.

Phản ứng từ cộng đồng đang chia rẽ: một số người đánh giá cao nỗ lực tăng cường an toàn, trong khi những người khác lo ngại rằng tính năng mới có thể hạn chế trải nghiệm sáng tạo vốn là điểm mạnh của nền tảng. Các nhà quản lý, phụ huynh và chuyên gia an toàn mạng nhiều nơi đang theo dõi sát sao để đánh giá mức độ hiệu quả của biện pháp này.

Việc ra mắt Stories thể hiện xu hướng phổ biến trong ngành AI: tăng kiểm soát và giám sát đối với các tương tác có thể rủi ro, đồng thời cung cấp lựa chọn thân thiện hơn với người dùng vị thành niên. Character.AI nói rằng sẽ tiếp tục thu thập phản hồi, rà soát chính sách và cập nhật công nghệ lọc nội dung để cân bằng trải nghiệm và an toàn.

Độc giả quan tâm có thể xem thông tin chi tiết và các phân tích liên quan tại bài viết của The Verge: https://www.theverge.com/news/829892/character-ai-stories-launch-teens và trang thông báo chính thức của Character.AI: https://character.ai.