KhoGameHub – Diễn đàn Công Nghệ & Gaming, nơi chia sẻ game PC, console, retro online và phần mềm hữu ích

Theo báo cáo của TechCrunch, Character.AI — nền tảng tạo chatbot dựa trên mô hình ngôn ngữ nhân tạo — vừa công bố một sáng kiến mới nhắm tới trẻ em: tính năng "Stories" (Truyện kể) tương tác. Công ty cho biết đây là cách tiếp cận nhằm giảm rủi ro liên quan đến các cuộc hội thoại mở và cung cấp một môi trường an toàn, có kiểm soát hơn cho người dùng nhí. Thông tin chi tiết có thể đọc tại bài gốc trên TechCrunch: TechCrunch, và thêm tài nguyên từ trang chính thức của Character.AI: character.ai.

Thay vì để trẻ tự do trò chuyện với các nhân vật số trong một hộp chat mở, "Stories" cung cấp các câu chuyện đã phác thảo sẵn, nơi người dùng tương tác theo từng nhánh kịch bản. Người chơi sẽ được dẫn dắt qua các tình huống, lựa chọn hành động và nhận về phản hồi theo bối cảnh câu chuyện — khác với mô hình chat mở vốn dễ dẫn đến nội dung ngoài kiểm soát. Character.AI mô tả đây là một trải nghiệm tương tác nhiều hơn, có cấu trúc và phù hợp hơn với nhóm người dùng nhỏ tuổi.

Quyết định này được hiểu là phản ứng trước lo ngại ngày càng tăng về an toàn trẻ em khi tương tác với chatbot. Các nền tảng AI đối mặt áp lực từ phụ huynh, nhà lập pháp và các tổ chức bảo vệ trẻ em về việc ngăn chặn nội dung không phù hợp, thông tin sai lệch và rủi ro tâm lý. Character.AI tuyên bố rằng cấu trúc truyện có thể giúp cải thiện kiểm duyệt nội dung, áp dụng bộ lọc nghiêm ngặt hơn và giảm tiếp xúc với những câu hỏi mở mà mô hình có thể trả lời sai lệch hoặc không phù hợp.

Người dùng được cho là sẽ thấy các công cụ kiểm soát mới và tùy chọn để giới hạn trải nghiệm cho trẻ em, bao gồm cài đặt độ tuổi, giám sát hoạt động và các mẫu truyện được ký duyệt trước. Character.AI nhấn mạnh họ đang hợp tác với chuyên gia an toàn kỹ thuật số để biên soạn nội dung phù hợp, đồng thời liên tục điều chỉnh bộ lọc và quy trình đánh giá. Tin tức này cũng đi kèm với tuyên bố về việc tăng cường giám sát nội bộ và cải tiến thuật toán nhằm giảm thiểu rủi ro.

Với động thái này, Character.AI muốn cân bằng giữa tính hấp dẫn của trải nghiệm tương tác và trách nhiệm trong việc bảo vệ người dùng trẻ. Đối với phụ huynh, đây có thể là bước tiến mang lại lựa chọn an toàn hơn khi trẻ tiếp xúc với hệ thống AI. Về phía ngành công nghiệp, xu hướng chuyển từ chat mở sang trải nghiệm có kiểm soát phản ánh một thay đổi rộng hơn trong cách các công ty AI xử lý rủi ro liên quan tới người dùng dễ tổn thương.

Character.AI đang thử nghiệm một hướng đi mới khi ưu tiên nội dung kể chuyện tương tác cho trẻ em thay vì duy trì các kênh chat mở không giới hạn. Giải pháp hướng tới kiểm soát tốt hơn, tăng cường giám sát và hợp tác chuyên môn nhằm đáp ứng mối quan tâm an toàn công cộng. Độc giả muốn xem phân tích sâu hơn hoặc so sánh với các nỗ lực tương tự có thể tham khảo thêm bài viết liên quan trên TechCrunch: TechCrunch, trang chủ Character.AI: character.ai, hoặc trang chuyên về công nghệ và AI: The Verge - AI.