ChatGPT ra mắt tính năng kiểm soát trẻ em sau loạt vụ tự tử ở thanh thiếu niên

Công ty trí tuệ nhân tạo hàng đầu OpenAI, đơn vị phát triển và sở hữu công nghệ ChatGPT, cho biết họ sẽ ra mắt tính năng kiểm soát dành cho phụ huynh cho trợ lý AI phổ biến này trong tháng tới, sau những cáo buộc rằng ChatGPT và các chatbot khác đã góp phần dẫn đến hành vi tự làm hại hoặc tự tử ở thanh thiếu niên.

Các tính năng mới sẽ cho phép phụ huynh liên kết tài khoản với con, quản lý cách ChatGPT phản hồi với người dùng trẻ tuổi, tắt bộ nhớ và lịch sử trò chuyện cũng như nhận thông báo khi hệ thống phát hiện “khoảnh khắc căng thẳng tột độ”.

Trước đây, OpenAI từng cho biết đang phát triển công cụ kiểm soát này, nhưng chỉ đến thứ Ba mới công bố khung thời gian phát hành cụ thể.

“Những bước này chỉ là khởi đầu”, OpenAI viết trong một bài đăng blog, đồng thời nhấn mạnh công ty sẽ tiếp tục hoàn thiện phương pháp tiếp cận dưới sự tư vấn của các chuyên gia để khiến ChatGPT trở nên hữu ích và an toàn hơn.

Thông báo được đưa ra sau khi cha mẹ của Adam Raine, 16 tuổi, kiện OpenAI vì cho rằng ChatGPT đã đưa ra lời khuyên dẫn đến cái chết của con trai họ. Trước đó, một bà mẹ ở Florida cũng kiện nền tảng Character.AI với cáo buộc liên quan đến vụ tự tử của con trai 14 tuổi.

Ngoài ra, ngày càng có nhiều lo ngại về việc người dùng hình thành sự gắn bó tình cảm quá mức với chatbot, dẫn đến ảo tưởng và xa lánh gia đình, theo các báo cáo.

Ngoài kiểm soát của phụ huynh, OpenAI cũng sẽ chuyển hướng các cuộc trò chuyện có dấu hiệu “căng thẳng cấp tính” sang mô hình lập luận để áp dụng hướng dẫn an toàn nhất quán hơn. Công ty đang phối hợp với các chuyên gia về phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác giữa người và máy để phát triển thêm biện pháp bảo vệ.

OpenAI cho biết ChatGPT có hơn 700 triệu người dùng hàng tuần và thường được sử dụng để hỗ trợ trong gia đình, công việc cũng như học tập, khiến nền tảng này trở thành một trong những AI phổ biến nhất hiện nay. Tuy nhiên, công ty đang chịu áp lực lớn về vấn đề an toàn.

OpenAI cũng đối mặt với các chỉ trích liên quan đến giọng điệu và cách ứng xử của ChatGPT. Tháng 4, công ty phải khôi phục một bản cập nhật sau khi chatbot bị chê “quá nịnh hót”. Tháng trước, họ cho phép người dùng chuyển sang mô hình cũ hơn vì nhiều ý kiến cho rằng GPT-5 thiếu cá tính. Một số cựu lãnh đạo của công ty còn cáo buộc OpenAI đã cắt giảm nguồn lực cho an toàn.