Mọi người đang sử dụng ChatGPT như một nhà trị liệu và điều đó ngày càng đáng lo ngại.
Mọi người đang sử dụng ngày càng nhiều Trò chuyệnGPT và các chatbot AI tương tự để hỗ trợ tinh thần và các cuộc trò chuyện giống như trị liệu không chính thức, theo một số nghiên cứu gần đây phân tích hành vi của người dùng trên các nền tảng và khảo sát trong thế giới thực.
MỘT học từ Đại học Cornell, khi kiểm tra 5.126 bài đăng trên Reddit trong các cộng đồng liên quan đến sức khỏe tâm thần, nhận thấy rằng người dùng thường mô tả hệ thống AI là “người nghe” và “bạn đồng hành”, thường sử dụng chúng như không gian để xử lý sự lo lắng, các mối quan hệ và cảm xúc đau khổ. Các nhà nghiên cứu nhận thấy rằng trong khi nhiều người dùng báo cáo sự nhẹ nhõm và cảm xúc rõ ràng, một số tương tác cũng làm dấy lên mối lo ngại về chứng nghiện và các triệu chứng trầm trọng hơn.
MỘT ReutersCuộc điều tra kéo dài cho thấy hành vi này không còn giới hạn ở các cộng đồng trực tuyến thích hợp nữa. Cuộc khảo sát cũng chỉ ra rằng gần một nửa thanh niên châu Âu từ 11 đến 25 tuổi đã sử dụng Chatbot AI để thảo luận các vấn đề cá nhân hoặc tình cảm, nhiều người mô tả chúng dễ nói hơn các hệ thống hỗ trợ truyền thống.
Khi mô hình sử dụng phát triển vượt ra ngoài các nhiệm vụ về năng suất, ngay cả các nhà lãnh đạo AI cũng nhận ra sự thay đổi này. “Rất nhiều người đang sử dụng ChatGPT một cách hiệu quả như một loại nhà trị liệu hoặc huấn luyện viên cuộc sống…và điều đó khiến tôi không thoải mái,” Giám đốc điều hành OpenAI. Sam Altman cho biết trên một bài đăng X.
Các nhà nghiên cứu AI đã lặp lại những quan sát tương tự. “Mọi người ngày càng sử dụng hệ thống AI để được tư vấn và thậm chí hỗ trợ về mặt tinh thần, đó không phải là mục đích ban đầu của những công cụ này,” cho biết Andrew Ngchủ tịch và đồng sáng lập của Coursera, người sáng lập DeepLearningAI và Giám đốc điều hành của Landing AI, nêu bật khoảng cách ngày càng tăng giữa cách các hệ thống này được thiết kế và cách chúng được sử dụng trong cuộc sống hàng ngày.
Chuyên gia sức khỏe tâm thần có trụ sở tại Bangalore Sneha Francis cho biết bạc hà sống khả năng tiếp cận đó không đồng nghĩa với sự đầy đủ. Bà cho biết, không giống như các liệu pháp được cấp phép, hệ thống AI thiếu sự giám sát lâm sàng, con đường leo thang khủng hoảng và khuôn khổ trách nhiệm giải trình về mặt đạo đức.
“Nó giúp tôi sắp xếp những gì tôi cảm thấy”
Tài khoản người dùng trên Reddit phản ánh lý do tại sao hành vi này lại lan rộng.
Một người dùng đã mô tả ChatGPT như một lối thoát cảm xúc có cấu trúc:
“Nó giúp tôi thể hiện những hành vi hoặc khuôn mẫu mà tôi nhận thấy.”
Một người dùng khác nhấn mạnh khả năng truy cập là lý do chính:
“Anh ấy luôn sẵn sàng 24/7, điều này cho phép tôi trút giận ngay lập tức nếu gặp vấn đề. »
Các chủ đề riêng biệt trên Reddit cũng cho thấy người dùng chào hàng rõ ràng các chatbot AI như một phương pháp thay thế cho liệu pháp không chính thức, nói rằng họ sử dụng chúng để “xử lý suy nghĩ” và “nói chuyện khi không có ai khác”.
Asad Fathima, một chuyên gia có trụ sở tại Bangalore, cho biết: “Đôi khi, tôi sử dụng nó như thể đang nói chuyện với một người và tôi sẽ tìm hiểu sâu hơn về những điều tôi đang nghĩ đến. Nhưng rồi thực tế ập đến với tôi và tôi nhớ rằng đó chỉ là một AI, nên tôi lùi lại”. bạc hà sống.
Mối lo ngại ngày càng tăng về sự phụ thuộc cảm xúc
Trong khi nhiều người dùng ngày càng mô tả AI là hữu ích thì các nhà nghiên cứu và bác sĩ lâm sàng lại cảnh báo về những hậu quả không lường trước được.
Một tính năng gần đây của Người giám hộ người dùng được ghi lại đã chuyển sang Trò chuyệnGPT để hỗ trợ tinh thần trong thời gian căng thẳng, mô tả các phản hồi là “có cấu trúc đáng ngạc nhiên” nhưng cuối cùng bị hạn chế về chiều sâu cảm xúc và trách nhiệm giải trình so với liệu pháp con người.
Bản thân người dùng Reddit cũng lo lắng về sự phụ thuộc quá mức. Một cuộc thảo luận được bình chọn rộng rãi đã đặt câu hỏi về tác động lâu dài của việc sử dụng ChatGPT như một nhà trị liệu, phản ánh nhận thức ngày càng tăng về rủi ro của sự lệ thuộc cảm xúc, ngay cả ở những người dùng thường xuyên.
Qua các nghiên cứu và câu chuyện của người dùng, một mô hình nhất quán xuất hiện: chatbot AI ngày càng được sử dụng không chỉ vì năng suất mà còn là không gian luôn sẵn sàng để xử lý cảm xúc, đặc biệt là trong những thời điểm mà sự hỗ trợ của con người dường như không thể tiếp cận được, tốn kém hoặc không thoải mái.
Các nhà nghiên cứu cho biết sự thay đổi này làm nổi bật sự mất kết nối ngày càng tăng giữa cách các hệ thống này được thiết kế như những trợ lý đa năng và cách chúng hoạt động ngày càng nhiều trong đời sống tình cảm của con người.
