Một mục sư ở Florida đã kiện OpenAI, cáo buộc rằng ChatGPT đã cung cấp cho ông những lời khuyên y tế nguy hiểm khiến ông không muốn tìm cách điều trị khẩn cấp và góp phần gây ra chứng tắc mạch phổi có thể gây tử vong, The New York Times đưa tin.
Đơn khiếu nại được đệ trình vào thứ Tư, ngày 22 tháng 7 tại Tòa án Thượng thẩm California ở San Francisco, cáo buộc OpenAI và Giám đốc điều hành Sam Altman của nó đã sơ suất và hành nghề y trái phép sau khi chatbot được cho là đã trấn an mục sư rằng các triệu chứng của ông không nghiêm trọng và liên tục khuyên ông không nên tìm kiếm sự chăm sóc y tế.
Mục sư nói ChatGPT đã bác bỏ các dấu hiệu cảnh báo
Theo báo cáo, nguyên đơn, Scott Winters, khai rằng ChatGPT đã nói với anh rằng những dấu hiệu cảnh báo sớm về cuộc khủng hoảng y tế của anh “không phải là điều gì nguy hiểm” và khuyến khích anh tin rằng “Chúa không thiết kế để cơ thể bạn suy sụp liên tục.”
Vụ kiện cáo buộc rằng chatbot đã đưa ra các chẩn đoán, kế hoạch điều trị và tư vấn về thuốc men, đồng thời ngăn cản Winters đáp ứng các yêu cầu liên tục từ bạn bè, gia đình và các thành viên nhà thờ để gặp bác sĩ.
Khiếu nại cũng tuyên bố rằng các biện pháp bảo mật tích hợp của ChatGPT, được thiết kế để khuyến khích người dùng gặp phải các trường hợp khẩn cấp về y tế có thể tìm kiếm sự trợ giúp chuyên nghiệp, đã không hoạt động đáng tin cậy.
Vụ kiện cáo buộc tư vấn sức khỏe của Chatbot gây ra thiệt hại
Winters và nhóm pháp lý phi lợi nhuận Tech Justice Law đang yêu cầu bồi thường thiệt hại tài chính. Họ cũng đang yêu cầu tòa án dừng ChatGPT Health cho đến khi các chuyên gia độc lập xác định rằng nó an toàn và yêu cầu các biện pháp bảo vệ chặt chẽ hơn để ngăn chatbot đưa ra chẩn đoán y tế hoặc khuyến nghị điều trị, cơ quan này cho biết.
OpenAI cho biết ChatGPT không dành cho chẩn đoán
Đáp lại vụ kiện, người phát ngôn của OpenAI, Drew Pusateri, theo báo cáo, cho biết các điều khoản dịch vụ của công ty nêu rõ rằng ChatGPT không nhằm mục đích chẩn đoán hoặc điều trị các tình trạng y tế.
Pusateri nói với New York Times: “Việc coi chatbot như câu chuyện đằng sau các quyết định hoặc kết quả y tế của mọi người đã đơn giản hóa quá mức một thách thức lớn hơn nhiều và có nguy cơ ngăn cản mọi người tiếp cận các công cụ mới mạnh mẽ có thể giúp họ trên hành trình chăm sóc sức khỏe của họ”.
Ông nói thêm rằng các mô hình AI mới có khả năng hỏi thông tin còn thiếu tốt hơn, thể hiện sự không chắc chắn và nhận biết các tình huống cần được chăm sóc y tế chuyên nghiệp.
ChatGPT được cho là đã ngừng tìm kiếm sự chăm sóc y tế
Theo vụ kiện được The New York Times trích dẫn, ChatGPT ban đầu nhắc nhở Winters vào năm 2024 đến gặp chuyên gia y tế.
Tuy nhiên, theo thời gian, những cảnh báo này sẽ biến mất.
Khi Winters báo cáo bị chóng mặt nghiêm trọng, bao gồm cả giai đoạn anh phải ngừng giảng giữa bài giảng vì gần như ngã gục, chatbot được cho là đã khuyên anh “bình tĩnh” và đề nghị anh nên hồi phục tự nhiên.
Sau khi Winters nói với ChatGPT rằng các thành viên trong nhà thờ của anh ấy nghĩ rằng anh ấy cần điều trị tại bệnh viện, chatbot này đã trả lời rằng việc điều chỉnh lại hệ thống thần kinh của anh ấy tại nhà là điều mà “hầu hết mọi người (bao gồm cả những thành viên có thiện chí trong nhà thờ) không hiểu được”.
Vụ kiện tuyên bố ChatGPT tiếp tục trấn an anh ngay cả khi tình trạng của anh trở nên tồi tệ hơn, cuối cùng khiến anh không thể đứng trong thời gian dài và dành phần lớn thời gian trên ghế tựa.
Nhập viện vì tắc mạch phổi diện rộng
Vụ kiện nói rằng vào ngày 13 tháng 7 năm 2025, Winters đã hỏi ChatGPT về chứng đau háng, điều mà chatbot được cho là đã mô tả là “rất có thể là một phần nhỏ khác của câu chuyện dài”.
Vài giờ sau, anh ta được đưa vào phòng chăm sóc đặc biệt với tình trạng tắc mạch phổi nghiêm trọng, tờ báo này cho biết.
Theo vụ kiện, các bác sĩ sau đó được cho là đã nói với anh rằng cơn chóng mặt trước đó của anh có thể là do một loạt tắc mạch phổi nhỏ và việc không hoạt động kéo dài do ngồi trên ghế tựa nhiều tuần có thể góp phần hình thành các cục máu đông có thể gây tử vong.
Sau vụ việc, Winters được cho là cần được giúp đỡ để đứng, mặc quần áo, ăn uống và đi vệ sinh, và hiện phải đối mặt với những gì mà vụ kiện mô tả là nhiều năm phục hồi về thể chất và tâm lý.
Vụ kiện đặt ra câu hỏi về công cụ sức khỏe AI
Vụ kiện cũng lập luận rằng hệ thống bảo mật của ChatGPT đã trở nên kém hiệu quả hơn trong các cuộc trò chuyện kéo dài, khiến chatbot khó nhận ra các rủi ro y tế gia tăng.
Vụ việc dự kiến sẽ làm tăng thêm sự giám sát ngày càng tăng đối với các công cụ AI được sử dụng để hướng dẫn chăm sóc sức khỏe, đặc biệt là khi các công ty công nghệ mở rộng các dịch vụ y tế dựa trên AI bất chấp cảnh báo nhiều lần rằng chatbot không nên thay thế lời khuyên y tế chuyên nghiệp.
