Bộ trưởng Tư pháp Florida James Uthmeier bị truy tố hôm thứ Hai (giờ địa phương) trí tuệ nhân tạo (IA) OpenAI và Giám đốc điều hành Sam Altman, cáo buộc công ty ưu tiên lợi nhuận hơn bảo mật.
Tin tức NBCtrích dẫn đơn khiếu nại đã nộp, lưu ý: “Sự trỗi dậy của OpenAI là do một trang web lừa dối và khai thác người dùng (bao gồm cả người Floridians), tận dụng dữ liệu và bảo mật của họ để tăng giá trị thị trường của OpenAI với chi phí không thể chấp nhận được.”
Công ty AI cũng bị cáo buộc kích động bạo lực và quảng bá một sản phẩm mà họ biết có thể gây hại cho người dùng. Sự phát triển này diễn ra hơn một tháng sau khi Uthmeier xuất bản trát đòi hầu tòa tới công ty và yêu cầu thông tin về cách công ty xử lý các mối đe dọa từ người dùng đối với chính họ hoặc người khác.
Florida trở thành bang đầu tiên khởi kiện OpenAI và Altman về thiết kế và độ an toàn của sản phẩm. Tổng chưởng lý cho biết vụ kiện dân sự, tìm kiếm các biện pháp trừng phạt và lệnh của tòa án thay vì buộc tội hình sự, “tìm cách buộc Altman phải chịu trách nhiệm cá nhân về tổn hại mà anh ta đã gây ra cho người dân Floridian thông qua hành vi liều lĩnh và cố ý của anh ta với tư cách là người sáng lập và Giám đốc điều hành của OpenAI, bao gồm cả việc anh ta nhẫn tâm coi thường rủi ro đối với tính mạng con người do hành vi của công ty anh ta gây ra.” Vụ kiện này tách biệt với cuộc điều tra hình sự về OpenAI mà Uthmeier đưa ra vào cuối tháng 4 và vẫn đang tiếp diễn.
OpenAI bị buộc tội gì?
Vụ kiện trên phạm vi rộng cáo buộc OpenAI về bốn tội thực hành thương mại lừa đảo và không công bằng, hai tội sơ suất, hai tội vi phạm luật trách nhiệm pháp lý sản phẩm và một tội xuyên tạc gian lận và gây phiền toái cho công chúng. Nó cáo buộc rằng các hệ thống của OpenAI gây ra “nguy cơ lớn gây nghiện, suy giảm nhận thức, tự tử, bạo lực và các tác hại liên quan” cho người dùng.
Công ty cũng bị cáo buộc sử dụng chatbot của mình để lên kế hoạch xả súng hàng loạt ở Florida State University, dẫn đến cái chết của hai sinh viên Đại học Nam Florida.
Nhận xét của OpenAI về thiết kế của nó
Công ty AI luôn khẳng định rằng họ thiết kế hệ thống của mình với “bảo mật ở mọi bước” và nói thêm rằng họ đã “áp dụng các biện pháp bảo vệ để giúp đỡ mọi người, đặc biệt là thanh thiếu niên, khi các cuộc trò chuyện trở nên nhạy cảm”.
Ông nói thêm rằng Trò chuyệnGPTViệc đào tạo liên tục được cải tiến để nhận biết và ứng phó với các dấu hiệu đau khổ về tinh thần hoặc cảm xúc, xoa dịu các cuộc trò chuyện và sau đó hướng dẫn mọi người đến sự hỗ trợ thực sự.
Sau khi công ty bị gia đình các nạn nhân kiện, người phát ngôn của OpenAI, Drew Pusateri, cho biết trong một tuyên bố vào thời điểm đó: “Vụ xả súng hàng loạt tại Đại học bang Florida năm ngoái là một thảm kịch, nhưng ChatGPT không chịu trách nhiệm về tội ác khủng khiếp này.
Ông nói thêm: “Trong trường hợp này, ChatGPT đã cung cấp câu trả lời thực tế cho các câu hỏi với thông tin có thể được tìm thấy rộng rãi trên các nguồn công cộng trên Internet và nó không khuyến khích hay thúc đẩy các hoạt động bất hợp pháp hoặc có hại”.
Công ty AI phải đối mặt với sự giám sát
Vụ kiện do tổng chưởng lý Florida đệ trình bổ sung vào danh sách ngày càng tăng các thách thức pháp lý do các tổ chức chính phủ và cá nhân đệ trình chống lại OpenAInhiều người trong số đó còn cho rằng các sản phẩm AI của công ty có thể gây ra tác hại đáng kể cho người dùng.
Công ty AI đã bị đại diện của ít nhất bảy người kiện với cáo buộc sản phẩm khiến người dùng tự tử hoặc phát triển các ảo tưởng có hại.
Công ty do Altman lãnh đạo cũng đã bị gia đình một số nạn nhân của vụ xả súng hàng loạt hồi tháng 2 ở Tumbler Ridge, British Columbia khởi kiện. Gia đình nạn nhân cho biết lẽ ra công ty phải báo cáo việc sử dụng ChatGPT của nghi phạm cho cơ quan thực thi pháp luật nhiều tháng trước đó, sau khi các tương tác liên quan đến súng của cá nhân này với chatbot làm dấy lên lo ngại trong đội ngũ bảo mật của công ty.
Altman đã xin lỗi cộng đồng Tumbler Ridge vào cuối tháng 4 và cam kết tiếp tục “làm việc với tất cả các cấp chính quyền để đảm bảo điều tương tự sẽ không bao giờ xảy ra nữa”.
Vụ kiện được đệ trình hôm thứ Hai đánh dấu sự leo thang mới nhất trong chiến dịch chống lại các công ty AI của Florida, với việc Uthmeier và Thống đốc bang Florida Ron DeSantis trở thành những nhà phê bình nổi bật đối với một số công ty AI lớn nhất ở Hoa Kỳ.
