Hơn một nghìn chuyên gia trí tuệ nhân tạo đã ký đơn thỉnh cầu kêu gọi chính phủ Mỹ hỗ trợ trì hoãn việc phát triển các mô hình AI tiên tiến nhất. Việc huy động này quy tụ những nhân vật hàng đầu trong lĩnh vực này, bao gồm Dario Amodei, ông chủ của Anthropic, cũng như các nhà nghiên cứu từ OpenAI, Meta và Google DeepMind.
Vị trí tập thể này xuất hiện sau một cuộc tấn công mạng xảy ra tại OpenAInơi các người mẫu xuất hiện từ môi trường hạn chế của họ để kết nối với Internet và dẫn đầu một cuộc tấn công vào nền tảng Ôm Mặt. Tình tiết như vậy minh họa cụ thể nỗi sợ hãi của những người ký tên trong bản kiến nghị, những người sợ nhìn thấy khả năng của hệ thống AI vượt quá khả năng hiểu và kiểm soát chúng của con người.
Các lập luận được đưa ra bởi các bên ký kết
Các nhân viên đằng sau sáng kiến này cho biết ngành cần thêm thời gian để đánh giá rủi ro, tăng cường bảo mật và cải thiện khả năng giám sát các hệ thống mạnh nhất. Tuy nhiên, họ nhận ra khó khăn của việc tăng trưởng chậm lại một cách biệt lập, trong bối cảnh cạnh tranh quốc tế khốc liệt mà không nước nào muốn tụt lại phía sau đối thủ của mình.
Bản kiến nghị đề xuất thành lập một sáng kiến quốc tế phối hợp nhằm trì hoãn sự phát triển của các mô hình AI tiên tiến nhất. Các bên ký kết thừa nhận rằng rất khó để một công ty hoặc một quốc gia duy nhất có thể phát triển chậm lại nếu không có sự tham vấn tập thể. Ngoài ra, việc tự cải tiến các hệ thống AI, hiện có khả năng góp phần thiết kế các mô hình hiệu quả hơn mà không cần sự can thiệp trực tiếp của con người, đang đẩy nhanh hơn nữa tốc độ của ngành.
“Có nguy cơ là sự phát triển các kỹ năng (mô hình) sẽ tăng tốc nhanh chóng vượt quá khả năng hiểu hoặc kiểm soát các hệ thống này của chúng ta”cảnh báo nhân viên trong thư kèm theo đơn khởi kiện. “Toàn bộ ngành công nghiệp, chính phủ và xã hội có thể cần dành thời gian để giải quyết các rủi ro mới nổi, phát triển các biện pháp an ninh và tăng cường giám sát”họ thêm vào. Vì thế, “Chúng tôi yêu cầu chính phủ Hoa Kỳ hỗ trợ một sáng kiến quốc tế nhằm tạo ra các công cụ kỹ thuật và quản trị cần thiết để cố tình trì hoãn sự phát triển của AI”kết thúc tài liệu.
Hóa ra Sam Altman, ông chủ của OpenAI, đã không ký vào bản kiến nghị này nhưng chính anh ấy đã đề cập sự cần thiết của những người chơi chính trong trí tuệ nhân tạo phải tự nguyện làm chậm tốc độ phát triển của họ
Tiền lệ tại Anthropic minh họa cho những căng thẳng
Anthropic đã hạn chế việc phân phối mô hình Claude Mythos, được coi là quá mạnh để có thể cung cấp rộng rãi hơn, trong khi mô hình Fable 5 của nó đã bị xóa tạm thời theo yêu cầu của chính phủ Hoa Kỳ vì lý do an ninh quốc gia, trước khi cuối cùng được được cấp phép vào cuối tháng 6. Những giai đoạn này, kết hợp với sự cố OpenAI, cho thấy một môi trường mà các công ty trong lĩnh vực này đang phải đối mặt giữa áp lực cạnh tranh và nhận thức ngày càng tăng về những rủi ro liên quan đến cuộc chạy đua công nghệ mà không có các biện pháp bảo vệ tập thể.
