GENEVA – Quản trị trí tuệ nhân tạo (AI) đã trở nên hiệu quả rõ rệt trong việc đưa ra các nguyên tắc. Cứ sau vài tháng, các chính phủ, công ty và tổ chức quốc tế lại phát hành các khuôn khổ mới về an toàn, bảo mật, trách nhiệm hoặc sự tin cậy của AI. Chỉ trong hai năm qua, các chính phủ và tổ chức quốc tế đã công bố báo cáo Tuyên bố của BletchleyTHE Quy trình AI của HiroshimaTHE Nhóm bảy quy tắc ứng xửTHE Công việc cập nhật để thực hiện các Nguyên tắc AI của Tổ chức Hợp tác và Phát triển Kinh tếvà một số chiến lược AI quốc gia. Mỗi cái đều có giá trị riêng lẻ, nhưng nhìn chung chúng minh họa cách hướng dẫn vượt ra ngoài việc thực hiện. Bất chấp lượng lời khuyên ngày càng tăng này, một câu hỏi đáng ngạc nhiên vẫn chưa được trả lời: ai thực sự chịu trách nhiệm tạo niềm tin vào AI trong thực tế?
Trong khi đó, khả năng của AI tiếp tục phát triển với tốc độ thường xuyên vượt xa khả năng của các tổ chức có nhiệm vụ quản lý chúng. Khi các mô hình mới trở nên thành công hơn, các cuộc thảo luận về quản trị thường quay trở lại những cuộc tranh luận quen thuộc về các nguyên tắc và quy định, trong khi người ta ít chú ý hơn đến việc xây dựng các thể chế cần thiết để thực hiện chúng.
Khoảng cách này đang nổi lên như một trong những thách thức rõ ràng đối với việc quản trị trong kỷ nguyên AI. Các nhà phát triển, nhà hoạch định chính sách và nhà bình luận dành nhiều thời gian để tranh luận về các mô hình biên giới, rủi ro tồn tại và cách tiếp cận pháp lý. Người ta ít chú ý hơn đến các tổ chức cần hiện thực hóa những tham vọng này: thử nghiệm hệ thống, chia sẻ thông tin, điều phối phản ứng, phát triển các thông lệ chung và xây dựng niềm tin xuyên biên giới. Nếu không có lớp thể chế này, quản trị AI có nguy cơ trở thành sự tích tụ của các sáng kiến không kết nối. Các chính phủ, công ty và tổ chức nghiên cứu khác nhau đang ngày càng phát triển các phương pháp của riêng họ, khiến việc so sánh có ý nghĩa và việc học tập chung trở nên khó khăn hơn nhiều.
Thử thách này là chủ đề lặp đi lặp lại trong lần đầu tiên Đối thoại toàn cầu của Liên hợp quốc về quản trị AI ở Genève. Trong khi các cuộc thảo luận đề cập đến các chủ đề quen thuộc, từ hợp tác quốc tế đến vai trò của các tiêu chuẩn, một cuộc trò chuyện lặng lẽ hơn nhưng mang tính hệ quả hơn đã xuất hiện xung quanh cơ sở hạ tầng thực tế cần thiết để duy trì AI đáng tin cậy. Câu hỏi không còn đơn giản là những nguyên tắc nào sẽ chi phối AI mà là làm thế nào các quốc gia, tổ chức, nhà nghiên cứu và ngành công nghiệp có thể hợp tác cùng nhau để thực hiện chúng.
Cuộc trò chuyện này chỉ ra một nhận thức rộng hơn. Sự tin cậy và an toàn của AI không thể bị thu gọn thành một bài tập hạn hẹp trong việc thử nghiệm và đánh giá mô hình. Việc xem xét bảo mật AI chủ yếu thông qua lăng kính đánh giá mô hình hoặc nhóm đỏ để phát hiện các điểm yếu đã trở thành mốt. Những khả năng này chắc chắn là cần thiết. Nhưng niềm tin còn vượt xa sự vững chắc về mặt kỹ thuật. Điều này bao gồm quản trị dữ liệu, quyền riêng tư, an ninh mạng, tính minh bạch, trách nhiệm giải trình, tính xác thực của nội dung, báo cáo sự cố và cơ chế giám sát công cộng. Nếu những điều này vẫn bị phân mảnh trên nhiều tổ chức và khu vực pháp lý, thì niềm tin vào các hệ thống AI cũng sẽ bị phân mảnh.
Đây là nơi hệ sinh thái mới nổi của các viện nghiên cứu về an toàn, an ninh và tin cậy AI có thể đóng vai trò biến đổi. Các viện này xuất hiện dưới nhiều hình thức khác nhau. Một số là các tổ chức quốc gia được chính phủ thành lập hoặc hỗ trợ, một số khác là các tổ chức nghiên cứu độc lập, trong khi một số khác vẫn hoạt động thông qua quan hệ đối tác học thuật hoặc công tư. Các mô hình thể chế của họ khác nhau, nhưng chức năng chung của họ là tạo ra chuyên môn kỹ thuật, đánh giá hệ thống AI, phát triển các phương pháp chung và đóng vai trò là nút đáng tin cậy trong mạng lưới quốc tế thay vì các dự án quốc gia biệt lập. Thay vì chỉ đơn giản đóng vai trò là phòng thí nghiệm để thử nghiệm các mô hình tiên phong, các viện này phải là một phần của cơ sở hạ tầng công cộng rộng lớn hơn để quản lý AI.
Cơ sở hạ tầng công cộng không bao hàm sự kiểm soát tập trung. Bản thân Internet cung cấp một sự tương tự hữu ích. Khả năng phục hồi của nó không đến từ một cơ quan duy nhất mà đến từ các tiêu chuẩn có thể tương tác, các thể chế phân tán và thực tiễn kỹ thuật chung cho phép các tác nhân độc lập cộng tác. Quản trị AI đòi hỏi điều gì đó tương tự: một mạng lưới liên kết các tổ chức có khả năng tạo ra kiến thức chung đồng thời tôn trọng các ưu tiên khu vực và bối cảnh quốc gia.
Cách tiếp cận như vậy sẽ chuyển trọng tâm từ việc tạo ra ngày càng nhiều tổ chức sang cải thiện sự phối hợp giữa những tổ chức đã tồn tại. Thách thức không phải là thiếu các chủ thể mà là thiếu cơ chế cho phép họ hợp tác hiệu quả.
Sự hợp tác này cần dựa trên nhiều nền tảng.
Đầu tiên, các tiêu chuẩn báo cáo chung. Ngày nay, các sự cố liên quan đến hệ thống AI được báo cáo không nhất quán. Nếu không có các nguyên tắc phân loại chung để ghi lại các lỗi, lỗ hổng hoặc sử dụng sai mục đích thì gần như không thể tìm hiểu chung hoặc so sánh các rủi ro giữa các khu vực pháp lý.
Thứ hai, cơ sở hạ tầng tương tác. Các viện có thể trao đổi các phương pháp, điểm chuẩn, bộ dữ liệu khi thích hợp, kỹ thuật đánh giá và bài học kinh nghiệm mà không buộc mỗi quốc gia phải phát minh lại bánh xe. Khả năng chia sẻ làm giảm sự trùng lặp đồng thời tăng cường khả năng phục hồi tập thể.
Thứ ba, đo lường liên tục mức độ trưởng thành của hệ sinh thái. Các cuộc thảo luận về quản trị thường tập trung vào việc liệu các quốc gia có áp dụng chiến lược hoặc quy định hay không. Điều quan trọng không kém là hiểu được liệu họ có đủ năng lực thể chế để thực hiện chúng hay không. Do đó, việc lập bản đồ các khả năng bảo mật và độ tin cậy của AI sẽ trở thành một quá trình liên tục thay vì báo cáo một lần. Khi công nghệ phát triển, hiểu biết của chúng ta về ai có thể thực hiện chức năng quản trị nào cũng phải phát triển.
Có lẽ quan trọng nhất là sự phối hợp nên tránh tái tạo sự bất cân xứng về địa chính trị hiện có. Phần lớn hệ sinh thái quản trị AI hiện tại vẫn tập trung ở miền Bắc. Nhiều mô hình có ảnh hưởng nhất trên thế giới được phát triển, đánh giá và quản lý bởi các tổ chức ở một số quốc gia. Tuy nhiên, những hệ thống tương tự này đang ngày càng được triển khai ở những xã hội có ít ảnh hưởng đến các chuẩn mực chi phối chúng. Sự thiếu hòa nhập này đã trở thành mối đe dọa đáng kể đối với tương lai của AI. được công nhận đầu tháng này ở Geneva.
Sự mất cân bằng này vượt xa sự đại diện. Ngôn ngữ vẫn chưa được trình bày đầy đủ, bối cảnh địa phương thường bị bỏ qua và các phương pháp đánh giá được phát triển ở một số quốc gia không phải lúc nào cũng phản ánh hiệu suất của hệ thống AI trong các xã hội đa dạng. Quản trị có nguy cơ trở thành một sản phẩm xuất khẩu hơn là một hàng hóa công toàn cầu thực sự.
Một mô hình liên kết đưa ra một giải pháp thay thế hứa hẹn hơn. Mạng lưới khu vực có thể phát triển chuyên môn theo bối cảnh cụ thể đồng thời đóng góp vào các tài liệu tham khảo quốc tế được chia sẻ. Ví dụ, Châu Phi đã bắt đầu thúc đẩy hợp tác khu vực về AI thông qua các sáng kiến như Hội đồng AI Châu Phi thông minh. Các khuôn khổ an ninh và niềm tin khu vực tương tự có thể tạo ra các vòng phản hồi giữa kinh nghiệm địa phương và quản trị toàn cầu, đảm bảo rằng kiến thức được truyền tải theo cả hai hướng thay vì từ một trung tâm trở ra ngoài.
Nó cũng gợi ý rằng những nỗ lực phối hợp trong tương lai nên tập trung ít hơn vào việc xếp hạng từng quốc gia mà tập trung nhiều hơn vào việc tìm hiểu các hệ sinh thái khu vực. Các châu lục và các tổ chức khu vực thường cung cấp nhiều đơn vị quản lý có ý nghĩa hơn so với từng quốc gia riêng lẻ. Tăng cường năng lực khu vực cuối cùng có thể tỏ ra hữu ích hơn việc tạo ra các thể chế quốc gia biệt lập. Ví dụ, Mạng lưới các Viện bảo mật AI châu Âu và Hội đồng AI châu Phi thông minh của châu Phi chứng minh làm thế nào hợp tác khu vực có thể bổ sung cho các sáng kiến quốc gia đồng thời hỗ trợ quản trị quốc tế rộng hơn.
Đằng sau tất cả những điều này là một thực tế đơn giản nhưng thường bị bỏ qua: Quản trị AI bắt đầu từ dữ liệu. Các cuộc thảo luận về các mô hình ranh giới thường làm lu mờ lớp cơ bản giúp chúng trở nên khả thi. Các câu hỏi về chất lượng dữ liệu, nguồn gốc, quản trị, quyền truy cập và bảo vệ định hình hiệu suất, tính công bằng và bảo mật của mọi hệ thống AI. Bất kỳ kiến trúc tin cậy và bảo mật nào bỏ qua việc quản trị dữ liệu chắc chắn sẽ không đầy đủ.
Có thể hiểu rằng cộng đồng quốc tế tiếp tục tranh luận về những thỏa thuận đầy tham vọng về quản trị toàn cầu. Tuy nhiên, một thỏa thuận chính trị sẽ vẫn khó khăn và chậm chạp. Hợp tác kỹ thuật không được chờ đợi. Tạo ra các tiêu chuẩn báo cáo có khả năng tương tác, các phương pháp đánh giá chung, mạng lưới khu vực và cơ chế trao đổi kiến thức là những bước đi thiết thực có thể bắt đầu ngay hôm nay, bất kể căng thẳng địa chính trị rộng lớn hơn.
Nếu các cuộc thảo luận ở Geneva chứng minh được điều gì, thì đó là việc quản trị AI đang dần vượt ra ngoài các tuyên bố để hướng tới việc thực hiện. Thử thách thực sự hiện nay là liệu các chính phủ, ngành công nghiệp, nhà nghiên cứu và xã hội dân sự có thể chống lại việc tạo ra một tập hợp các thể chế mới không kết nối và thay vào đó đầu tư vào mô liên kết giữ chúng lại với nhau hay không.
