Đức Giáo Hoàng Leo XIV đã đưa ra cảnh báo chung vào thứ Hai ngày 25 tháng 5 về sự nguy hiểm của trí tuệ nhân tạokêu gọi quy định toàn cầu mạnh mẽ, giám sát độc lập và các biện pháp bảo vệ đạo đức để đảm bảo công nghệ phục vụ nhân loại thay vì lợi nhuận hay chiến tranh.
Trong thông điệp đầu tiên của mình, có tựa đề Magnifica Humanitas (“Nhân loại vĩ đại”), vị giáo hoàng gốc Mỹ đầu tiên đã mô tả trí tuệ nhân tạo là một trong những thách thức rõ ràng của kỷ nguyên hiện đại và đã chỉ trích cái mà ông gọi là “văn hóa quyền lực” đang thúc đẩy cuộc đua toàn cầu nhằm phát triển các hệ thống mạnh mẽ hơn bao giờ hết.
“Trí tuệ nhân tạo giờ đây yêu cầu được giải giáp, thoát khỏi logic khiến nó trở thành công cụ thống trị, loại trừ và chết chóc.” Giáo hoàng Leo » nói trong buổi trình bày đặc biệt về tài liệu tại Vatican.
Giáo hoàng cảnh báo về chiến tranh dựa trên AI
Thông điệp lên án mạnh mẽ sử dụng AI trong hoạt động quân sự và cảnh báo không nên cho phép máy móc đưa ra quyết định sinh tử.
Leo cho biết “không được phép” giao phó các quyết định gây chết người không thể đảo ngược cho hệ thống trí tuệ nhân tạo, đặt ra thách thức lớn về mặt đạo đức đối với các chính phủ và ngành công nghiệp quốc phòng đang đầu tư mạnh vào công nghệ chiến tranh tự động.
Đức Thánh Cha viết: “Không được phép giao phó các quyết định không thể đảo ngược và gây tử vong cho các hệ thống AI”.
Không nêu tên các quốc gia hoặc xung đột cụ thể, Leo chỉ trích “sự bình thường hóa chiến tranh ngày càng tăng” được thúc đẩy bởi các công nghệ tiên tiến và cảnh báo rằng AI có nguy cơ khiến xã hội trở nên nhạy cảm hơn với cái giá phải trả của con người trong xung đột.
Ông cũng lập luận rằng học thuyết “chiến tranh chính nghĩa” truyền thống của Giáo hội Công giáo hiện đã “lỗi thời” vì các công nghệ chiến tranh hiện đại đã làm thay đổi quy mô và bản chất của sự hủy diệt.
Chỉ trích gã khổng lồ công nghệ và sự tập trung quyền lực
Đức Thánh Cha đã nhiều lần cảnh báo việc tập trung dữ liệu và quyền lực công nghệ vào tay một số công ty, cho rằng sự kiểm soát như vậy đe dọa các cộng đồng dễ bị tổn thương, đặc biệt là trẻ em.
“Chỉ viện dẫn đạo đức một cách trừu tượng là chưa đủ; nó đòi hỏi khuôn khổ pháp lý mạnh mẽ, sự giám sát độc lập, người dùng có hiểu biết và một hệ thống chính trị không thoái thác trách nhiệm của mình.” Giáo hoàng Leo đã viết.
Ông nói thêm: “Nhiều AI đạo đức hơn là không đủ nếu đạo đức đó được quyết định bởi một số ít.”
Những nhận xét này dường như đặt ra câu hỏi về cách tiếp cận bãi bỏ quy định được thúc đẩy bởi Tổng thống Mỹ Donald Trumpchính quyền của họ đã ủng hộ ít hạn chế hơn đối với việc phát triển AI trong nỗ lực duy trì sự thống trị về công nghệ của Mỹ.
Vatican tìm kiếm đối thoại với Thung lũng Silicon
Bài thuyết trình của Vatican bao gồm những nhận xét của Christopher Olah, người đồng sáng lập của Công ty AI Anthropicphản ánh những nỗ lực không ngừng của Vatican nhằm thu hút các nhà lãnh đạo công nghệ vào các cuộc thảo luận về đạo đức xung quanh AI.
nhân loại hiện đang vướng vào các tranh chấp pháp lý với chính quyền Trump về quyền tiếp cận công nghệ và quy định AI.
Olah hoan nghênh sự can thiệp của Giáo hoàng và cho biết sự giám sát từ bên ngoài đối với các công ty AI là cần thiết do những hậu quả kinh tế và xã hội to lớn liên quan đến công nghệ này.
Olah nói: “Chúng tôi cần nhiều người hơn trên khắp thế giới – các cộng đồng tôn giáo, xã hội dân sự, giới học thuật, chính phủ – để làm những gì Đức Đạt Lai Lạt Ma đã làm ở đây”.
Ông cảnh báo về “khả năng thực sự là AI sẽ thay thế sức lao động của con người trên quy mô rất lớn”.
Đức Thánh Cha kêu gọi các nhà phát triển hãy chậm lại
Xuyên suốt thông điệp, Đức Giáo hoàng Leo trực tiếp kêu gọi các nhà phát triển AI, lãnh đạo doanh nghiệp và các nhà hoạch định chính sách hãy tạm dừng và suy nghĩ cẩn thận về hậu quả lâu dài từ hành động của họ.
Ông kêu gọi họ ưu tiên phúc lợi của nhân loại hơn lợi ích tài chính hoặc cạnh tranh địa chính trị.
Sự can thiệp của Đức Thánh Cha diễn ra khi các công ty AI, bao gồm OpenAI và nhân loại tiếp tục thu hút mức định giá trị giá hàng trăm tỷ USD, nêu bật tầm ảnh hưởng ngày càng tăng của các công ty công nghệ tư nhân đối với tương lai của nền kinh tế và xã hội toàn cầu.
Leo đóng khung cuộc tranh luận về AI không chỉ mang tính công nghệ hay chính trị mà còn mang tính đạo đức và tinh thần sâu sắc.
Ông viết: “Khung pháp lý vững chắc, sự giám sát độc lập, người dùng có hiểu biết và một hệ thống chính trị không thoái thác trách nhiệm của mình là cần thiết”.
