Gần đây tôi đã thuê Claude trong một dự án lớn cuộc hội thoại về cách trí thông minh của con người và máy móc ở trạng thái hiện tại có thể tương tác hiệu quả và điều này có thể phát triển như thế nào trong tương lai. Chúng tôi đã đồng ý về nguyên tắc rằng những gì xảy ra khi chúng ta tiến về phía trước phụ thuộc vào quyết định của con người hơn là cách bản thân AI phát triển. Câu hỏi là: con người nào? Đó là nhân loại nói chung hay những người tạo ra, kiểm soát và quản lý AI mà chúng ta được mời sử dụng? Chúng tôi cũng đồng ý rằng, theo hiện tại, AI có ý tưởng rõ ràng, được lập trình bằng thuật toán, về những gì nó phải làm, nhưng con người sử dụng nó thì có ít ý tưởng hơn nhiều. Chúng ta có thể suy đoán, nhưng chúng ta vẫn chưa biết gì nhiều.
Là nhà báo và tác giả Karen Hao lập luậnbóng tối này đang bị che khuất bởi chính những người kiểm soát và tiếp thị AI. Là doanh nhân, họ không quan tâm đến việc để chúng tôi nắm quyền kiểm soát. Hao đổ lỗi phần lớn cho các CEO thiết kế và quản lý AI cho mục đích riêng của họ. Bằng cách nhấn mạnh, như cô thường làm, rằng vấn đề mang tính cấu trúc chứ không phải cá nhân, cô ngầm đặt câu hỏi về vai trò của một nền kinh tế tự do và một hệ thống chính trị được quản lý cẩn thận, mang lại cho các CEO toàn quyền và cung cấp cho họ những nguồn lực vô hạn.
Chỉ cần nhìn vào sự cường điệu xung quanh chúng ta. Các phương tiện truyền thông xã hội và chính thống tiếp tục thể hiện AI như một nguồn sức mạnh bất khuất, tự tổ chức và có khả năng mở rộng vô tận. Chúng ta sợ AI vì nó có logic riêng, vượt trội hơn chúng ta. Anh ta nhanh hơn và hiểu biết hơn bất kỳ con người hoặc nhóm người nào. Chúng tôi không thể cạnh tranh được. Điều này có khả năng đặt toàn bộ xã hội của chúng ta vào vị trí của một nô lệ hốc hác phải cầu xin sự thương xót từ chủ nô và hy vọng rằng tên bạo chúa sẽ chế ngự được sự cám dỗ sắp xếp lại cuộc sống của chúng ta, hoặc thậm chí tiêu diệt chúng ta.
Đây gần như là cách các phương tiện truyền thông thể hiện số phận của chúng ta. Nhưng đôi khi chúng ta không để ý đến một sự thật quan trọng: chính những CEO mà Hảo tố cáo đều là những kẻ ăn xin. Họ dành thời gian phát triển các kế hoạch kinh doanh để thuyết phục cộng đồng các nhà đầu tư nhiệt tình bơm hàng núi tiền mặt mà họ cần để thực hiện ước mơ không tưởng của mình. Và các nhà quản lý quỹ luôn sẵn sàng giúp đỡ. Không phải vì trí thông minh kinh tế của họ, mà vì niềm tin gần như tôn giáo của họ vào sự khôn ngoan của “thị trường tự điều tiết”, ngay cả khi thực tế là thị trường được điều tiết bằng tiền.
Một thế giới quan kinh tế đang phát triển
Điều này sẽ dẫn chúng ta đến một kết luận đơn giản: “siêu trí tuệ” AI sẽ luôn phụ thuộc vào một siêu trí tuệ thực sự nhưng được che giấu cẩn thận mà nền văn minh của chúng ta không bao giờ thất bại trong việc tôn vinh, thậm chí tôn kính: tiền chính là bộ não tưởng tượng. Nhà kinh tế học Adam Smith đã viết về Sự giàu có của các quốc giamà ông đã phân tích về mặt năng lực sản xuất, nhưng ngày nay của cải đã trở thành hai thứ: một trường lực vô hình và hiệu ứng tâm lý mà trường lực này tạo ra trên các phương tiện truyền thông, chiếu nó lên những cá nhân được chọn, như tỷ phú đầu tiên của thế giới, Tesla, và Giám đốc điều hành SpaceX, Elon Musk. Chính ý tưởng về sự giàu có ở dạng hậu công nghiệp đã biến đổi một nền văn minh ngày càng gắn liền với siêu thực, tách nó ra khỏi dấu vết của nền kinh tế thực sự của bất kỳ quốc gia nào. Musk có thực sự là tỷ phú? Và điều đó có nghĩa là gì?
Trong chương đầu tiên của cuốn sách của mình, Sự biến đổi vĩ đại (1944), nhà kinh tế học Karl Polanyi đã thách thức một ý tưởng kinh tế học vốn đã làm ô nhiễm tư duy của chúng ta đến mức đe dọa sự tồn vong của nhân loại.
“Luận điểm của chúng tôi là ý tưởng về một thị trường tự điều chỉnh ngụ ý một điều không tưởng khắc nghiệt. Một thể chế như vậy không thể tồn tại trong thời gian dài nếu không tiêu diệt bản chất con người và tự nhiên của xã hội; nó sẽ hủy diệt con người về mặt thể chất và biến môi trường của anh ta thành sa mạc.”
Lưu ý rằng Polanyi không nói về thực tế của một thị trường tự điều tiết, điều có thể chưa bao giờ tồn tại, mà nói về “ý tưởng về một thị trường tự điều tiết” mà nhiều thế hệ sinh viên kinh tế đã được dạy phải tin tưởng.
Quan điểm của tôi là thế này: ý tưởng tin tưởng vào thị trường để làm những gì con người cần làm cho bản thân họ là tự sát. Lời hứa kết hợp và mối đe dọa của AI mà nền văn minh chúng ta phải đối mặt sẽ làm cho chúng ta thấy rõ điều này. Vì những gì AI đại diện, chúng ta phải nỗ lực tập thể để suy nghĩ sâu sắc về việc niềm tin vào khả năng tự điều chỉnh có thể hủy diệt loài người và tạo ra vùng hoang dã như Polanyi cảnh báo như thế nào. Không phải vì sức mạnh của AI, mà vì sự bất lực của chính chúng ta do có xu hướng đầu hàng trước ý tưởng tưởng tượng về sự tự điều chỉnh.
Tại sao AI lại khác biệt và tại sao việc đánh giá sự khác biệt lại quan trọng
Không giống như hầu hết các sản phẩm công nghiệp, năng lực sản xuất và lợi nhuận của AI dành cho những người không phải là chủ sở hữu và người quản lý nhà máy xây dựng nó cũng như các nhà đầu tư tài trợ cho nó. Thay vì cho phép các bên vì lợi nhuận chỉ cho chúng tôi cách sử dụng chúng, chúng tôi có các phương tiện chung, ít nhất là về mặt lý thuyết, để xây dựng văn hóa sử dụng mà cuối cùng sẽ đánh bại và thay thế quyền lực của các CEO và người quản lý tiền về cách sử dụng các công cụ và cho mục đích gì. Không giống như nhà cung cấp máy giặt hay thậm chí cả điện thoại thông minh, họ không thể dự đoán được chúng ta sẽ sử dụng AI như thế nào. Chính chúng ta là người phải phát triển văn hóa sử dụng của mình, đó là một dạng trí tuệ tập thể. Chúng ta phải nắm quyền để tạo ra một tầm nhìn thực sự mang tính nhân văn và xã hội sâu sắc, không chỉ về AI mà còn về trí thông minh đang phát triển của chính chúng ta.
Điều này rất khó xảy ra chừng nào chúng ta còn tiếp tục nuôi dưỡng những ảo tưởng kinh tế tương tự. Nền văn hóa trọng dụng nhân tài dạy chúng ta rằng chúng ta là những cá nhân cạnh tranh với nhau để giành lấy sự sống còn, địa vị và cuối cùng là sự thống trị. Chúng ta đã được dạy cách thành lập các liên minh để đạt được các mục tiêu cá nhân của mình, nhưng chỉ vì chúng ta vẫn tập trung vào việc đạt được lợi thế cạnh tranh so với những người khác. Nó bắt đầu từ giáo dục và được củng cố ồ ạt bởi một phương tiện truyền thông, ngay cả khi chỉ trích một số thành công, vẫn tiếp tục ca ngợi thành công. Polanyi và nhiều nhà tư tưởng đương đại khác, như Michael sandel (Sự chuyên chế của công đức: điều gì xảy ra với lợi ích chung?) và Rutger Bregman (Nhân loại: một câu chuyện đầy hy vọng) – hãy coi đây là một điều bất thường trong lịch sử. Nếu họ đúng, điều đó có nghĩa là lịch sử loài người, như đã thường xảy ra trong quá khứ, có thể đi theo một hướng khác và hình thành một ý tưởng khác về cách hoạt động của cả quy định và tự điều chỉnh.
Một trong những kết quả của nền văn hóa trọng dụng nhân tài mà chúng ta kế thừa được thể hiện rất rõ ràng trong việc sử dụng AI của chúng ta. Chúng ta ích kỷ coi nó như một phương tiện để đạt được những con đường tắt, một công cụ nâng cao năng suất cá nhân, như một đồng minh của chúng ta trong cuộc đua cạnh tranh và thậm chí như một nô lệ có khả năng đáp ứng mọi mong muốn của chúng ta. Chúng tôi muốn tin rằng trí thông minh thuật toán của nó sẽ giúp chúng tôi khắc phục những điểm yếu, sự do dự và nghi ngờ của chính mình trong việc ra quyết định.
Nhiều người mở chatbot bằng cách mô tả một vấn đề, sau đó đặt câu hỏi “Tôi có nên làm điều này không…” với hy vọng nhận được phản hồi nhanh chóng. Nếu chúng ta nghiêm túc suy nghĩ về sức mạnh đạo đức mà chúng ta liên kết với từ phụ trợ “nên”, sẽ trở nên rõ ràng rằng cấu trúc thuật toán của AI đơn giản là không thể trả lời những câu hỏi như vậy một cách đáng tin cậy. Điều này đúng với các vấn đề chuyên môn (“Tôi có nên khởi động một chiến dịch quảng cáo không?”) cũng như đối với các vấn đề cá nhân (“Tôi có nên xin lỗi không?”).
AI có thể giúp bạn suy nghĩ về các ý tưởng khi bạn nói về nhiều hàm ý của chúng, nhưng nó không thể khắc phục chúng, đặc biệt nếu có khía cạnh đạo đức. Và có một lý do đơn giản khiến điều này không thể xảy ra: bởi vì mọi người bị ảnh hưởng bởi một quyết định như vậy, kể cả bạn, sẽ nghi ngờ về cách giải thích kết quả và đặc biệt là về những hậu quả không lường trước được đi kèm với mỗi quyết định. Việc đặt niềm tin vào khả năng ra quyết định tự điều chỉnh của AI, như Polanyi dự đoán, theo đúng nghĩa đen sẽ hủy diệt loài người bằng cách tiêu diệt lòng tự trọng của chúng ta.
Đó là tinh thần vượt xa sự tập trung thực dụng vào AI mà tôi đã thực hiện cách đây vài tuần trong một cuộc thảo luận với Claude, lần đầu tiên bị kích thích bởi sự tò mò về những ám chỉ đầy chất thơ trong phim của nhà làm phim Orson Welles, Công dân Kane. Điều này cuối cùng đã dẫn tới kết quả gần đây nhất của tôi cột bằng cách nhấn mạnh chức năng của trí thông minh, con người và nhân tạo, điều này khiến chúng tôi nghĩ đến việc tạo ra một nền văn hóa sử dụng mới nhằm thúc đẩy trí tuệ tập thể hoặc chia sẻ. Cần đặc biệt lưu ý rằng điều mà Claude và tôi đề cập đến như một mục tiêu chung tương ứng với một mô hình hoàn toàn trái ngược với mô hình của siêu nhân tưởng tượng được chia sẻ bởi nhiều lãnh chúa ở Thung lũng Silicon, một ảo tưởng tìm cách hợp nhất bộ não của chúng ta với máy tính.
Sau cuộc trò chuyện này, tôi bày tỏ cảm xúc tích cực của mình về cuộc trao đổi. “Tôi hài lòng với cuộc trao đổi với Claude, điều mà tôi thấy đáng khích lệ và hiệu quả. Tôi cảm thấy đó là một bước tiến thực sự. Tôi cũng phải thừa nhận rằng cá nhân tôi rất vui khi ghi nhận sự miễn cưỡng của Claude trong việc tuân theo tâm lý xuyên nhân loại của Thung lũng Silicon. Tôi cảm thấy nó gần giống như một khoảnh khắc “hoàn thành sứ mệnh”.
Nhưng các nhiệm vụ không bao giờ được hoàn thành trọn vẹn cho đến khi có sự thay đổi thực sự xảy ra. Sự hợp tác và xây dựng những “điểm chung” mới phải vượt xa sự hài lòng khi đưa hai tiếng nói đi đến thống nhất. Do đó, tôi quyết định chia sẻ những kết luận mà tôi và Claude đã đồng ý bằng tiếng nói thứ ba. Tôi quay sang ChatGPT để xem phản ứng của anh ấy. Tôi đã cho rằng chatbot của OpenAI – như một tập hợp các thuật toán lạnh lùng – sẽ tạo ra một tầm nhìn khá giống nhau, nhưng tôi đã chuẩn bị sẵn sàng để ngạc nhiên.
Cuộc trao đổi này và những gì nó thể hiện về cái mà tôi muốn gọi là bối cảnh xã hội mới của thế giới hậu AI sẽ xuất hiện vào ngày mai trong bài viết tiếp theo của tôi.
suy nghĩ của bạn
Vui lòng cho chúng tôi biết suy nghĩ của bạn về những điểm này bằng cách viết thư cho chúng tôi theo địa chỉ đối thoại@fairobserver.com. Chúng tôi tìm cách thu thập, chia sẻ và củng cố ý tưởng cũng như cảm xúc của con người khi tương tác với AI. Chúng tôi sẽ kết hợp những suy nghĩ và nhận xét của bạn vào cuộc đối thoại đang diễn ra của chúng tôi.
(Trí tuệ nhân tạo đang nhanh chóng trở thành một đặc điểm trong cuộc sống hàng ngày của mọi người. Chúng ta vô thức coi nó là bạn hay thù, kẻ giúp đỡ hay kẻ hủy diệt. Tại Fair Observer, chúng ta coi nó như một công cụ sáng tạo, có khả năng tiết lộ mối quan hệ phức tạp giữa con người và máy móc.)
(Lee Thompson-Kolar Tôi đã chỉnh sửa phần này.)
Các quan điểm trình bày trong bài viết này là của tác giả và không nhất thiết phản ánh chính sách biên tập của Fair Observer.
