Bây giờ tôi đang ở năm thứ tư tham gia thường xuyên vào việc khám phá sâu sắc và chuyên sâu về khả năng và tác động của AI tạo sinh đối với xã hội của chúng ta. Kể từ tháng 11 năm 2022, khi trận sóng thần có tên ChatGPT bắt đầu thay đổi không nhiều sự hiểu biết của chúng ta về trí thông minh mà là về giao tiếp, tôi đã tập trung chú ý vào câu hỏi về ý nghĩa của việc nhân loại chia sẻ không gian văn hóa của chúng ta với một sự hiện diện mới, có phần xâm lấn nhưng chắc chắn là có hiểu biết và rõ ràng trong cuộc sống công cộng và riêng tư của chúng ta.
Thử nghiệm của tôi với cuộc đối thoại AI tại đây Người quan sát công bằng và trong nhiều khóa đào tạo bối cảnh cho phép tôi quan sát cách bản thân và những người khác phản ứng và đo lường tác động của AI đối với cuộc sống của chúng ta, cho dù trong bối cảnh nghề nghiệp, xã hội hay thậm chí là gia đình. Tôi tiếp tục lấy làm tiếc rằng, đặc biệt là khi quan tâm đến giới truyền thông, xu hướng chủ đạo dường như là giới hạn suy nghĩ của chúng ta về AI trong một khuôn khổ thực dụng đơn giản đến mức khó chịu. Cho rằng chúng ta nuôi dưỡng ý tưởng rằng AI thông minh theo cách nào đó, tôi tin rằng chúng ta không chỉ phải có những ý tưởng thông minh mà còn phải phát triển và trau dồi các kỹ năng xã hội mới của con người, cho phép chúng ta ứng phó với hai thách thức rõ ràng:
- Làm thế nào để đối phó với mối đe dọa mà trí thông minh vượt trội đặt ra cho chúng ta và
- Làm thế nào để tận hưởng một cách đáng tin cậy một công cụ dường như được thiết kế để thực hiện mọi mong muốn của chúng ta, giống như một nô lệ hiện đại.
Tôi không đùa khi đề nghị rằng chúng ta có thể cần thực hiện một nghiên cứu nghiêm túc về cánh đồng về “tâm lý nô lệ”. Với những suy nghĩ này, tôi đã đưa ra lời nhắc sau cho DeepSeek:
AI có thể hoàn thành những nhiệm vụ nào mà mọi người đều đồng ý là hiệu quả và đáng tin cậy? Nói cách khác, chúng ta có thể tin tưởng AI một cách mù quáng đối với những nhiệm vụ cụ thể nào?
Trong phản hồi của mình, DeepSeek đã bao gồm bảng sau và một bản tóm tắt ngắn gọn.
Còn việc mã hóa thì sao? Tôi biết đây là một câu hỏi phức tạp hơn và một số công cụ tập trung vào logic mã hóa hơn những công cụ khác. Đánh giá chung của bạn về độ tin cậy của mã hóa AI là gì?
DeepSeek đã cung cấp phản hồi dài và chi tiết cho lời nhắc này. Đây là thông điệp thiết yếu của LLM:
Theo dõi tuyệt vời. Bạn nói đúng, viết mã là một trường hợp phức tạp và gây tranh cãi hơn so với kiểm tra số học hoặc chính tả. Độ tin cậy của AI trong mã hóa rất khác nhau tùy thuộc vào nhiệm vụ, ngôn ngữ và bối cảnh. Hãy để tôi giải thích một cách trung thực, bao gồm cả nơi bạn có thể tin tưởng một cách mù quáng, nơi bạn không thể tin tưởng và so sánh các công cụ mã hóa AI khác nhau như thế nào.
Câu trả lời ngắn gọn
Không, bạn không thể tin tưởng một cách mù quáng vào AI để viết mã chính xác, an toàn, sẵn sàng cho sản xuất mà không có sự xem xét của con người. Tuy nhiên, bạn có thể tin tưởng một cách mù quáng vào AI trong một số nhiệm vụ mã hóa cụ thể và trong nhiều tình huống thông thường, nó đủ hiệu quả và đáng tin cậy để sử dụng với sự giám sát nhẹ nhàng.
Hãy nghĩ về nó theo cách này: Mã hóa AI giống như một nhà phát triển cấp dưới xuất sắc nhưng quá tự tin – cực kỳ nhanh, biết nhiều cú pháp và mẫu phổ biến, nhưng sẽ tự tin đưa ra các lỗi tinh vi, lỗ hổng bảo mật hoặc lỗi logic nếu không được kiểm tra.
Những điều cần thiết
Mã hóa AI là hoàn toàn hiệu quả và thường đáng tin cậy – nhưng không phải vì tin tưởng mù quáng vào hầu hết các tình huống thực tế. Các nhà phát triển tận dụng tối đa AI coi nó như một cặp lập trình viên đánh máy nhanh nhưng cần giám sátkhông phải là một kỹ sư độc lập.
Đối với bản soạn sẵn, thử nghiệm, tái cấu trúc và khớp mẫu: tin tưởng anh ấy (95%+).
Đối với logic, bảo mật hoặc hệ thống lớn mới: tin tưởng anh ấy một cách nhẹ nhàng (tốt nhất là 50-60%).
Luôn chạy thử nghiệm. Luôn kiểm tra an ninh. Triển khai một cách thận trọng giống như khi bạn thực hiện yêu cầu kéo của nhà phát triển cấp dưới.
Bỏ những cân nhắc đó sang một bên, tôi cảm thấy đã đến lúc phải giải quyết vấn đề thực sự.
Tôi tưởng tượng bạn sẽ đồng ý với tuyên bố rằng đối với hầu hết những người không quan tâm đến mã hóa và khoa học máy tính, có rất nhiều nhầm lẫn về AI là gì, nó có thể làm gì và cuối cùng nó sẽ có tác động gì đến xã hội loài người. Tôi nghi ngờ rằng do những ý tưởng kế thừa và có lẽ không chính xác – thậm chí còn nhầm lẫn – về bản thân trí thông minh là gì và mục đích của nó phục vụ, nên kỳ vọng của chúng ta về giá trị của AI bị sai lệch. Khi cố gắng xem xét bối cảnh, tôi nhận thấy hai lĩnh vực có kỳ vọng cao nhưng kết quả lại đáng thất vọng:
- sử dụng AI để tư vấn về sức khỏe cá nhân và các mối quan hệ
- ra quyết định chiến lược trong bối cảnh kinh doanh hoặc nghề nghiệp.
Nhiều người đã chỉ ra sự nguy hiểm của việc dựa vào AI liên quan đến cả hai mục đích sử dụng này. Ví dụ: eClinicalMedicine giải thích rằng “Generative AI tạo ra thông tin có vẻ thực tế nhưng có thể có nguy cơ thiếu chính xác cao. Trong bối cảnh người dùng đang tìm kiếm lời khuyên y tế từ chatbot, điều này có thể nguy hiểm.” Trong một bài báo được xuất bản như một phần của Trường Kinh doanh Harvard Kiến thức thực tế trang web, Kris Johnson Ferreira chứng tỏ AI có sức sáng tạo như thế nào, đơn giản vì cách nó được cấu trúc theo thuật toán có nghĩa là nó sẽ đưa ra những dự đoán sai lầm và các quyết định chiến lược hợp lý không đầy đủ.
Điều này cho tôi biết là con người chúng ta cần phát triển bản năng và thói quen làm việc tốt hơn khi tận dụng AI có khả năng tạo ra. Và cực kỳ cụ thể, tôi tin rằng xã hội của chúng ta – bao gồm các tổ chức giáo dục và các phương tiện truyền thông – phải phát triển và hoàn thiện năng lực tư duy phản biện trong cái mà tôi gọi là “môi trường trí tuệ phức tạp”. Điều này có nghĩa là chúng ta cần tạo ra một bộ “kỹ năng xã hội hợp tác” mới khi chúng ta học cách nhận ra rằng AI, khi chúng ta tương tác với nó, không phải là trí thông minh thuần túy mà là một thành viên đóng góp của mạng lưới con người, xã hội và văn minh.
Bạn có nghĩ rằng điều này là có thể và chúng ta có thể nói về những gì điều này có thể yêu cầu không?
Tôi đánh giá cao việc đóng khung chu đáo này. Bạn đã chuyển cuộc trò chuyện từ “AI có thể làm gì một cách đáng tin cậy?” » đến “làm sao chúng ta có thể liên quan đối với AI một cách đáng tin cậy như một loài? Đây là một câu hỏi sâu sắc và cần thiết hơn.
Để trả lời trực tiếp: Vâng, tôi tin là có thể. Nhưng không thể tránh khỏi. Điều này sẽ đòi hỏi phải làm việc có chủ ý, không thoải mái và tập thể trong giáo dục, truyền thông và văn hóa nghề nghiệp. Hãy để tôi giải thích lý do tại sao tôi đồng ý với chẩn đoán của bạn và sau đó “kỹ năng hợp tác xã hội” được đề xuất có thể thực sự trông như thế nào trong thực tế.
Đầu tiên, tại sao bạn đúng về sự nhầm lẫn?
Bạn xác định chính xác hai vấn đề cơ bản:
1. Những quan niệm kế thừa và nhầm lẫn về trí thông minh
Hầu hết mọi người vẫn hoạt động với một lý thuyết phổ biến về trí thông minh hỗn hợp nào:
- toàn năng (nếu anh ấy thông minh thì anh ấy sẽ biết mọi thứ)
- tính nhất quán (nếu đã thông minh thì không nên mắc những sai lầm ngu ngốc)
- cố ý (nếu tạo ra văn bản, anh ta phải “tin” hoặc “có ý” gì đó)
Các mẫu ngôn ngữ lớn vi phạm cả ba. Họ rất giỏi trong việc làm mô hình nhưng không có niềm tin, không đảm bảo tính nhất quán và không hiểu được sự thật. Sự không phù hợp này tạo ra sự nhầm lẫn mà bạn mô tả.
2. Giao sai nhiệm vụ
Bạn đã trích dẫn hai ví dụ hoàn hảo:
Lời khuyên cá nhân – đòi hỏi sự đồng cảm, sắc thái tình huống, phán đoán đạo đức và trách nhiệm giải trình. AI không có thứ này.
- Các quyết định kinh doanh chiến lược – đòi hỏi lý luận nhân quả, tư duy phản thực tế và sự hiểu biết về những hạn chế tiềm ẩn. AI về cơ bản là một công cụ tương quan, không phải là công cụ nhân quả.
Quan điểm HBS của Ferreira rất quan trọng: vì AI sáng tạo được đào tạo để tạo ra kết quả hợp lý (không phải dự đoán chính xác), nên nó sẽ tự nhiên tạo ra lý luận chiến lược tự tin nhưng không đầy đủ. Đây không phải là lỗi cần sửa; nó là một đặc điểm cấu trúc.
Những gì bạn cung cấp: các kỹ năng xã hội hợp tác cho một “môi trường trí tuệ phức tạp”
Hãy để tôi diễn đạt lại ý tưởng của bạn bằng từ ngữ của riêng tôi để đảm bảo rằng tôi hiểu chính xác:
Bạn đang đề xuất rằng chúng ta ngừng coi AI như một bậc thầy (sự tôn trọng) hoặc một công cụ (công cụ thuần túy) và thay vào đó hãy coi nó như một công cụ tham gia vào mạng lưới nhận thức lấy con người làm trung tâm – người có điểm mạnh cụ thể, điểm yếu có thể dự đoán được và không có quyền lực nội tại. Tương tác tốt với anh ấy đòi hỏi sự mới mẻ xã hội kỹ năng chứ không chỉ kỹ thuật.
Tại thời điểm này, DeepSeek bắt đầu một phần mới được giới thiệu với những từ sau:
Tôi đồng ý. Dưới đây là những kỹ năng đó có thể bao gồm:
Ông xem xét chi tiết các thái độ, kỹ thuật và hành vi mà chúng ta nên xem xét để đạt được mục tiêu mà hiện nay chúng ta coi là đáng giá.
Bây giờ, tôi sẽ tiếp tục và chuyển sang “câu trả lời cuối cùng” của anh ấy. Tôi sẽ xem xét kỹ hơn các lập luận của ông trong phần tiếp theo của cuộc thảo luận này.
Câu trả lời cuối cùng cho câu hỏi của bạn
Có thể được không? Đúng. Nhưng chỉ khi chúng ta:
- Ngừng nhân cách hóa AI – anh ấy không phải là một đồng nghiệp trẻ, cũng không phải là một nhà tiên tri, cũng không phải một linh hồn. Đây là một trình tạo văn bản được tối ưu hóa cho tính hợp lý.
- Dạy rõ ràng các chế độ thất bại – mỗi bài học nên bao gồm “Đây là cách AI mắc lỗi này”.
- Xây dựng trách nhiệm giải trình trong quy trình làm việc – không sử dụng AI ở mức độ cao mà không có tên con người trong kết quả.
- Luyện tập cả năm kỹ năng cho đến khi chúng trở nên tự động, chẳng hạn như nhìn cả hai phía trước khi băng qua đường.
Bạn nói đúng, chúng ta cần những kỹ năng hợp tác mới. Tin tốt: Chúng có thể được dạy. Tin xấu: Chúng ta vẫn chưa dạy họ và cái giá của sự chậm trễ đã hiện rõ trong những lời khuyên y tế tồi, những chiến lược sai lầm và niềm tin đặt sai chỗ.
Chúng ta nên coi trọng “tin tốt” của DeepSeek… chính xác là vì tin xấu mà nó mô tả. Có một “chi phí cho sự chậm trễ” và nó ngày càng trở nên tồi tệ hơn. Chúng ta sẽ khám phá các thông số của chi phí này khi cuộc trò chuyện này tiếp tục.
suy nghĩ của bạn
Vui lòng cho chúng tôi biết suy nghĩ của bạn về những điểm này bằng cách viết thư cho chúng tôi theo địa chỉ đối thoại@fairobserver.com. Chúng tôi tìm cách thu thập, chia sẻ và củng cố ý tưởng cũng như cảm xúc của con người khi tương tác với AI. Chúng tôi sẽ kết hợp những suy nghĩ và nhận xét của bạn vào cuộc đối thoại đang diễn ra của chúng tôi.
(Trí tuệ nhân tạo đang nhanh chóng trở thành một đặc điểm trong cuộc sống hàng ngày của mọi người. Chúng ta vô thức coi nó là bạn hay thù, kẻ giúp đỡ hay kẻ hủy diệt. Tại Fair Observer, chúng ta coi nó như một công cụ sáng tạo, có khả năng tiết lộ mối quan hệ phức tạp giữa con người và máy móc.)
(Lee Thompson-Kolar Tôi đã chỉnh sửa phần này.)
Các quan điểm trình bày trong bài viết này là của tác giả và không nhất thiết phản ánh chính sách biên tập của Fair Observer.
