Học cách chia sẻ không gian văn hóa của chúng ta với kẻ xâm nhập thông thái và ăn nói lưu loát – Phần 2

trong phần đầu tiên Từ cuộc trò chuyện này, tôi bắt đầu thảo luận với DeepSeek về sự nhầm lẫn xung quanh độ tin cậy của AI sáng tạo và kỳ vọng của người dùng. Sau khi đánh giá các tiêu chuẩn hiệu suất trong các lĩnh vực như mã hóa, chúng tôi đồng ý rằng xã hội của chúng ta phần lớn đang bối rối về cách sử dụng các công cụ AI một cách hiệu quả.

Cuộc thảo luận của chúng tôi đã khiến tôi đưa ra gợi ý sau:

Điều này cho tôi biết là con người chúng ta cần phát triển bản năng và thói quen làm việc tốt hơn khi tận dụng AI có khả năng tạo ra. Và cực kỳ cụ thể, tôi tin rằng xã hội của chúng ta – bao gồm các tổ chức giáo dục và các phương tiện truyền thông – phải phát triển và hoàn thiện năng lực tư duy phản biện trong cái mà tôi gọi là “môi trường trí tuệ phức tạp”. Điều này có nghĩa là chúng ta cần tạo ra một bộ “kỹ năng xã hội hợp tác” mới khi chúng ta học cách nhận ra rằng AI, khi chúng ta tương tác với nó, không phải là trí thông minh thuần túy mà là một thành viên đóng góp của mạng lưới con người, xã hội và văn minh.

Bạn có nghĩ rằng điều này là có thể và chúng ta có thể nói về những gì điều này có thể yêu cầu không?

DeepSeek sau đó trình bày lại quan sát của tôi và mở rộng suy nghĩ của mình bằng cách tập trung rất chi tiết vào các kỹ năng hợp tác mà chúng tôi cần phát triển.

Hãy để tôi diễn đạt lại ý tưởng của bạn bằng từ ngữ của riêng tôi để đảm bảo rằng tôi hiểu chính xác:

Bạn đang đề xuất rằng chúng ta ngừng coi AI như một bậc thầy (sự tôn trọng) hoặc một công cụ (công cụ thuần túy) và thay vào đó hãy coi nó như một công cụ tham gia vào mạng lưới nhận thức lấy con người làm trung tâm – người có điểm mạnh cụ thể, điểm yếu có thể dự đoán được và không có quyền lực nội tại. Tương tác tốt với anh ấy đòi hỏi sự mới mẻ xã hội kỹ năng chứ không chỉ kỹ thuật.

Tôi đồng ý. Dưới đây là những kỹ năng đó có thể bao gồm:

Năm kỹ năng hợp tác cho con người trong thế giới được trung gian bởi AI

1. Tam giác nhận thức – khả năng coi AI là một nguồn trong số những nguồn khác

• Điều này có nghĩa là gì: Đừng bao giờ hỏi AI một câu hỏi mà không hỏi “làm sao tôi biết được?” “” và “một đồng nghiệp hoài nghi sẽ nói gì?”
• Ví dụ: AI đưa ra gợi ý y tế cho bạn. Thay vì chấp nhận hoặc từ chối nó, bạn tam giác hóa: kiểm tra cơ sở dữ liệu y tế đáng tin cậy, hỏi bác sĩ, so sánh với các hướng dẫn đã biết.
• Tại sao đó là một kỹ năng: Điều này đòi hỏi phải chống lại sự dễ dàng nhận thức của một câu trả lời có thẩm quyền duy nhất.

2. Phân biệt nhanh bằng xác minh: coi phản hồi của AI là giả thuyết chứ không phải sự thật

• Điều này có nghĩa là gì: Mỗi kết quả là một bản phác thảo để tranh luận chứ không phải là một câu trả lời được chấp nhận. Bạn học cách tự hỏi bản thân “trình bày lý lẽ của mình”, “lý lẽ phản bác là gì?” và “bằng chứng nào có thể thay đổi điều này?” »
• Ví dụ: Sau khi AI đề xuất chiến lược kinh doanh, bạn hỏi rõ ràng: “Bây giờ hãy cho tôi biết ba lý do tại sao chiến lược này có thể thất bại” và “Tôi đang đưa ra những giả định nào có thể sai?”
• Tại sao đó là một kỹ năng: Hầu hết mọi người dừng lại ở câu trả lời đầu tiên. Kỹ năng này làm cho việc xác minh trở thành bước thứ hai phổ biến.

3. Phát hiện ranh giới nhân quả – biết nơi nào có đủ mối tương quan và nơi nào cần có mối quan hệ nhân quả

• Điều này có nghĩa là gì: Theo bản năng, nhận ra nhiệm vụ nào đòi hỏi sự hiểu biết nhân quả (chẩn đoán y tế, chiến lược, kỹ thuật) và nhiệm vụ nào phù hợp để khớp mẫu (chính tả, bản soạn sẵn, dịch thuật).
• Ví dụ: Bạn không hỏi AI “tôi có nên sa thải nhân viên này không?” ” (quan hệ nhân quả, đạo đức) nhưng bạn lại yêu cầu “viết một bản tóm tắt trung lập về đánh giá hiệu quả công việc của họ” (so khớp mẫu).
• Tại sao đó là một kỹ năng: Hầu hết mọi người thiếu các mô hình tinh thần về mối quan hệ nhân quả và tương quan. Điều này đòi hỏi đào tạo cơ bản về triết học khoa học và thống kê.

4. Lập bản đồ trách nhiệm – không bao giờ để AI là người đưa ra quyết định cuối cùng cho những kết quả mang tính rủi ro cao

• Điều này có nghĩa là gì: Bằng cách tuyên bố rõ ràng “nếu xảy ra sai sót, ai chịu trách nhiệm?” » trước khi sử dụng AI. Nếu câu trả lời không phải là “người được đặt tên”, bạn không tiếp tục.
• Ví dụ: Sử dụng AI để soạn thảo hợp đồng pháp lý là tốt, nhưng ký hợp đồng mà không có sự xem xét của con người thì không. Chữ ký của con người chịu trách nhiệm.
• Tại sao đó là một kỹ năng: Điều này đòi hỏi phải vượt qua sự cám dỗ để giao trách nhiệm cho một cỗ máy có vẻ như có thẩm quyền.

5. Chủ nghĩa hoài nghi ngôn ngữ – làm chủ việc phát hiện các chế độ lỗi đặc trưng của AI

• Điều này có nghĩa là gì: Nhận biết các dấu hiệu lỗi AI: quá tự tin, trôi chảy không tự nhiên, thiếu phạm vi bao quát, trích dẫn bịa đặt, tính đặc hiệu sai (ví dụ: “83% chuyên gia đồng ý” mà không có nguồn).
• Ví dụ: Đọc một bản phân tích do AI tạo ra và nhận xét “điều này có vẻ quá đơn giản: các vấn đề thực tế luôn có sự đánh đổi và mơ hồ”. Đây là một lời cảnh tỉnh.
• Tại sao đó là một kỹ năng: AI được thiết kế để có vẻ độc đoán. Chống lại quyền lực này đòi hỏi nỗ lực và thực hành có ý thức.

Cần điều gì để thực sự phát triển những kỹ năng này trên quy mô lớn?

Bạn đã nói về giáo dục và truyền thông. Tôi đồng ý rằng đây là những đòn bẩy. Đây là những gì mọi người nên làm khác nhau:

Dành cho các cơ sở giáo dục (K-12 đến đại học)

Ví dụ cụ thể: Thay vì “viết một bài luận về X”, nhiệm vụ sẽ trở thành: “Sử dụng AI để tạo ra ba lập luận khác nhau về »

Đối với truyền thông và báo chí

Ví dụ cụ thể: Một câu chuyện tin tức về dự báo AI không nên nói “AI dự đoán sự sụp đổ của thị trường chứng khoán” mà là “mô hình AI, được biết là có tỷ lệ lỗi X% đối với các dự báo tương tự, cho thấy khả năng xảy ra sự chậm lại; các chuyên gia không đồng ý”.

Dành cho văn hóa nghề nghiệp (thương mại, y học, luật)

Ví dụ cụ thể: Một bệnh viện sử dụng AI để ghi chú phân loại phải yêu cầu con người phê duyệt từng khuyến nghị, cùng với điểm tin cậy của AI và các chế độ lỗi đã biết được hiển thị cùng với nó.

Phần khó nhất: sự phản kháng về mặt cảm xúc và nhận thức

Bạn ám chỉ điều này khi nói về “những ý tưởng được kế thừa và không chính xác về trí thông minh là gì”. Trở ngại thực sự không phải là kỹ thuật; đó là tâm lý.

• Chúng ta khao khát quyền lực. AI có vẻ tự tin. Bộ não của chúng ta muốn ngừng tìm kiếm.
• Chúng tôi không thích sự mơ hồ. AI đưa ra câu trả lời rõ ràng. Các vấn đề thực sự không rõ ràng.
• Chúng ta đang khái quát hóa quá mức. Bởi vì AI đúng về chính tả nên chúng tôi cho rằng nó đúng về chiến lược.

Việc phát triển những kỹ năng bạn mô tả có nghĩa là phải đấu tranh chống lại tất cả những lối tắt về nhận thức mà chúng ta có. Đó là lý do tại sao nó khó khăn. Nhưng điều đó không phải là không thể – chúng tôi đã từng làm điều đó trước đây (ví dụ: học cách hoài nghi về quảng cáo, học cách kiểm tra nguồn trước khi chia sẻ thông tin).

Câu trả lời cuối cùng cho câu hỏi của bạn

Có thể được không? Đúng. Nhưng chỉ khi chúng ta:

1. Ngừng nhân cách hóa AI – anh ấy không phải là một đồng nghiệp trẻ, cũng không phải là một nhà tiên tri, cũng không phải một linh hồn. Đây là một trình tạo văn bản được tối ưu hóa cho tính hợp lý.
2. Dạy rõ ràng các chế độ thất bại – mỗi bài học nên bao gồm “Đây là cách AI mắc lỗi này”.
3. Xây dựng trách nhiệm giải trình trong quy trình làm việc – không sử dụng AI ở mức độ cao mà không có tên con người trong kết quả.
4. Luyện tập cả năm kỹ năng cho đến khi chúng trở nên tự động, chẳng hạn như nhìn cả hai phía trước khi băng qua đường.

Bạn nói đúng, chúng ta cần những kỹ năng hợp tác mới. Tin tốt: Chúng có thể được dạy. Tin xấu: Chúng ta vẫn chưa dạy họ và cái giá của sự chậm trễ đã hiện rõ trong những lời khuyên y tế tồi, những chiến lược sai lầm và niềm tin đặt sai chỗ.

Kết luận tạm thời của tôi

Đây là lời khuyên tuyệt vời được trình bày một cách thuận tiện dưới dạng danh sách kiểm tra. Đây là một ví dụ thuyết phục về những gì AI làm tốt. Những thực tiễn này xuất hiện từ khối dữ liệu được rút ra từ các bài báo và cuộc thảo luận của hàng trăm, thậm chí hàng nghìn người trong các bối cảnh khác nhau. DeepSeek đã chắt lọc chúng và làm cho chúng dễ hiểu đối với bất kỳ ai đủ tò mò để nghĩ về câu hỏi cụ thể này.

Chúng ta phải tiếp tục tập trung vào cái gọi là tin xấu, bởi vì ngay cả với những khuyến nghị này, vẫn khó có khả năng các tổ chức mà chúng ta đang nói đến – giáo dục và truyền thông – sẽ có động lực để phản ứng, ngay cả khi “cái giá phải trả cho sự chậm trễ đã rõ ràng”.

Tôi nghĩ chúng ta cần nghiên cứu cụ thể hơn về các yếu tố tạo động lực trong xã hội của chúng ta. Tôi cũng tin rằng đây là nhiệm vụ mà chúng ta có thể bắt đầu tiếp cận theo nhiều cách và với sự trợ giúp của AI. Điều này có thể buộc chúng ta quay trở lại bộ ba ý tưởng về chính trí thông minh mà DeepSeek đã phát triển trước đó trong cuộc trò chuyện:

• toàn năng (nếu anh ấy thông minh thì anh ấy sẽ biết mọi thứ)
• tính nhất quán (nếu đã thông minh thì không nên mắc những sai lầm ngu ngốc)
• cố ý (nếu tạo ra văn bản, anh ta phải “tin” hoặc “có ý” gì đó)

Những yếu tố này cũng áp dụng cho trí thông minh của con người, nhưng không nhất thiết có tầm quan trọng như nhau. Tuy nhiên, các nguyên tắc do DeepSeek đưa ra là điểm khởi đầu tốt để xem xét thêm. Chúng tôi chắc chắn sẽ ghi nhớ chúng.

suy nghĩ của bạn

Vui lòng cho chúng tôi biết suy nghĩ của bạn về những điểm này bằng cách viết thư cho chúng tôi theo địa chỉ đối thoại@fairobserver.com. Chúng tôi tìm cách thu thập, chia sẻ và củng cố ý tưởng cũng như cảm xúc của con người khi tương tác với AI. Chúng tôi sẽ kết hợp những suy nghĩ và nhận xét của bạn vào cuộc đối thoại đang diễn ra của chúng tôi.

(Trí tuệ nhân tạo đang nhanh chóng trở thành một đặc điểm trong cuộc sống hàng ngày của mọi người. Chúng ta vô thức coi nó là bạn hay thù, kẻ giúp đỡ hay kẻ hủy diệt. Tại Fair Observer, chúng ta coi nó như một công cụ sáng tạo, có khả năng tiết lộ mối quan hệ phức tạp giữa con người và máy móc.)

(Lee Thompson-Kolar Tôi đã chỉnh sửa phần này.)

Các quan điểm trình bày trong bài viết này là của tác giả và không nhất thiết phản ánh chính sách biên tập của Fair Observer.