Bạn không cần trung tâm dữ liệu để giành chiến thắng trong cuộc đua AI

    2
    0


    Vào tháng 10 năm 2024, tôi dự đoán chúng tôi sắp bắt tay vào một cuộc đua đào tạo AI phi tập trung. Mười tám tháng sau, cuộc đua này đã được tiến hành. Vào tháng 6, giao thức đào tạo AI phi tập trung Pluralis đã thực hiện một loại đào tạo phân tán mới với mô hình 8 tỷ tham số trên hàng nghìn đơn vị xử lý đồ họa (GPU) không đồng nhất – các chip chuyên dụng được sử dụng để đào tạo các mô hình AI – từ máy cao cấp đến thiết bị chơi game tiêu dùng. Đầu năm nay, một AI với 72 tỷ thông số người mẫu được đào tạo trên một mạng lưới phi tập trung gồm các máy tính độc lập, lập kỷ lục mới về số lượng tham số. Điều quan trọng là cả hai vụ hành quyết đều diễn ra hoàn toàn bên ngoài trung tâm dữ liệu của công ty.

    Ý nghĩa này lớn hơn tưởng tượng: Lần đầu tiên, phần tiêu tốn nhiều tài nguyên nhất trong việc xây dựng AI – đào tạo – có thể diễn ra mà không cần cơ sở trị giá hàng tỷ đô la. Tất cả những phản đối chính đối với cách tiếp cận này đã được lật ngượctừng cái một, bao gồm tính khả thi, chi phí và khả năng mở rộng của phương pháp này.

    Cuộc chạy đua vũ trang AI là có thật. Các vấn đề địa chính trị cũng quan trọng như đã được tuyên bố. Nhưng giả định rằng chỉ các chính phủ và tập đoàn trị giá hàng nghìn tỷ đô la mới có năng lực đầu tư và do đó là những người chơi duy nhất có khả năng định hình tương lai của AI chính xác là loại logic hiện có đã bị phá vỡ. Chúng tôi đã thấy điều này trước đây. IBM từng tin rằng sức mạnh tính toán đáng kể phải nằm trong một máy tính lớn tập trung, được điều hành bởi các tổ chức có đủ nguồn lực để vận hành nó. Sau đó máy tính cá nhân xuất hiện và giả định đó sụp đổ. Internet cũng theo khuôn mẫu tương tự, phần mềm nguồn mở cũng vậy. Trong mỗi trường hợp, kẻ thách thức được phân phối dường như không còn quan trọng cho đến khi nó không còn tồn tại nữa. Những người đương nhiệm không bị đánh bại bởi một phiên bản lớn hơn của chính họ. Họ đã bị đánh bại bởi kiến ​​trúc hoàn toàn khác nhau.

    Ngoài ra còn có lợi thế về mặt địa lý mà ít người nhắc đến. Các trung tâm dữ liệu tập trung bị khóa trong cơ sở hạ tầng, yêu cầu quyền truy cập vào lưới điện có khả năng đáp ứng nhu cầu điện của một thành phố nhỏ, điều này hạn chế nơi chúng có thể được xây dựng và bởi ai. Khoảng một nửa tổng chi phí sở hữu một trung tâm dữ liệu là bảo trì cơ sở và làm mát thiết bị, với tất cả chi phí được chuyển cho chủ sở hữu và người thuê. Một mạng phân tán không có ràng buộc như vậy. Nó cung cấp nguồn điện toán ở bất cứ nơi nào mọi người sống, tức là nơi đã có năng lượng rẻ, tái tạo hoặc bị mắc kẹt, nghĩa là trên các thiết bị đã được trả tiền và không phải chịu chi phí làm mát. Đây là lỗ hổng cấu trúc mà mô hình trung tâm dữ liệu không thể dễ dàng tái tạo.

    Câu chuyện kinh điển về cuộc đua AI (ví dụ giữa Mỹ và Trung Quốc) là câu chuyện về nguồn lực: ai có chip tiên tiến nhất, ai có thể xây dựng cơ sở lớn nhất, ai có thể hỗ trợ hàng chục tỷ chi phí vốn hàng năm. Nhưng thiếu một cái gì đó quan trọng. Cuộc đua cũng được thúc đẩy từ dưới lên bởi một mạng lưới phân tán gồm những người đóng góp độc lập, những người nói chung có thể tỏ ra khó bị đánh bại hơn bất kỳ quốc gia-nhà nước đơn lẻ nào.

    Cái bẫy của chiến lược AI của Trung Quốc

    Hệ sinh thái AI nguồn mở của Trung Quốc đã dần trở thành thế lực thống trị. Các mô hình từ phòng thí nghiệm Trung Quốc hiện đứng đầu bảng xếp hạng tải xuống trên nền tảng mà các nhà phát triển sử dụng để tìm và chia sẻ các công cụ AI. Theo một số ước tính, khoảng 80% Các công ty khởi nghiệp AI của Mỹ dựa vào các mô hình nguồn mở của Trung Quốc Sự hấp dẫn rất đơn giản: những mô hình này có thể rẻ hơn tới 90% cho doanh nghiệp so với các lựa chọn thay thế khép kín, với chất lượng cạnh tranh đáng ngạc nhiên. Họ được tự do kiểm tra, sửa đổi và phát triển. Gần đây hơn, Kimi K3 mở của Moonshot đã tiết tấu Fable 5 và GPT-5.6 trên các điểm chuẩn chính, cho thấy rằng sự tối ưu hóa khéo léo có thể đánh bại sức mạnh phần cứng thuần túy.

    Nhưng AI nguồn mở này phải đối mặt với một vấn đề kinh tế cơ bản. Việc xây dựng phải tốn một khoản tiền khổng lồ và gần như không tốn gì khi sao chép. Trên thực tế, các tổ chức sản xuất những mẫu xe này đang trợ cấp cho toàn bộ ngành. Chúng ta đã thấy những dấu hiệu đầu tiên của việc này: Alibaba, một trong những phòng thí nghiệm AI quan trọng nhất của Trung Quốc, hiện đã có phát hành ba mô hình nguồn đóng liên tiếp, báo hiệu một trục chiến lược hướng tới kiếm tiền hơn là cởi mở. Trong khi đó, khả năng tiếp cận các mô hình Trung Quốc trên các nền tảng AI lớn của phương Tây đang bị thu hẹp. Điều này dẫn đến một khoảng cách tiềm tàng giữa biên giới mở và biên giới đóng – một khoảng cách mà các mạng lưới đào tạo phi tập trung có thể được thu hẹp một cách đặc biệt hiệu quả. Meta, nhà sản xuất AI nguồn mở lớn nhất của Hoa Kỳ, đang hướng tới một phương pháp tiếp cận kết hợp.

    Phong trào nguồn mở dẫn đến sự trỗi dậy của Trung Quốc có thể là nạn nhân đầu tiên nếu sự trỗi dậy đó thành công. Nếu không có cách nào để làm cho AI mở bền vững về mặt kinh tế, lực hấp dẫn sẽ luôn quay trở lại hướng hợp nhất giữa một số ít các công ty đủ giàu để chịu lỗ vô thời hạn.

    Tuy nhiên, có một giải pháp thay thế và đó là giải pháp mà hầu hết những người trong cuộc về AI đã từ chối cho đến gần đây: đào tạo các mô hình AI không phải ở một cơ sở duy nhất mà trải rộng trên hàng nghìn máy tính thuộc sở hữu của những người khác nhau ở các địa điểm khác nhau, theo cùng một nguyên tắc cơ bản đã tạo ra Internet thời kỳ đầu. Wikipedia và phần mềm nguồn mở có thể.

    Hai năm rưỡi trước, điều này được coi là không thể về mặt kỹ thuật. Sau đó, nó đã được thực hiện, nhưng được coi là quá đắt. Sau đó nó đã được đồng hồ mỗi chu kỳ đào tạo sẽ rẻ hơn so với tính kinh tế của các trung tâm dữ liệu thông thường. Sự phản đối sau đó đã trở thành một vấn đề về quy mô: nó phù hợp với những thí nghiệm nhỏ, nhưng không bao giờ phù hợp với những mô hình nghiêm túc. Nhưng khi một chiến dịch đào tạo phi tập trung lớn được phát động và có hiệu quả thì lập luận này cũng bị gạt sang một bên. Khi tôi viết bài này, Google DeepMind là phát triểnTÔIng công nghệ phân cấp nội bộ.

    Mỗi khi có một sự phản đối mới xuất hiện, logic cơ bản của các nhà lãnh đạo hiện tại lại trở nên khó bảo vệ hơn một chút. Jack Clark, người đồng sáng lập Anthropic, gần đây đã thừa nhận sự tiến bộ trong khi lưu ý rằng đào tạo phi tập trung vẫn còn tụt hậu. Anh ấy không sai về thời điểm hiện tại. Nhưng theo nghiên cứu Theo cơ quan giám sát Epoch AI, phương pháp điện toán phân tán đang thu hẹp khoảng cách với đào tạo thông thường trong trung tâm dữ liệu với tốc độ nhanh hơn khoảng bốn lần so với tốc độ phát triển của chính trung tâm dữ liệu, theo các nhà nghiên cứu theo dõi cả hai quỹ đạo. Câu hỏi không còn là liệu khoảng cách có được thu hẹp hay không mà là khi nào. Nhưng rõ ràng là đào tạo phi tập trung hiện đã tạo thành một yếu tố cạnh tranh hợp pháp trong cuộc đua AI.

    Tại sao AI phân tán sẽ giành chiến thắng trong dài hạn

    Thay đổi lớn nhất đang diễn ra trong AI hiện nay không phải về các mô hình lớn hơn mà là về tính chuyên môn hóa. Các lĩnh vực như sinh học, khoa học vật liệu và toán học không chờ đợi một AI có mục đích chung duy nhất để giải quyết vấn đề của họ. Họ đang tích cực tìm kiếm các hệ thống AI được đào tạo riêng cho lĩnh vực của họ. Việc xây dựng những mô hình này không đòi hỏi nguồn lực của phòng thí nghiệm biên giới. Họ cần chuyên môn, dữ liệu và đủ sức mạnh tính toán để tạo ra thứ gì đó hữu ích. Đây là một cuộc cạnh tranh mà cộng đồng mở có thể giành chiến thắng.

    Phần cứng tiêu dùng cũng đang trở nên mạnh mẽ hơn nhiều. Chip M5 của Apple, chạy trên nền tảng MLX mã nguồn mở của Apple, Có thể Giờ đây, hãy chạy và tinh chỉnh các mô hình AI nghiêm túc hoàn toàn trên máy tính xách tay, không cần tài khoản đám mây, không cần trung tâm dữ liệu và không cần quyền. Thiết bị trên bàn làm việc của bạn đã là một nút hữu ích trong cuộc đua AI.

    Bên cạnh phần cứng dành cho người tiêu dùng được tối ưu hóa, các công cụ tác nhân AI còn đưa các khả năng phức tạp vào tay các nhà phát triển riêng lẻ. Cơ sở hạ tầng dành cho hàng triệu người tham gia phát triển AI, không chỉ tiêu thụ nó, đang được lắp ráp cho tất cả mọi người cùng xem. Kết quả, theo thời gian, là một hiệu ứng mạng mà không một tổ chức đơn lẻ nào có thể tái tạo được: một nhóm người tham gia có tính toán và trí thông minh tập thể vượt xa những gì mà bất kỳ trung tâm dữ liệu đơn lẻ nào, dù lớn đến đâu, có thể tập trung ở một địa điểm duy nhất. Một trung tâm dữ liệu có thể bị tấn công, xử phạt hoặc tịch thu. Một mạng lưới hàng triệu máy tính xách tay, điện thoại và máy chủ trải khắp thế giới không thể làm được điều đó.

    Đây là nơi mô hình kinh doanh xuất hiện và AI phi tập trung cung cấp thứ gì đó mà cả các công ty siêu quy mô của Mỹ lẫn các phòng thí nghiệm nguồn mở của Trung Quốc đều không hiểu được. Nếu những người đóng góp sức mạnh tính toán cho một khóa đào tạo, giúp tinh chỉnh mô hình hoặc triển khai các tác nhân AI trên mạng phân tán có thể nhận được lợi nhuận tài chính trực tiếp cho những đóng góp của họ thì tính kinh tế của AI nguồn mở sẽ hoàn toàn thay đổi. Bạn không còn cần một công ty trị giá hàng tỷ đô la sẵn sàng chịu lỗ nữa. Bạn cần một mạng lưới người tham gia đủ lớn, mỗi người đều mang lại lợi nhuận hợp lý.

    Đây không phải là một khả năng lý thuyết xa vời. Toàn bộ ngành tài chính đang hướng tới các tài sản mã hóa quy mô lớn và mô hình kinh doanh AI sẽ theo sau. Lớp phối hợp giúp thực hiện được điều này, cơ sở hạ tầng cho phép hàng triệu người tham gia độc lập giao dịch và cộng tác mà không cần cơ quan trung ương, chính là mục đích của tiền điện tử.

    AI phi tập trung sẽ tiếp tục phát triển và trên thực tế, mở rộng ra ngoài những gì mà một trong hai quốc gia có thể cung cấp. Những người nghi ngờ điều đó hoặc bị đe dọa sẽ tiếp tục cố gắng thay đổi giới hạn. Nhưng hướng di chuyển không phải là vấn đề. AI mở, phân tán và tự chủ về kinh tế đang xuất hiện. Và đối thủ cạnh tranh lâu dài khả thi duy nhất cho một cơ sở có quy mô nhà máy điện là thứ không cần phải xây dựng. Đây là sức mạnh tính toán tập thể của tất cả những ai muốn tham gia. Điều tuyệt vời hơn nữa là bất kỳ ai cũng có thể sử dụng mạng, không chỉ những người trả tiền cho OpenAI hay Anthropic.

    (Jake Brukhman là người sáng lập và CEO của CoinFund, công ty đầu tư vào các công ty cơ sở hạ tầng AI phi tập trung.)

    (Francesca Collu Tôi đã chỉnh sửa phần này.)

    Các quan điểm trình bày trong bài viết này là của tác giả và không nhất thiết phản ánh chính sách biên tập của Fair Observer.