Câu chuyện thú vị, thương hiệu tốt, có lẽ bị thổi phồng quá mức.
@OpenLedger Thật lòng mà nói, cái đó đã rơi vào danh mục của tôi lúc đầu.
Nhưng càng dành nhiều thời gian quanh các hệ thống AI thực sự, không phải lớp mạng xã hội, không phải ảnh chụp benchmark, mà là khía cạnh kỹ thuật, tôi càng nghĩ rằng cuộc trò chuyện xung quanh AI vẫn đang thiếu sót nơi mà các nút thắt thực sự đang hình thành.
Hiện tại, câu chuyện công chúng gần như hoàn toàn xoay quanh các mô hình.
Mô hình nào thông minh hơn.
Cái nào lý luận tốt hơn.
Cái nào cảm thấy gần nhất với AGI.
Mô hình nào đứng đầu bảng xếp hạng tuần này?
Và để công bằng, các mô hình quan trọng.
Họ là lớp nhìn thấy được.
Họ là những gì mọi người tương tác trực tiếp.
Họ dễ so sánh, dễ tiếp thị, dễ tranh luận.
Nhưng bên dưới mỗi mô hình AI ấn tượng là một chồng hạ tầng mà hầu hết mọi người chưa bao giờ nghĩ đến cho đến khi nó bắt đầu thất bại.
Các hệ thống huấn luyện.
Các đường ống dữ liệu.
Tính toán phân tán.
Điều phối suy diễn.
Tối ưu hóa quy trình làm việc.
Kiểm soát phiên bản cho các mô hình.
Môi trường triển khai.
Cân bằng độ trễ.
Các hệ thống đánh giá.
Các lớp bộ nhớ tác nhân.
Phối hợp thời gian chạy.
Đó là phần không ai tweet về vì nó không lấp lánh.
Nhưng cũng chính là phần quyết định xem AI có thể thực thi đáng tin cậy ở quy mô lớn hay không.
Và càng nhiều AI phát triển, càng rõ ràng rằng AI hiện đại không còn chỉ là một “vấn đề mô hình.”
Đó là một vấn đề hệ thống.
Huấn luyện một mô hình mạnh đã đủ khó khăn rồi.
Nhưng huấn luyện chỉ là sự khởi đầu.
Độ phức tạp thực sự bắt đầu khi bạn cố gắng triển khai những hệ thống này vào môi trường sản xuất không được thiết kế cho khối lượng công việc AI liên tục chạy xuyên suốt nhiều khu vực, nhà cung cấp, API, lớp bộ nhớ, và môi trường thực thi cùng một lúc.
Đó là nơi mọi thứ trở nên hỗn độn nhanh chóng.
Độ trễ suy diễn thay đổi tùy thuộc vào định tuyến hạ tầng.
Tối ưu hóa hoạt động khác nhau giữa các môi trường.
Chi phí huấn luyện dao động tùy thuộc vào phân bổ tính toán.
Các đường ống dữ liệu lặng lẽ trôi dạt theo thời gian.
Sự không tương thích phiên bản tạo ra những đầu ra không nhất quán.
Cấu hình triển khai giới thiệu sự không ổn định ngẫu nhiên chỉ xuất hiện dưới tải.
Và khi bạn bắt đầu xếp chồng các tác nhân AI lên trên đó, độ phức tạp lại tăng thêm.
Bởi vì các tác nhân không chỉ là “mô hình.”
Họ yêu cầu các vòng lý luận liên tục.
Thực thi công cụ.
Điều phối API bên ngoài.
Bộ nhớ liên tục.
Điều phối nhiệm vụ.
Quản lý ngữ cảnh.
Xử lý trạng thái.
Độ tin cậy thực thi đa bước.
Tại thời điểm đó bạn không chỉ đơn giản là vận hành một chatbot nữa.
Bạn đang vận hành một mạng lưới thực thi.
Và thành thật mà nói, tôi nghĩ đây là nơi mà sự chuyển mình lớn tiếp theo của AI đang dần diễn ra.
Không phải hướng đến “các bản demo thông minh hơn.”
Hướng đến hạ tầng thực sự có thể duy trì các hệ thống AI quy mô lớn mà không gặp phải ma sát hoạt động thường xuyên.
Đó là lý do tại sao các dự án như OpenLedger cảm thấy phù hợp với tôi hơn bây giờ so với một năm trước.
Không phải vì họ tuyên bố “giải quyết AI.”
Nhưng vì họ dường như tập trung gần hơn vào lớp ma sát thực tế:
cách các hệ thống được huấn luyện,
cách họ được phối hợp,
cách họ được triển khai,
và cách họ tiếp tục hoạt động đáng tin cậy khi quy mô thực tế xuất hiện trong bức tranh.
Điều đó có thể nghe kém thú vị hơn những tiêu đề AGI.
Nhưng các sự thay đổi công nghệ nền tảng thường nhàm chán ở giai đoạn đầu.
Internet không mở rộng vì các trang web đột nhiên trở nên kỳ diệu.
Nó đã mở rộng vì việc lưu trữ được cải thiện.
Định tuyến đã được cải thiện.
Các khoản thanh toán đã được cải thiện.
Hạ tầng đám mây đã được cải thiện.
Công cụ phát triển đã được cải thiện.
Tính toán trở nên dễ tiếp cận.
Triển khai trở nên dễ dàng hơn.
Hạ tầng giảm ma sát.
Đó là thứ đã mở khóa sự bùng nổ sau đó.
AI hiện giờ cảm thấy rất giống nhau.
Chúng ta vẫn đang ở giai đoạn mà việc xây dựng một cái gì đó ấn tượng là khả thi…
nhưng việc vận hành nó một cách nhất quán lại khó khăn không tương xứng.
Và lịch sử cho thấy, bất cứ khi nào công nghệ đạt đến giai đoạn đó, hạ tầng trở thành lớp quý giá nhất.
Bởi vì cuối cùng, các hệ thống chiến thắng không chỉ là những hệ thống thông minh nhất.
Họ là những người mà mọi người có thể sử dụng một cách đáng tin cậy.
Sự phân biệt đó rất quan trọng.
Đặc biệt là trong AI.
Một mô hình có thể trông tuyệt vời trong một bản demo và vẫn hoàn toàn thất bại trong sản xuất vì hạ tầng xung quanh không đủ ổn định để hỗ trợ nó.
Và tôi nghĩ mọi người đang đánh giá thấp việc chúng ta vẫn còn ở giai đoạn rất sớm trong việc giải quyết vấn đề đó.
Chồng AI hiện tại vẫn cảm thấy bị phân mảnh.
Các chồng huấn luyện bị phân mảnh.
Các lớp suy diễn bị phân mảnh.
Công cụ triển khai bị phân mảnh.
Sự phối hợp của các tác nhân bị phân mảnh.
Các hệ thống bộ nhớ bị phân mảnh.
Thực thi đa nền tảng bị phân mảnh.
Mọi thứ đều hoạt động…
cho đến khi quy mô phơi bày các điểm yếu.
Đó là lý do tại sao các hệ sinh thái tập trung vào hạ tầng trở nên khó khăn hơn để tôi bỏ qua.
Bởi vì nếu AI cuối cùng sẽ phát triển từ các bản demo tách biệt thành một lớp kinh tế thực sự cung cấp các ứng dụng thực tế, thì độ tin cậy thực thi quan trọng hơn những gì mọi người hiện tại nhận ra.
Nền kinh tế AI trong tương lai có lẽ sẽ không thuộc về “mô hình tốt nhất.”
Nó sẽ thuộc về các hệ sinh thái làm cho các mô hình có thể sử dụng, triển khai, mở rộng, và bảo trì dưới áp lực thực tế.
Đó là một cuộc cạnh tranh rất khác.
Và thành thật mà nói, tôi nghĩ thị trường chỉ mới bắt đầu nhận ra điều đó.
Phần thú vị là hầu hết những sự thay đổi hạ tầng này diễn ra một cách lặng lẽ.
Họ không tạo ra những chu kỳ hype giống nhau.
Họ không tạo ra những khoảnh khắc chuẩn mực viral.
Họ không tạo ra những ảnh chụp lung linh.
Nhưng theo thời gian họ trở thành nền tảng mà mọi thứ khác phụ thuộc vào.
Đó là lý do tại sao OpenLedger cảm thấy thú vị hơn với tôi bây giờ so với ban đầu.
Không phải như một câu chuyện tiêu đề.
Không phải như một cuộc thảo luận về token AI khác.
Nhưng như một phần của sự chuyển mình rộng hơn nhằm giảm thiểu độ phức tạp hoạt động bên trong các hệ thống AI.
Bởi vì khi AI vượt ra ngoài thí nghiệm và vào sử dụng thực tế lâu dài, nút thắt không còn là “mô hình có thể suy nghĩ không?”
Nút thắt trở thành:
Hệ thống có thể thực thi một cách đáng tin cậy ở quy mô lớn mà không bị hỏng liên tục không?
Đó là câu hỏi mà tôi nghĩ ngày càng quan trọng hơn mỗi tháng.
Và thành thật mà nói, tôi không nghĩ rằng những đột phá lớn tiếp theo trong AI sẽ chỉ đến từ trí thông minh mô hình.
Tôi nghĩ một phần lớn của làn sóng tiếp theo sẽ đến từ hạ tầng:
các kênh triển khai tốt hơn,
sự phối hợp huấn luyện tốt hơn,
môi trường chạy tốt hơn,
các hệ thống điều phối tốt hơn,
độ tin cậy thực thi tốt hơn,
và giảm ma sát trên toàn bộ chồng.
Các đội giải quyết những vấn đề đó một cách lặng lẽ hôm nay có thể trở thành một trong những lớp quan trọng nhất trong AI ngày mai.
Và sự chuyển mình đó ngày càng khó để bỏ qua khi bạn đi sâu vào cách mà các hệ thống này thực sự hoạt động sau hậu trường.