Hầu hết các ngăn xếp AI ngày nay trông ấn tượng ngay từ cái nhìn đầu tiên.
Sơ đồ kiến trúc sạch sẽ. Các buổi trình diễn tự tin. Biểu đồ hiệu suất tăng trưởng mượt mà. Mọi thứ dường như được thiết kế, có chủ đích và bền vững.
Nhưng ngay khi bạn bắt đầu làm việc với những hệ thống này thực sự làm việc với chúng, ảo tưởng bắt đầu bị vỡ. Không phải vì những người xây dựng chúng cẩu thả.
Không phải vì các công cụ tệ.
Nhưng vì các ngăn xếp AI hiện đại dễ bị tổn thương hơn chúng ta thích thừa nhận.
Bề mặt bóng loáng
Trên bề mặt, các hệ thống AI ngày nay cảm thấy kỳ diệu.
Bạn cắm một mô hình vào.
Thêm một đường ống dữ liệu.
Bọc nó với một API.
Triển khai nó vào sản xuất.
Đột nhiên, bạn có một cái gì đó trông thông minh, phản hồi nhanh và mạnh mẽ.
Các buổi trình diễn diễn ra suôn sẻ. Các bên liên quan cảm thấy ấn tượng. Lộ trình trông hứa hẹn.
Từ bên ngoài, ngăn xếp trông hoàn chỉnh.
Nhưng sự tự tin này thường là vay mượn chứ không phải kiếm được.
Dưới nắp: Giả định ở khắp mọi nơi
Khi bạn vượt qua giai đoạn trình diễn, bạn bắt đầu nhận thấy những giả định yên tĩnh giữ mọi thứ lại.
Giả định về chất lượng dữ liệu.
Giả định về cấu trúc đầu vào.
Giả định về hành vi của người dùng.
Giả định về độ ổn định của mô hình.
Hệ thống hoạt động vì mọi thứ hành xử đúng như mong đợi.
Khoảnh khắc thực tế lệch lạc ngay cả một chút thì những vết nứt bắt đầu xuất hiện.
Một cột thay đổi.
Một phân phối thay đổi.
Một lời nhắc hành xử khác trước.
Một dịch vụ upstream chậm lại.
Và đột nhiên, hệ thống không còn “thông minh” nữa. Nó trở nên bối rối, giòn và không đáng tin cậy.
Các giải pháp thay thế ngụy trang như kiến trúc
Nhiều ngăn xếp AI ít được “thiết kế” và nhiều hơn “lắp ráp.”
Các giải pháp nhanh trở thành các giải pháp vĩnh viễn.
Các lách luật tạm thời trở thành các phụ thuộc cốt lõi.
Các kiểm tra thủ công thay thế các biện pháp bảo vệ bị thiếu.
Bạn thấy mã keo ở khắp mọi nơi—vá các sự không khớp giữa các công cụ vốn không bao giờ được thiết kế để làm việc cùng nhau ngay từ đầu.
Các giải pháp thay thế này không thất bại ồn ào.
Chúng thất bại một cách yên tĩnh.
Hệ thống vẫn hoạt động. Các bản ghi trông ổn. Nhưng các đầu ra xấu đi, trôi dạt, hoặc tinh vi làm hỏng logic kinh doanh mà không ai nhận ra cho đến khi tổn thất đã xảy ra.
Sự ảo tưởng về sự ổn định
Khi mọi thứ diễn ra suôn sẻ, các hệ thống AI có thể cảm thấy không thể ngăn cản.
Dự đoán là chính xác.
Độ trễ là chấp nhận được.
Chi phí có thể quản lý được.
Nhưng sự ổn định này là có điều kiện.
Nó chỉ tồn tại miễn là:
Đầu vào vẫn sạch
Các mô hình hành xử có dự đoán
Các phụ thuộc không thay đổi
Tải trọng giữ trong một dải hẹp
Các trường hợp ngoại lệ lịch sự tránh xa
Đây không phải là sự bền bỉ.
Nó là sự lạc quan.
Và sự lạc quan không phải là một chiến lược kỹ thuật.
Khi một cái gì đó bị hỏng
Đây là sự thật không thoải mái:
Khi một hệ thống AI bị hỏng, thường có rất ít thứ giữ nó lại.
Không có ranh giới thất bại rõ ràng.
Không có đường lùi rõ ràng.
Không có đường gỡ lỗi đơn giản.
Liệu có phải là dữ liệu?
Cập nhật mô hình?
Thay đổi lời nhắc?
Trôi dạt nhúng?
Hạ tầng?
Các thất bại tràn sang các lớp mà chưa bao giờ được cách ly hoàn toàn ngay từ đầu.
Và vì các đầu ra của AI là xác suất, không phải xác định, hệ thống không la hét khi bị hỏng. Nó chỉ trở nên... tồi tệ hơn.
Hơi sai một chút.
Không đáng tin cậy một cách yên tĩnh.
Tự tin một cách nguy hiểm.
Tại sao điều này cứ xảy ra
Vấn đề không phải là thiếu đổi mới.
Chúng ta đang xây dựng các hệ thống AI theo cách mà chúng ta xây dựng phần mềm truyền thống—trong khi giả vờ rằng chúng hành xử theo cách giống nhau.
Chúng không.
Các hệ thống AI:
Phụ thuộc vào hành vi thống kê, không phải logic
Thay đổi theo thời gian, ngay cả khi không có thay đổi mã
Gãy trong độ dốc, không phải trạng thái nhị phân
Thất bại một cách lặng lẽ thường xuyên hơn là ồn ào
Tuy nhiên, chúng ta bọc chúng trong công cụ thiết kế cho các hệ thống xác định và hy vọng cho điều tốt nhất.
Sự không khớp đó là nơi sự mong manh tồn tại.
Công cụ không giống như nền tảng.
Hệ sinh thái đang bùng nổ với công cụ.
Các khung.
Các tác nhân.
Các bộ điều phối.
Cơ sở dữ liệu vector.
Các lớp quan sát.
Nhưng công cụ không đồng nghĩa với độ bền.
Bạn có thể xếp chồng các thành phần ấn tượng lên những nền tảng yếu và vẫn kết thúc với một hệ thống sụp đổ dưới áp lực thực tế.
Điều thiếu không phải là một lớp trừu tượng khác.
Nó là tư duy cấu trúc.
Những gì các hệ thống AI mạnh thực sự cần
Các hệ thống AI bền vững không được xác định bởi mức độ tiến bộ của mô hình.
Chúng được xác định bởi mức độ hệ thống xử lý sự không hoàn hảo.
Các hệ thống mạnh giả định:
Dữ liệu sẽ lộn xộn
Các mô hình sẽ trôi dạt
Các đầu vào sẽ kỳ lạ
Người dùng sẽ làm bạn ngạc nhiên
Các phụ thuộc sẽ thất bại
Và chúng được thiết kế theo cách đó.
Chúng có:
Các chế độ thất bại rõ ràng
Xử lý không chắc chắn rõ ràng
Giám sát vượt ra ngoài độ chính xác
Các điểm kiểm tra có con người trong vòng
Ranh giới giữa các thành phần
Các con đường suy giảm an toàn
Đây không phải là công việc hào nhoáng.
Nó không thể hiện tốt trong các buổi trình diễn.
Nhưng đó là sự khác biệt giữa một hệ thống trông ấn tượng và một cái thực sự tồn tại.
Khoảng cách trưởng thành
Chúng ta đang ở trong một giai đoạn ngượng ngùng của việc áp dụng AI.
Các khả năng rất mạnh.
Sự phấn khích là có thật.
Tham vọng là chính đáng.
Nhưng sự trưởng thành trong thiết kế hệ thống của chúng ta chưa bắt kịp.
Nhiều đội đang đua để giao trí thông minh mà không đầu tư vào sự bền bỉ trước. Và điều đó là dễ hiểu—áp lực cao, thời gian chặt chẽ, và kỳ vọng rất lớn.
Tuy nhiên, các hệ thống mong manh mở rộng rủi ro nhanh hơn chúng mở rộng giá trị.
Một sự thay đổi yên tĩnh đang đến
Làn sóng tiếp theo của tiến bộ AI sẽ không phải về các mô hình lớn hơn hoặc các ngăn xếp rực rỡ hơn.
Nó sẽ về:
Độ tin cậy hơn sự mới lạ
Cấu trúc hơn tốc độ
Tư duy hệ thống hơn những cái lách luật
Kỷ luật kỹ thuật hơn sự lạc quan
Những đội chiến thắng sẽ không phải là những đội trình diễn tốt nhất.
Họ sẽ là những người mà hệ thống của họ vẫn hoạt động khi điều kiện không lý tưởng—bởi vì họ không bao giờ giả định rằng chúng sẽ như vậy.
Suy nghĩ cuối cùng
Nếu ngăn xếp AI của bạn chỉ hoạt động khi mọi thứ diễn ra suôn sẻ, nó thực sự không hoạt động.
Nó chỉ đang chờ.
Đợi người dùng thực.
Đợi dữ liệu thực.
Đợi thực tế xuất hiện.
Và thực tế luôn làm vậy.
Câu hỏi không phải là liệu một cái gì đó sẽ bị hỏng.
Đó là liệu bạn đã xây dựng đủ cấu trúc bên dưới trí thông minh để giữ nó lại khi nó xảy ra.
\u003cm-303/\u003e
\u003ct-456/\u003e
\u003cc-313/\u003e
