Tôi đã không bắt đầu suy nghĩ nghiêm túc về các hệ thống tự động dưới góc độ trí tuệ. Tôi đã bắt đầu suy nghĩ về chúng theo không gian trạng thái. Sau khi theo dõi đủ các quy trình tự động chạy trong nhiều tuần thay vì vài phút, điều nổi bật không phải là chất lượng mô hình hay tốc độ thực hiện. Đó là cách mà số lượng trạng thái hệ thống có thể xảy ra tăng lên nhanh chóng khi sự không chắc chắn xuất hiện ở lớp thực hiện.
Hầu hết các thất bại không đến từ quyết định sai lầm. Chúng đến từ quá nhiều điều kiện tiếp theo có thể xảy ra.
Một hệ thống tự động không chỉ thực hiện hành động. Nó lý luận về trạng thái mà thế giới đang ở, trạng thái mà nó sẽ ở sau khi thực hiện, và liệu trạng thái đó có thể được tin cậy làm cơ sở cho bước tiếp theo hay không. Khi số lượng trạng thái có thể xảy ra tăng lên, chi phí lý luận cũng tăng theo. Chi phí giám sát tăng theo. Logic phục hồi tăng theo. Những gì trông như một lượng nhỏ sự không chắc chắn ở lớp hạ tầng trở thành một vấn đề tổ hợp ở lớp tự động hóa.
Đây là ống kính mà qua đó Vanar bắt đầu trở nên hợp lý hơn với tôi.
Về lý thuyết, các hệ thống thực thi được mô tả là quyết định. Trong thực tế, nhiều hệ thống chỉ là một phần quyết định. Thực thi có thể là quyết định bên trong một khối, nhưng thời gian định cư, điều kiện phí và đảm bảo tính cuối cùng vẫn có thể thay đổi. Từ góc độ của nhà phát triển, điều đó trông có vẻ quản lý được. Từ góc độ của tác nhân tự trị, đó là nhánh trạng thái.
Mỗi khi thời gian định cư kéo dài, một nhánh mới xuất hiện.
Mỗi khi phí được định giá lại mạnh mẽ, một nhánh khác xuất hiện.
Mỗi khi sự tự tin về tính cuối cùng là xác suất thay vì có giới hạn, nhiều nhánh xuất hiện.
Mọi người thường coi những điều này là chi tiết vận hành. Trong các hệ thống chạy lâu dài, chúng là các hệ số cấu trúc.
Tôi đã thấy các đường ống tự động hóa mà logic kinh doanh cốt lõi rất đơn giản, nhưng logic xử lý trạng thái trở nên khổng lồ. Không phải vì nhiệm vụ phức tạp, mà vì môi trường có biến động. Các kỹ sư liên tục thêm các biện pháp bảo vệ, thử lại, kiểm tra đối chiếu, các con đường hết thời gian và các quy tắc thay thế. Đồ thị thực thi trở nên rộng hơn quy trình kinh doanh mà nó được thiết kế để tự động hóa.
Điều đó là sự bùng nổ không gian trạng thái trong thực tế.
Điều làm cho điều này đặc biệt nguy hiểm là nó không trông giống như thất bại ngay từ đầu. Hệ thống vẫn chạy. Hầu hết các con đường vẫn thành công. Nhưng lý luận về tính chính xác trở nên khó khăn theo thời gian. Những thay đổi nhỏ về thời gian hoặc thứ tự tạo ra các trường hợp biên mà chưa bao giờ được mô hình hóa. Mỗi trường hợp biên thêm vào một con đường điều kiện khác. Trong vài tháng, lớp tự động hóa trở nên mong manh, không phải vì nó sai, mà vì nó quá có điều kiện.
Đây là nơi mà việc định cư bị hạn chế trở nên quan trọng hơn việc thực thi biểu đạt.
Vanar dường như được thiết kế xung quanh việc hạn chế độ rộng mà cây trạng thái thực thi có thể phát triển. Sự nhấn mạnh trong thiết kế không phải là cho phép mọi con đường thực thi có thể và sửa chữa kết quả sau đó. Nó là về việc hạn chế khi nào thực thi được phép tiếp tục, dựa trên việc hành vi định cư có nằm trong một phong bì dự đoán được hay không.
Điều đó nghe có vẻ bảo thủ, và đúng vậy. Nhưng về mặt vận hành, nó có một hiệu ứng rất cụ thể. Nó cắt tỉa cây trạng thái sớm.
Thay vì để thực thi tạo ra nhiều trạng thái hợp lệ một phần mà sau đó phải được đối chiếu, việc định cư bị hạn chế giảm số lượng trạng thái mơ hồ có thể tồn tại ngay từ đầu. Nếu các điều kiện định cư không đủ dự đoán được, thực thi sẽ không tiến hành. Điều đó loại bỏ hoàn toàn những nhánh hạ nguồn trước khi chúng được tạo ra.
Từ quan điểm thiết kế tự động hóa, đó không phải là một tối ưu hóa nhỏ. Đó là một sự giảm cấu trúc trong tải nhận thức.
Khi tôi thiết kế hoặc xem xét các hệ thống tự động hóa, tôi nghĩ về việc có bao nhiêu điều kiện phải được nhớ và kiểm tra lại ở mỗi bước. Các hệ thống với biến động trạng thái rộng buộc mỗi lớp phía trên chúng phải mang nhiều ngữ cảnh hơn. Các tác nhân phải theo dõi nhiều cờ hơn. Các bộ lập lịch phải kiểm tra nhiều điều kiện tiên quyết hơn. Việc giám sát phải theo dõi nhiều chỉ số hơn. Mỗi chiều trạng thái bổ sung làm tăng chi phí phối hợp.
Ràng buộc ở lớp hạ tầng giống như sự giảm chiều cho tự động hóa.
Nhiều chuỗi tối ưu hóa cho khả năng thích ứng ở lớp nền. Phí dao động mạnh mẽ. Thứ tự thực thi có thể thay đổi dưới tải. Các trình xác thực phản ứng một cách động với các động lực. Khả năng thích ứng này thường được mô tả như là sự kiên cường. Tôi hiểu lập luận. Các hệ thống thích ứng có thể hấp thụ cú sốc. Nhưng chúng cũng tạo ra nhiều biến động hành vi hơn, và biến động hành vi mở rộng đồ thị trạng thái mà tự động hóa phải lý luận.
Vanar dường như có lập trường đối lập. Giảm bớt các mức độ tự do hành vi sớm, để các lớp cao hơn lý luận trên một mô hình trạng thái hẹp hơn và ổn định hơn.
Điều này xuất hiện rõ nhất xung quanh việc định cư và di chuyển giá trị. Trong các hệ thống mà thực thi và định cư được kết nối lỏng lẻo, một hành động có thể được thực thi nhưng chưa đạt được tính cuối cùng về kinh tế. Điều đó tạo ra các trạng thái trung gian cần phải được theo dõi. Liệu thanh toán đã được cam kết. Nó có thể đảo ngược không. Tác nhân nên tiến hành hay chờ đợi. Mỗi câu hỏi đó đều tạo ra nhánh.
Khi việc định cư được coi là một điều kiện rào cản thay vì một giai đoạn theo sau, những trạng thái trung gian đó thu hẹp lại. Một hành động chỉ được phép dưới các điều kiện định cư dự đoán được, hoặc nó bị trì hoãn. Ít trạng thái “nửa hợp lệ” hơn tồn tại. Điều đó đơn giản hóa các vòng lý luận của tác nhân.
Tôi đã học để tôn trọng sự khác biệt này sau khi thấy sự thường xuyên mà tự động hóa bị hỏng không phải tại bước quyết định, mà tại bước cam kết. Logic quyết định có thể đúng, nhưng nếu ngữ nghĩa cam kết không rõ ràng, hệ thống vẫn suy giảm. Các lớp bộ nhớ lưu trữ các giả định mà sau đó cần phải sửa chữa. Các bước hạ nguồn phải được hoàn lại hoặc bồi thường. Những gì trông giống như sự thất bại trí tuệ thực ra là sự mơ hồ của việc định cư.
Việc định cư bị hạn chế giảm bề mặt sửa chữa.
Có một sự đánh đổi thực sự ở đây, và tôi không nghĩ rằng điều đó nên bị ẩn giấu. Giới hạn thực thi làm giảm tính biểu đạt. Một số chiến lược động trở nên khó thực hiện hơn. Một số mẫu có thể ghép lại phụ thuộc vào thứ tự linh hoạt hoặc định giá thích ứng thì ít tự nhiên hơn. Những người xây dựng muốn tự do tối đa ở lớp nền có thể xem điều này như một ma sát.
Tôi xem điều đó như là sự chuyển tải.
Hoặc lớp nền hấp thụ ràng buộc, hoặc mọi ứng dụng và mọi tác nhân hấp thụ diễn giải. Ràng buộc không biến mất. Nó di chuyển. Tư thế thiết kế của Vanar gợi ý một sở thích cho việc đẩy ràng buộc xuống dưới, để các lớp tự động hóa có thể giữ đơn giản hơn.
Từ kinh nghiệm, các lớp tự động hóa đơn giản tuổi thọ tốt hơn.
Một hiệu ứng khác của không gian trạng thái giảm là khả năng kiểm tra. Các hệ thống với phong bì hành vi hẹp hơn dễ dàng hơn để mô phỏng một cách có ý nghĩa. Khi biến động thực thi và định cư có giới hạn, độ bao phủ kịch bản cải thiện. Bạn có thể mô hình hóa nhiều hơn về bề mặt hoạt động thực tế với ít trường hợp kiểm tra hơn. Điều đó quan trọng đối với các hệ thống điều khiển bởi tác nhân, nơi mà sự thất bại không phải lúc nào cũng hiển thị ngay lập tức.
Tôi cũng nghĩ rằng điều này kết nối trực tiếp với cách mà mọi người đánh giá khả năng sẵn sàng AI trong cơ sở hạ tầng. Nhiều đánh giá tập trung vào thông lượng, công cụ hoặc tích hợp mô hình. Tôi hiếm khi thấy thảo luận về biến động trạng thái và phong bì định cư. Nhưng đối với các tác nhân tự trị, những thuộc tính này quan trọng hơn hiệu suất đỉnh.
Qua ống kính đó, Vanar ít giống như một chuỗi được tối ưu hóa cho tính linh hoạt hành vi tối đa và nhiều hơn như một chuỗi được tối ưu hóa cho hình học vận hành có giới hạn. Ít sự sai lệch được phép. Các phong bì chặt chẽ hơn. Hành vi cam kết dự đoán được hơn.
Điều đó sẽ không tối đa hóa mọi chỉ số mà mọi người thích trích dẫn. Nó không phải lúc nào cũng trông ấn tượng trong các phép đo ngắn hạn. Nhưng trong các hệ thống chạy lâu dài, không gian trạng thái có giới hạn thường có giá trị hơn thông lượng đỉnh.
Tôi đã trở nên thận trọng xung quanh cơ sở hạ tầng quảng cáo khả năng thích ứng không giới hạn ở lớp nền. Khả năng thích ứng là hữu ích, nhưng nó không phải là miễn phí. Nó làm tăng số lượng tương lai có thể của hệ thống mà tự động hóa phải chuẩn bị để xử lý. Mỗi tương lai có thể thêm là một nhánh khác trong cây lý luận.
Các hệ thống tự trị không chỉ bị hỏng khi chúng chọn hành động sai. Chúng bị hỏng khi không thể xác định một cách đáng tin cậy trạng thái mà chúng đang ở sau khi hành động.
Giới hạn các điều kiện định cư và thực thi là một cách để giữ cho bản đồ trạng thái đó có thể đọc được.
Đó là lý do tại sao tôi hiện nay chú ý đến cách mà cơ sở hạ tầng kiểm soát sự phát triển của trạng thái, không chỉ là tốc độ thực thi giao dịch. Cách tiếp cận định hướng ràng buộc của Vanar gợi ý một nhận thức rằng tải nhận thức không chỉ là một vấn đề phần mềm. Nó là một biến thiết kế cơ sở hạ tầng.
Đối với các hệ thống dự kiến sẽ chạy liên tục, không có người giám sát và hoạt động kinh tế, không gian trạng thái nhỏ hơn không phải là một hạn chế. Nó là một bộ ổn định.