meerab565

Khi tôi nghe mọi người nói về đổi mới robot mở, phản ứng đầu tiên của tôi không phải là sự phấn khích về những cỗ máy mới hay các buổi trình diễn tự động hóa thực hiện các nhiệm vụ phức tạp, mà là sự tò mò về cơ sở hạ tầng làm cho những cỗ máy đó trở nên khả thi ngay từ đầu, bởi vì robot không trở nên thực sự mở chỉ bằng cách công bố thiết kế hoặc cho phép các nhà phát triển xây dựng ứng dụng, mà nó chỉ trở nên mở khi sự phối hợp cơ bản của dữ liệu, tính toán, quyền sở hữu và quản trị được cấu trúc theo cách mà nhiều người tham gia có thể đóng góp và hưởng lợi mà không phải phụ thuộc vào một cơ quan trung ương duy nhất để định nghĩa các quy tắc.

Khi mọi người nghe thấy cụm từ “AI có thể xác minh,” giả định đầu tiên thường là nó là một nâng cấp kỹ thuật khác được thiết kế chủ yếu cho các kỹ sư và đội ngũ hạ tầng, nhưng phản ứng ban đầu của tôi lại khác vì ý nghĩa thực sự của việc xác minh không nằm trong kiến trúc mô hình mà nằm trong các môi trường nơi các quyết định của AI thực sự mang lại hậu quả, đặc biệt trong các lĩnh vực như tài chính và chăm sóc sức khỏe, nơi một đầu ra sai lầm duy nhất có thể dẫn đến tổn thất tài chính, vi phạm quy định, hoặc rủi ro y tế, đó là lý do công việc mà Mira Network đang thực hiện cảm thấy ít giống như một cải tiến tính năng và nhiều hơn như một nỗ lực để sửa chữa một điểm yếu cấu trúc trong cách trí tuệ nhân tạo hiện đang tương tác với các hệ thống thực tế quan trọng.

Khi mọi người nghe thấy cụm từ “chuẩn hóa sự hợp tác của máy móc”, giả định ngay lập tức thường là nó đề cập đến việc cải thiện các giao thức giao tiếp giữa các robot hoặc làm cho việc trao đổi dữ liệu giữa các thiết bị khác nhau dễ dàng hơn, nhưng phản ứng đầu tiên của tôi không chỉ về khả năng tương tác kỹ thuật mà còn về sự phối hợp quy mô, vì thách thức thực sự trong một thế giới tràn ngập các hệ thống tự động không chỉ là khiến cho các máy móc nói chuyện với nhau mà còn đảm bảo rằng công việc họ thực hiện cùng nhau có thể được hiểu, xác minh và quản lý theo những cách vẫn đáng tin cậy khi hệ thống phát triển vượt ra ngoài một tổ chức hoặc nhà sản xuất đơn lẻ.

Khi tôi lần đầu tiên nghe thấy cụm từ “trí tuệ nhân tạo đã được xác minh”, phản ứng của tôi không phải là sự phấn khích ngay lập tức mà thường bao quanh các thông báo cơ sở hạ tầng AI mới mà là một cảm giác im lặng về sự công nhận vì nó thừa nhận một điều mà những người làm việc gần gũi với các hệ thống học máy đã biết từ lâu, đó là rào cản thực sự đối với AI đáng tin cậy chưa bao giờ là việc tạo ra các đầu ra mà là khả năng chứng minh rằng các đầu ra đó được sản xuất theo cách đáng tin cậy, có thể theo dõi và xác minh hơn là từ một cái hộp đen mà không ai có thể tự tin kiểm toán hoặc tái sản xuất.

Khi tôi nghe mọi người nói về quản trị robotics phi tập trung, phản ứng đầu tiên của tôi không phải là sự phấn khích. Mà là sự thận trọng. Không phải vì ý tưởng thiếu tham vọng mà vì robotics luôn mang theo một vấn đề quản trị từ lâu trước khi nó trở thành một vấn đề kỹ thuật. Những cỗ máy di chuyển, cảm nhận và hành động trong thế giới thực không thể tránh khỏi việc đặt ra các câu hỏi về kiểm soát, trách nhiệm và phối hợp. Thách thức chưa bao giờ chỉ là xây dựng những con robot có khả năng. Thách thức thực sự là quyết định ai sẽ quản lý những gì mà những con robot đó được phép làm.

Khi mọi người nói về quản lý rủi ro AI, cuộc trò chuyện thường nhảy thẳng đến quy định hoặc sự phù hợp của mô hình. Phản ứng đầu tiên của tôi là khác. Vấn đề thực sự thường không phải là liệu các hệ thống AI có thể được hướng dẫn bởi các quy tắc hay không, mà là liệu các kết quả của chúng có thể được tin cậy ngay từ đầu hay không. Hầu hết các hệ thống AI hiện đại sản xuất ra các câu trả lời nhanh chóng và thuyết phục, nhưng độ tin cậy cơ bản vẫn không chắc chắn. Khoảng cách giữa sự tự tin và độ chính xác là nơi rủi ro thực sự bắt đầu.

Vấn đề này không phải là mới. Bất kỳ ai đã làm việc với các mô hình AI lớn đều thấy cách dễ dàng mà chúng có thể tạo ra thông tin không chính xác trong khi vẫn âm thanh có thẩm quyền. Những lỗi này thường được mô tả là ảo giác, nhưng từ góc độ rủi ro, chúng đại diện cho điều gì đó nghiêm trọng hơn, đó là những quyết định không thể xác minh được đi vào các quy trình thực tế. Khi các đầu ra của AI ảnh hưởng đến tài chính, chăm sóc sức khỏe, quản trị hoặc cơ sở hạ tầng, chi phí của sự không chắc chắn tăng nhanh chóng.

Khi tôi nghe mọi người nói về quy định trong robotics, giọng điệu thường nghe có vẻ phòng thủ. Như thể các quy tắc là những trở ngại mà đổi mới phải vượt qua. Phản ứng của tôi khác, không phải là sự phấn khích mà là sự công nhận. Bởi vì rào cản thực sự đối với việc áp dụng robotics quy mô lớn không còn là khả năng nữa mà là sự phối hợp. Các máy móc có thể di chuyển, nhìn, tính toán và học hỏi. Điều họ gặp khó khăn là hoạt động trong các hệ thống cần sự trách nhiệm và trách nhiệm không tự phát sinh từ phần cứng tốt hơn.

Khi mọi người nói về việc giải quyết độ tin cậy của AI, cuộc trò chuyện thường nhảy thẳng đến các mô hình lớn hơn hoặc dữ liệu đào tạo tốt hơn. Phản ứng đầu tiên của tôi với cách diễn đạt đó là sự hoài nghi. Vấn đề không chỉ nằm ở trí thông minh. Nó liên quan đến việc xác minh. Nếu một hệ thống AI đưa ra câu trả lời, hầu hết người dùng vẫn không có cách thực tiễn nào để xác nhận liệu câu trả lời đó có thực sự đúng hay không. Mô hình trở thành quyền hạn chỉ vì nó nói một cách tự tin.
Đó là điểm yếu âm thầm ngồi dưới sự bùng nổ AI ngày nay. Chúng ta coi các đầu ra của AI là thông tin khi thực tế chúng là những dự đoán. Dự đoán có thể hữu ích nhưng nếu không có cơ chế để xác minh chúng, chúng vẫn chỉ là những phỏng đoán xác suất. Khoảng cách giữa đầu ra và xác minh chính là điều ngăn cản AI hoạt động an toàn trong những môi trường có mức độ rủi ro cao hơn, nơi độ tin cậy quan trọng hơn tốc độ.

Khi mọi người nghe về quản trị trong các hệ thống phi tập trung, giả định thường là nó chỉ là một giao diện bỏ phiếu được đặt trên một giao thức. Một nơi mà những người nắm giữ token thỉnh thoảng xuất hiện, bỏ phiếu và định hình hướng đi của mạng lưới. Nhưng khi tôi nghĩ về quản trị trong bối cảnh của Fabric Foundation và tầm nhìn rộng hơn của Fabric Protocol, cách diễn đạt đó cảm thấy không đầy đủ. Quản trị ở đây không chỉ đơn giản là một bảng điều khiển. Nó là một lớp hoạt động xác định cách mà máy móc, dữ liệu và con người phối hợp theo thời gian.

Khi tôi nghe thấy "xác thực mô hình đa dạng" phản ứng đầu tiên của tôi không phải là nó nghe có vẻ tiên tiến. Nó nghe có vẻ quá hạn. Không phải vì các hệ thống tập hợp là mới mà vì chúng ta đã dành vài năm qua để giả vờ rằng mở rộng một mô hình đơn lẻ là cùng một điều với việc tăng cường độ tin cậy. Nó không phải. Những câu trả lời lớn hơn không giống như những câu trả lời đã được xác minh.
Đó là sự chuyển mình yên tĩnh bên trong thiết kế của Mira Network. Nó không coi trí thông minh là một điều gì đó bạn tin tưởng chỉ vì nó có vẻ tự tin. Nó coi đó là một điều gì đó bạn xác thực vì nó có thể sai.