Đã có một thời khi robot chỉ là những cỗ máy đơn giản. Chúng thực hiện theo chỉ dẫn và dừng lại khi có điều gì đó bị hỏng. Không ai yêu cầu chúng giải thích bản thân. Không ai mong đợi sự chịu trách nhiệm. Nhưng thế giới đó đang thay đổi. Hôm nay, những cỗ máy đang học hỏi, quyết định và hành động với một mức độ độc lập mà cảm giác gần như là con người. Và ở đâu đó trong sự chuyển mình đó, một câu hỏi nhẹ nhàng nhưng mạnh mẽ bắt đầu nảy sinh.
Liệu robot có thể chứng minh công việc của chúng?
Tôi không hỏi liệu chúng có thể hoàn thành nhiệm vụ hay không. Chúng ta đã biết rằng chúng có thể. Chúng phân loại hàng hóa, hỗ trợ trong các ca phẫu thuật, di chuyển tài sản kỹ thuật số và phân tích một khối lượng dữ liệu khổng lồ trong vài giây. Câu hỏi thực sự thì sâu sắc hơn. Khi một robot đưa ra quyết định, liệu nó có thể chỉ ra bằng chứng về cách mà quyết định đó được đưa ra không? Liệu nó có thể chứng minh rằng nó đã tuân theo các quy tắc mà chúng ta đã đồng ý. Đây là nơi câu chuyện của Giao thức Fabric bắt đầu. Những người đứng sau ý tưởng này không chạy theo xu hướng. Họ đang đối mặt với một khoảng cách niềm tin. Các hệ thống AI đang trở nên có khả năng hơn nhưng chúng cũng trở nên không minh bạch hơn. Chúng mạnh mẽ nhưng phần lớn lý do của chúng sống bên trong những lớp mã không thể nhìn thấy. Nếu có điều gì đó sai sót, chúng ta thường chỉ thấy kết quả, không phải con đường dẫn đến đó. Khái niệm cốt lõi của Fabric là điều bất ngờ đơn giản. Nếu các cỗ máy sẽ hành động trong thế giới thực, chúng nên có khả năng tạo ra bằng chứng cho các hành động của mình. Không chỉ là nhật ký được lưu trữ trên các máy chủ riêng tư. Không phải là những giải thích được viết sau khi sự việc xảy ra. Mà là bằng chứng mật mã cho thấy phép toán đã được thực hiện đúng theo các quy tắc đã được định trước.
Ý tưởng đó thay đổi mọi thứ
Tính toán có thể xác minh thay đổi mối quan hệ giữa hành động và niềm tin. Trong một hệ thống truyền thống, bạn tin tưởng vào máy móc vì bạn tin tưởng vào người điều hành. Trong một hệ thống có thể xác minh, bạn tin vào chứng minh vì toán học đảm bảo tính chính xác. Đây là cách nó hoạt động. Khi một robot hoặc tác nhân AI thực hiện một phép tính, nó cũng sản xuất một chứng minh xác nhận rằng nhiệm vụ đã được xử lý đúng cách. Những người khác có thể kiểm tra chứng minh này một cách nhanh chóng mà không cần làm lại toàn bộ phép tính. Sức mạnh cảm xúc của sự thay đổi này thật dễ bị bỏ qua. Chúng ta đang thấy các máy móc chuyển từ việc là những hộp đen sang trở thành những tác nhân có trách nhiệm. Đó không phải là một sự chuyển mình nhỏ. Bên trong kiến trúc của Fabric có những lớp làm việc cùng nhau một cách yên tĩnh trong nền. Lớp thực thi là nơi các tác nhân AI và robot hoạt động. Chúng thu thập đầu vào, xử lý dữ liệu và sản xuất đầu ra. Mỗi tác nhân có một danh tính kỹ thuật số an toàn cho phép nó ký kết các hành động của mình. Sau đó là lớp chứng minh. Sau khi một hành động hoàn thành, hệ thống tạo ra một chứng minh mật mã liên kết với phép tính đó. Chứng minh này hoạt động như một biên nhận xác nhận rằng logic chính xác đã được tuân thủ. Dữ liệu thô lớn không cần phải nằm trên một sổ cái công khai. Thay vào đó, dấu vân tay của nó được ghi lại để bất kỳ ai cũng có thể xác minh tính xác thực của nó sau này. Cuối cùng, có lớp sổ cái và quản trị. Các chứng minh được neo công khai. Các xác thực viên xác nhận tính hợp lệ của chúng. Các thành viên tham gia quản trị định nghĩa cách các quy tắc tiến triển. Nếu cần cập nhật các tiêu chuẩn hoặc giải quyết tranh chấp, có một quy trình có cấu trúc để thực hiện điều đó. Mỗi quyết định thiết kế phản ánh sự suy nghĩ cẩn thận. Hệ thống ưu tiên tính minh bạch hơn là tốc độ thuần túy. Lựa chọn đó có thể làm giảm hiệu suất thô trong một số kịch bản, nhưng nó tăng cường đáng kể niềm tin. Một quyết định quan trọng khác là tính mô-đun. AI phát triển nhanh chóng. Các hệ thống mật mã cũng vậy. Quản trị phát triển với một tốc độ khác. Bằng cách tách biệt các thành phần này, giao thức cho phép mỗi lớp cải thiện mà không làm mất ổn định toàn bộ cấu trúc. Họ không cố gắng làm đông cứng đổi mới. Họ đang xây dựng một khuôn khổ linh hoạt nơi đổi mới có thể xảy ra một cách an toàn. Thành công cho một dự án như thế này không được đo bằng sự phấn khích. Nó được đo bằng hoạt động thực tế. Một chỉ số là có bao nhiêu tác nhân AI đang tích cực sản xuất các đầu ra có thể xác minh. Sự phát triển ở đây báo hiệu sự tích hợp thực sự. Một chỉ số quan trọng khác là khối lượng chứng minh. Càng nhiều phép tính được xác minh, hệ sinh thái càng mạnh mẽ.
Sự tham gia của các xác thực viên cũng rất quan trọng. Một mạng lưới xác thực viên phân phối khỏe mạnh giảm thiểu rủi ro kiểm soát trung ương. Các đối tác với các đội robot và các nhà phát triển AI cho thấy nhu cầu thực tế hơn là suy đoán. Các chỉ số độ tin cậy như thời gian hoạt động và tốc độ xác minh cho thấy liệu hệ thống có thể hỗ trợ các hoạt động thực tế hay không. Nhưng con đường phía trước không thiếu rủi ro. Chúng là kỹ thuật, pháp lý và xã hội cùng một lúc. Tính toán có thể xác minh có thể tiêu tốn nhiều tài nguyên. Việc tạo ra các chứng minh đòi hỏi sức mạnh tính toán và nếu chi phí đó vẫn cao, việc áp dụng có thể chậm lại. Giao thức phải liên tục cải thiện hiệu quả để vẫn có thể sử dụng được. An ninh là một mối quan tâm khác. Ngay cả khi các chứng minh về mặt toán học là chính xác, những lỗ hổng trong các hệ thống xung quanh có thể tạo ra rủi ro. Một lỗ hổng duy nhất có thể làm tổn hại đáng kể đến sự tự tin. Sự không chắc chắn về quy định thêm một lớp phức tạp khác. Các máy móc tự động hoạt động qua biên giới đặt ra câu hỏi về trách nhiệm và tuân thủ. Nếu nó trở thành một khung cảnh thay thế phán đoán của con người thay vì hỗ trợ nó, sự kháng cự có thể phát triển. Đó là lý do tại sao giao tiếp và giáo dục quan trọng không kém gì kỹ thuật.
Tầm nhìn dài hạn là đầy tham vọng và có cơ sở. Nó tưởng tượng ra một thế giới nơi các hệ thống tự động có thể chứng minh trách nhiệm một cách tự nhiên như con người ký kết hợp đồng. Hãy tưởng tượng về các chuỗi cung ứng nơi mọi chuyển động của robot đều có thể được chứng minh. Hãy tưởng tượng về các sản phẩm nghiên cứu AI mang theo bằng chứng về tính toàn vẹn. Chúng ta đang thấy những dấu hiệu ban đầu của sự chuyển mình này. Các nhà phát triển đang thử nghiệm, các cộng đồng đang tranh luận về các tiêu chuẩn quản trị, các kỹ sư đang tinh chỉnh các hệ thống chứng minh để giảm chi phí và độ trễ. Động lực đang dần dần hình thành. Tôi bị cuốn hút bởi tầm nhìn này vì nó mang lại cảm giác trách nhiệm. Nó không vội vàng hướng tới tự động hóa một cách mù quáng. Nó dừng lại và đặt câu hỏi làm thế nào để bảo vệ niềm tin. Nó khẳng định rằng trí tuệ, dù là nhân tạo hay con người, nên đứng sau các hành động của nó. Cuối cùng, đây không chỉ là một câu chuyện kỹ thuật. Đây là một câu chuyện về con người. Nó liên quan đến cách chúng ta lựa chọn hình thành mối quan hệ giữa bản thân và các hệ thống mà chúng ta tạo ra. Các robot chứng minh công việc của chúng có thể nghe như một sáng kiến ngách ngày hôm nay. Nhưng nếu ý tưởng này tiếp tục phát triển, nó có thể định nghĩa lại trách nhiệm trong thời đại AI. Và trong tương lai đó, chúng ta không chỉ là những người quan sát các máy móc thông minh. Chúng ta là những đối tác trong việc xây dựng một thế giới nơi tính minh bạch và trách nhiệm tiến lên cùng nhau $ROBO #robo #ROBO @Fabric Foundation
