Tôi từng nghĩ rằng cuộc cạnh tranh AI cuối cùng sẽ trở nên đơn giản.
Không dễ dàng chính xác, nhưng có thể dự đoán.
Những mô hình mạnh nhất sẽ chiến thắng. Lý luận tốt hơn, đầu ra nhanh hơn, hành vi đa phương tiện sạch hơn, hệ thống bộ nhớ mạnh hơn, và chi phí suy diễn thấp hơn. Mọi cuộc thảo luận dường như xoay quanh cùng một giả định rằng
Trí tuệ chính nó là sản phẩm cuối cùng. Mô hình giải quyết nhiều vấn đề với ít sai sót hơn sẽ tự nhiên chiếm ưu thế mọi thứ xung quanh.
Nhưng gần đây tôi bắt đầu cảm thấy rằng cách tiếp cận đó bỏ lỡ điều gì đó quan trọng.
Bởi vì khoảnh khắc các hệ thống AI bắt đầu đưa ra quyết định di chuyển qua các hệ thống khác, trí thông minh đơn thuần không còn đủ.
Điều quan trọng không chỉ là câu trả lời nghe có vẻ đúng.
Điều quan trọng là quyết định có thể tồn tại sau khi nó rời khỏi môi trường đã tạo ra nó hay không.
Và tôi nghĩ điều đó thay đổi toàn bộ kiến trúc của sự cạnh tranh.
Hầu hết các hệ thống AI ngày nay hoạt động như các bề mặt nén. Bạn hỏi điều gì đó, mô hình phản hồi, và tương tác kết thúc ở đó. Đầu ra đến tay được đánh bóng đủ để mọi người hiếm khi dừng lại để kiểm tra các lớp vô hình bên dưới nó.
Chuỗi thu hồi, cửa sổ bối cảnh đã lọc, áp lực củng cố, mục tiêu xếp hạng, các chỉnh sửa ẩn, điều kiện trước đó, các tinh chỉnh tổng hợp. Tất cả đều sụp đổ thành một phản hồi có vẻ ổn định.
Câu trả lời cảm thấy đơn lẻ ngay cả khi con đường sản xuất đã bị phân mảnh.
Phần đó vẫn làm tôi khó chịu.
Bởi vì các hệ thống hạ nguồn không coi những đầu ra đó nhẹ nhàng nữa. Các công cụ tìm kiếm xếp hạng chúng. Các hệ thống gợi ý phân phối chúng.
Các công cụ tuyển dụng đánh giá chúng. Các mô hình tài chính phản ứng với chúng. Các nền tảng xã hội khuếch đại hoặc ngăn chặn chúng. Các hệ thống AI khác huấn luyện trên chúng một lần nữa.
Đầu ra không biến mất một khi nó được tạo ra.
Nó tham gia vào lưu thông.
Và một khi các quyết định do AI tạo ra bắt đầu lưu thông qua các môi trường mang lại hậu quả kinh tế hoặc xã hội,
trách nhiệm ngừng cư xử như một tính năng đạo đức thưởng. Nó bắt đầu cư xử như cơ sở hạ tầng.
Sự khác biệt đó nghe có vẻ tinh tế cho đến khi bạn ngồi với nó một thời gian.
Tôi nghĩ nhiều người vẫn hình dung trách nhiệm như một lớp quan hệ công chúng xung quanh AI. Hệ thống quy định.
Bảng điều khiển minh bạch. Trích dẫn tùy chọn. Một thứ mà các công ty thêm vào sau để trông có trách nhiệm khi vấn đề trí thông minh cốt lõi đã được giải quyết.
Nhưng tôi bắt đầu nghĩ rằng trách nhiệm trở nên quan trọng vì một lý do hoàn toàn khác.
Các hệ thống cuối cùng cần khả năng phát lại.
Không phải vì con người hoàn hảo về mặt đạo đức, mà vì các tổ chức trở nên không ổn định khi các quyết định không thể giữ đủ độ liên tục bằng chứng sau khi chúng lan rộng qua các môi trường.
Một khuyến nghị ảnh hưởng đến tính minh bạch.
Tính minh bạch ảnh hưởng đến cơ hội.
Cơ hội ảnh hưởng đến tiền.
Tiền ảnh hưởng đến quyền lực.
Khi bất kỳ ai cố gắng theo dõi con đường lý luận gốc hướng ngược lại, hầu hết các bối cảnh trước đó đã biến mất.
“Đầu ra có thể nhìn thấy tồn tại. Các điều kiện trước đó sụp đổ.”
Dòng đó đã ngự trị trong đầu tôi suốt vài ngày.
Đặc biệt khi tôi nghĩ về các hệ sinh thái nội dung do AI tạo ra, nơi mọi thứ ngày càng phụ thuộc vào các hệ thống xếp hạng quyết định điều gì xứng đáng được chú ý.
Sự tươi mới. Tính liên quan. Ảnh hưởng. Độ tin cậy. Tính độc đáo.
Điều kỳ lạ là những hệ thống này hiếm khi đánh giá sự thật một cách trực tiếp.
Họ đánh giá tính rõ ràng.
Đối tượng có thể di chuyển sạch sẽ qua hệ thống không?
Nó có thể tồn tại đủ lâu để chịu được sự soi xét không?
Nó có thể giữ đủ độ tin cậy cấu trúc để các môi trường hạ nguồn tiếp tục chấp nhận không?
Những áp lực đó cảm thấy nhỏ ngay bây giờ vì hầu hết các đầu ra AI vẫn được coi là các tương tác dùng một lần. Mọi người đặt câu hỏi, nhận phản hồi, rồi tiếp tục. Nhưng khi các hệ thống AI bắt đầu hoạt động bên trong cơ sở hạ tầng pháp lý, phối hợp tài chính, hệ thống giáo dục,
các tác nhân tự động, công cụ chăm sóc sức khỏe, các lớp tìm kiếm tổ chức và nền kinh tế người sáng tạo, logic dùng một lần bắt đầu tan rã.
Câu trả lời không còn là điểm kết thúc.
Nó trở thành trạng thái phát sinh.
Và trạng thái phát sinh tích lũy hậu quả cho dù mô hình nguồn gốc có nhớ đường đi lý luận của nó hay không.
Đó có lẽ là lý do tại sao tôi vẫn chú ý đến các dự án như OpenLedger.
Không phải vì họ hứa hẹn một bước đột phá siêu trí tuệ kỳ diệu nào đó. Thành thật mà nói, tôi nghĩ hầu hết các công ty AI đã hiểu rằng chất lượng tạo ra thô sẽ tiếp tục hội tụ theo thời gian.
Các mô hình nhanh hơn xuất hiện mỗi tháng. Các giao diện tốt hơn nhanh chóng trở nên bình thường. Chính trí thông minh cuối cùng trở nên khó phân biệt sạch sẽ.
Nhưng trách nhiệm được bảo tồn vẫn khó khăn về mặt cấu trúc.
Bối cảnh là đắt để giữ lại.
Dòng dõi thì lộn xộn.
Các con đường ảnh hưởng thì chính trị khó chịu.
Khả năng phát lại làm chậm các hệ thống được tối ưu hóa cho tốc độ.
Và các hệ sinh thái AI hiện đại được tối ưu hóa rất nhiều cho tốc độ.
Sự căng thẳng đó cảm thấy quan trọng hơn những gì mọi người nhận ra.
Trí thông minh mở rộng thông qua nén. Trách nhiệm mở rộng thông qua bối cảnh giữ lại. Đó gần như là những bản năng đối lập về mặt kiến trúc.
Một cái giảm độ không chắc chắn thành các đầu ra hiệu quả. Cái khác tiếp tục hỏi điều gì đã biến mất trước khi đầu ra ổn định.
Một phần thưởng cho sự thông thạo.
Các áp lực khác theo dõi khả năng truy xuất.
Tôi không nghĩ người dùng thường xuyên ưu tiên trách nhiệm một cách có ý thức. Sự thuận tiện thường thắng trước.
Các hệ thống nhanh chiếm ưu thế về hành vi vì con người tối ưu hóa cho việc giảm ma sát trước khi hậu quả xảy ra. Mô hình đó lặp lại ở khắp mọi nơi trong công nghệ.
Nhưng các thị trường cơ sở hạ tầng cuối cùng sẽ tổ chức lại xung quanh các ranh giới thất bại.
Một hệ thống tài chính cuối cùng sẽ quan tâm đến lịch sử thanh toán.
Một hệ thống pháp lý cuối cùng sẽ quan tâm đến các chuỗi bằng chứng.
Các hệ thống cung cấp cuối cùng sẽ quan tâm đến các lớp xác minh.
AI có lẽ sẽ đạt đến cùng một điểm khi các đầu ra của nó trở nên quá quan trọng về mặt kinh tế để không thể xác minh.
Và có thể đó là sự chuyển tiếp ẩn đang diễn ra dưới bề mặt toàn bộ ngành này ngay bây giờ.
Cuộc cạnh tranh âm thầm chuyển từ:
“Mô hình nào nghe có vẻ thông minh nhất?”
đến một điều gì đó khó chịu hơn nhiều:
“Hệ thống nào vẫn có thể giải thích các điều kiện phía sau quyết định của nó sau khi đầu ra rời khỏi môi trường của chính nó?”
Câu hỏi đó càng trở nên nặng nề hơn khi tôi suy nghĩ về nó, bởi vì hầu hết các hệ thống không thể trả lời hoàn toàn. Chúng chỉ lưu giữ những mảnh vụn có thể. Siêu dữ liệu. Trích dẫn một phần.
Nhà hát tự tin. Đủ để thỏa mãn xác thực nhẹ. Nhưng không đủ để tái tạo con đường ảnh hưởng sâu hơn khi các hệ thống hạ nguồn bắt đầu phụ thuộc vào chính quyết định.
Đối tượng trông có vẻ ổn định.
Hậu quả thì không.
Và có thể đó sẽ trở thành ranh giới thật sự trong AI cuối cùng.
Không phải trí thông minh trong sự cô lập.
Nhưng liệu hệ thống có để lại đủ bằng chứng liên tục bền vững để các môi trường sau này vẫn có thể tin tưởng vào quyết định sau khi nó bắt đầu di chuyển độc lập qua thế giới.
Không phải thông minh hơn.
Chỉ khó hơn để từ bỏ sau.