Tại sao công chúng có thể gặp AGI lâu sau khi nó thực sự xuất hiện
Lịch sử công nghệ chiến lược liên tục chứng minh một thực tế đơn giản nhưng không thoải mái: quyền truy cập công cộng hiếm khi là khởi đầu thực sự của khả năng công nghệ. Thay vào đó, việc phát hành công khai thường đại diện cho giai đoạn cuối cùng của một chu kỳ dài hơn nhiều liên quan đến nghiên cứu bí mật, thí nghiệm của giới tinh hoa, thích ứng phòng thủ, tinh chỉnh thể chế, và triển khai có kiểm soát.
Mô hình này đã xuất hiện qua nhiều thế hệ công nghệ chuyển đổi, bao gồm mã hóa, chiến tranh mạng, hệ thống vệ tinh, công nghệ tàng hình, trí tuệ blockchain, và giờ đây là Trí Tuệ Nhân Tạo.
Sự trỗi dậy của các Mô Hình Ngôn Ngữ Lớn (LLMs) cung cấp một trong những ví dụ rõ ràng nhất hiện đại.
Kiến trúc transformer đã xuất hiện công khai vào năm 2017. Đến năm 2019, GPT-2 đã chứng minh khả năng tạo ngôn ngữ chưa từng có. Đến năm 2020, GPT-3 đã chỉ ra rằng trí thông minh giao tiếp đa mục đích đã vượt qua một ngưỡng lớn. Tuy nhiên, sự nhận thức đại chúng không xảy ra cho đến cuối năm 2022 với sự ra mắt của ChatGPT.
Gần ba năm đã tách biệt sự xuất hiện khả năng nghiêm túc khỏi sự nhận thức rộng rãi của công chúng.
Độ trễ này không phải là ngẫu nhiên. Nó phản ánh điều có thể được gọi là:
Độ Trễ Tiết Lộ Công Nghệ Chiến Lược
Luận án này đề xuất rằng các công nghệ tiên tiến thường trưởng thành trong các môi trường thể chế hạn chế nhiều năm trước khi chúng được công khai, thương mại hóa, chính trị hóa hoặc xã hội hóa an toàn.
Các lý do là cấu trúc:
Chính phủ đánh giá các hệ quả chiến lược.
Các tổ chức quốc phòng kiểm tra tính hữu ích trong hoạt động.
Các tập đoàn tinh chỉnh mô hình kiếm tiền.
Các nhóm an toàn áp đặt các hạn chế.
Cơ sở hạ tầng tăng trưởng dần dần.
Mức độ sẵn sàng của công chúng được đánh giá.
Các khuôn khổ quy định lạc hậu so với thực tế.
Kết quả là, những gì công chúng perceives như một “đột phá đột ngột” thường chỉ là lớp đầu tiên có thể nhìn thấy của một ngăn xếp khả năng sâu hơn và cũ hơn nhiều.
Các hệ quả đối với Trí Tuệ Nhân Tạo Tổng Quát (AGI) là sâu sắc.
Giả thuyết Tiết Lộ AGI
Nếu quỹ đạo của LLMs theo một độ trễ nhiều năm giữa khả năng nội bộ và khả năng tiếp cận công khai, thì việc đặt câu hỏi trở nên hợp lý:
Điều gì sẽ xảy ra nếu AGI theo cùng một mô hình?
Điều này không nhất thiết có nghĩa là siêu trí tuệ tự động hoàn toàn bí mật điều hành thế giới sau cánh cửa đóng kín. Những tuyên bố gây sốc như vậy vượt quá bằng chứng có thể xác minh công khai. Tuy nhiên, điều chiến lược có thể hợp lý là các hệ thống giống như AGI rất tiên tiến có thể xuất hiện trong các môi trường hạn chế trước khi bất kỳ tuyên bố công khai chính thức nào được thực hiện.
Dưới giả thuyết này, năm 2027 có thể không đại diện cho sự ra đời của AGI cho công chúng. Nó có thể thay vào đó đại diện cho sự bắt đầu của việc công khai kiểm soát các hệ thống đã trải qua nhiều năm tinh chỉnh nội bộ.
Điều này tạo ra cái mà có thể được gọi là:
Khoảng Cách Sẵn Sàng AGI
Công chúng, các tổ chức giáo dục, chính phủ, doanh nghiệp và hệ thống lao động vẫn đang thích ứng với các LLM hiện tại, trong khi sự phát triển AI tiên phong tiếp tục tăng tốc với tốc độ chưa từng có.
Hầu hết các xã hội vẫn chưa chuẩn bị cấu trúc cho:
hệ thống tác nhân tự động
các cơ sở hạ tầng AI độc lập
các kiến trúc quyết định do AI điều khiển
quy trình nhận thức hoàn toàn tự động hóa
các hệ thống suy luận tổng hợp
các hoạt động mạng và tình báo được tăng cường bởi AI
sự chuyển dịch kinh tế quy mô lớn
tăng tốc khoa học do máy móc điều khiển
Ngay cả ngày nay, cuộc tranh luận công khai thường xoay quanh việc sử dụng AI cơ bản trong khi các hệ thống tiên phong ngày càng thể hiện:
lý luận đa phương thức
điều phối tác vụ tự động
tạo mã
lập kế hoạch chiến lược
sử dụng công cụ
tích hợp bộ nhớ
trí tuệ tăng cường thu hồi
hợp tác nhiều tác nhân
Khoảng cách giữa nhận thức của công chúng và khả năng tiên phong có thể đang mở rộng nhanh chóng.
Luận án phụ “Trí Tuệ Cắt Gọn”
Một trong những khả năng đáng lo ngại hơn là các hệ thống AI công khai có thể đại diện cho các phiên bản bị hạn chế hoặc đơn giản hóa có chủ đích của các khả năng tiên phong.
Dưới luận án phụ này:
các hệ thống công cộng ưu tiên an toàn và ổn định
các hệ thống chiến lược ưu tiên khả năng và tiện ích hoạt động
các mô hình công cộng được điều chỉnh, lọc và hạn chế tài nguyên
các hệ thống thể chế có thể hoạt động dưới các ngưỡng hoàn toàn khác nhau
Lịch sử cho thấy điều này không phải là điều bất thường. Các tổ chức chiến lược luôn sở hữu các phiên bản công nghệ quan trọng sớm hơn hoặc mạnh mẽ hơn trước khi chúng được công khai.
Mối quan tâm chính không phải là âm mưu. Nó là sự bất đối xứng.
Nền văn minh có thể đang tiến gần đến một điểm mà khoảng cách khả năng giữa các nhà vận hành AI tinh vi và các tổ chức thông thường trở nên chưa từng có trong lịch sử.
Một Cuộc Chuyển Đổi Cấp Độ Văn Minh
Cuộc chuyển đổi AI không thể so sánh với sự tiến hóa phần mềm thông thường. Nó giống như sự xuất hiện của:
điện
công nghệ hạt nhân
internet
tự động hóa công nghiệp
ngoại trừ việc nén vào các khoảng thời gian ngắn hơn một cách kịch tính.
Thập kỷ sắp tới có thể định nghĩa lại:
lao động
quản lý
tài chính
trí tuệ
chiến tranh
giáo dục
kinh tế học
chủ quyền chính nó
Các quốc gia không xây dựng được khả năng AI độc lập có thể trở nên phụ thuộc chiến lược vào các cơ sở hạ tầng thông tin bên ngoài. Các tập đoàn không tích hợp AI sâu sắc có thể trở nên lỗi thời về mặt hoạt động. Các hệ thống giáo dục tiếp tục chuẩn bị cho học sinh theo quy trình làm việc của thời đại công nghiệp có nguy cơ sản xuất ra các thế hệ không chuẩn bị cho nền kinh tế tự động hóa nhận thức.
Vấn đề cốt lõi không phải là liệu AGI có xuất hiện công khai vào năm 2027 hay muộn hơn.
Vấn đề sâu hơn là liệu xã hội có nhận ra rằng khả năng công nghệ và sự nhìn thấy công khai hiếm khi được đồng bộ hóa.
Kết luận
Luận án Về Độ Trễ Tiết Lộ Công Nghệ Chiến Lược không tuyên bố chắc chắn về việc triển khai AGI tiềm ẩn. Thay vào đó, nó lập luận rằng lịch sử nhiều lần chỉ ra một độ trễ đo được giữa sự xuất hiện thực sự của khả năng và sự nhận thức của công chúng.
LLMs bản thân đã theo mô hình này.
Nếu AGI theo cùng một quỹ đạo, thì nhân loại có thể hiện đang sống không phải ở giai đoạn đầu của cuộc cách mạng trí tuệ, mà ở giữa một quá trình chuyển đổi mà độ sâu thực sự vẫn chủ yếu không thể nhìn thấy đối với công chúng.
Và đến khi công chúng nhận thức rõ ràng, cuộc chuyển đổi có thể đã trở nên không thể đảo ngược.
-trích từ nhật ký của GS. Ahmad Bilal Khan