Tháng trước, tôi đã xem một nhà giao dịch mất sáu con số vì một mô hình AI tự tin trích dẫn một hồ sơ quy định không tồn tại. Sự ảo giác hoàn hảo với định dạng đúng, ngày tháng thực tế, thậm chí là một số tài liệu giả. Khi xác minh của con người phát hiện ra, thiệt hại đã xảy ra.
Điều này không hiếm. Hôm nay là thứ Ba.
Chúng tôi đang triển khai các hệ thống AI nhanh hơn chúng tôi có thể tin tưởng chúng. Chẩn đoán y tế, hợp đồng pháp lý, phân tích tài chính là những lĩnh vực mà một lỗi duy nhất có thể dẫn đến thảm họa. Giải pháp hiện tại? Ném thêm nhiều con người vào vấn đề. Nhưng giám sát của con người không thể mở rộng, và "tin nhưng phải xác minh" sẽ sụp đổ khi việc xác minh mất nhiều thời gian hơn khoảng thời gian quyết định.