$MIRA

\u003cm-51/\u003e
1) Điểm duy nhất của sự cố hỏng trong AI “tự tin”
Tôi đã triển khai các hệ thống AI vào các quy trình làm việc thực tế, và phần không thoải mái không phải là các mô hình đôi khi sai. Mà là chúng có thể sai trong khi nghe có vẻ sạch sẽ, chắc chắn và thuyết phục. Trong các thiết lập có rủi ro thấp, điều đó thật phiền phức. Trong các quy trình làm việc có rủi ro cao—hỗ trợ khách hàng, tài chính, tuân thủ, phân loại y tế, xem xét an ninh—nó trở thành một rủi ro cấu trúc. Đầu ra không chỉ là văn bản; nó là một chỉ dẫn, một quyết định hoặc một tuyên bố mà các hệ thống khác có thể hành động dựa trên. Và một khi bạn để một quy trình tự động hoặc bán tự động coi “nó nghe có vẻ tự tin” là “nó đúng,” bạn đã xây dựng một điểm duy nhất của sự cố hỏng vào trung tâm của ngăn xếp của bạn.