Mình có một thứ mình nhận ra khi nhìn vào cách AI đang thay đổi information landscape.
Trước AI, fake news là vấn đề. Người tạo ra fake news biết mình đang tạo fake news.
Sau AI, vấn đề khác hơn và nguy hiểm hơn. AI không biết mình đang nói sai. Nó nói sai với full confidence.
Và đó là lý do truth layer problem mà @OpenLedger đang cố giải quan trọng hơn mình nghĩ ban đầu.
Fake news có tell. Nguồn không rõ ràng. Outlet không credible. Người đọc có thể skeptical nếu muốn. System có thể flag nếu được train để flag.
AI hallucination khác. Output trông exactly như reliable information. Same format. Same confidence. Same citation style — chỉ là citation không tồn tại. Không có visual tell. Không có source warning. User không có cue để skeptical.
Luật sư vụ 2024 đó không naïve. Ổng experienced professional. Vẫn bị deceive vì output trông perfectly credible.
Scale đó lên hàng triệu user mỗi ngày acting on AI output trong medical decision, legal decision, financial decision — rồi mình hiểu tại sao truth layer là infrastructure problem của thập kỷ này.
@OpenLedger với Proof of Attribution đang build một piece của solution đó — trackable, verifiable data source cho AI training. $OPEN là incentive để contributor participate honestly.
Tự phản biện: source attribution không eliminate hallucination. AI có thể hallucinate từ accurate source. Attribution là necessary condition — không phải sufficient condition cho trustworthy AI output.
@OpenLedger cần communicate rõ về điều đó — họ đang solve một important piece, không phải entire problem.