@OpenGradient 我上週看了一段視頻，真的讓我不安。
那是一個政治候選人在說一些卑劣的話、一些根本不可能再收回的話。
但那不是真的……
一個深度僞造，做得無比逼真，以至於這家新聞機構花了六個小時才確認這是假的。
這六個小時足以衝擊市場、引發抗議、並摧毀名譽。
我當時意識到：人工智能最危險的地方並不是它能撒謊。
而是等到我們證明某件事是謊言的時候，傷害早就已經造成了。
我們需要的不是更快的闢謠。
而是“內置式的溯源”。
一種在內容出現之前就到達的來源證明。
也正是在那時，OpenGradient 對我產生了改變。
我之前只把它可驗證的推理當作用於 DeFi 和企業的工具……
給機器決策的公證員。
但它的核心能力——生成一種加密證明，證明某個特定模型確實在特定硬件上運行過，併產生了特定輸出——實際上也是一種僞裝起來的內容真實性引擎。
每一張由 AI 生成的圖片、視頻或音頻片段，都可以攜帶一枚可驗證的“印章”，寫着：“由模型 X 創建，於時間 Y，在硬件 Z 上生成。”
這不是可以被抹掉的水印。
是一種零知識證明，可以在不泄露創作者專有模型的情況下被檢查。
讓我興奮的不是那些技術管道。
而是這樣一個可能性：我們終於可以從一種“萬物皆可疑”的互聯網……
走向一種“合成媒體可以被選擇性地、可被證明地確認爲真實”的互聯網。
一家新聞機構可以證明它用 AI 編輯的影像沒有被篡改到超出字幕的程度。
一位電影製作人可以證明，她的 VFX 模型就是工作室批准的那一個。
並非所有 AI 內容都會帶上這種印章……
但缺少它，就會成爲它自身的一個警示信號。
OpenGradient 正在爲這種印章搭建基礎設施。
而我不確定世界是否已經意識到：它究竟有多麼迫切地需要。@OpenGradient #OPG $OPG $AGLD $PUNDIX
那是一個政治候選人在說一些卑劣的話、一些根本不可能再收回的話。
但那不是真的……
一個深度僞造，做得無比逼真，以至於這家新聞機構花了六個小時才確認這是假的。
這六個小時足以衝擊市場、引發抗議、並摧毀名譽。
我當時意識到：人工智能最危險的地方並不是它能撒謊。
而是等到我們證明某件事是謊言的時候，傷害早就已經造成了。
我們需要的不是更快的闢謠。
而是“內置式的溯源”。
一種在內容出現之前就到達的來源證明。
也正是在那時，OpenGradient 對我產生了改變。
我之前只把它可驗證的推理當作用於 DeFi 和企業的工具……
給機器決策的公證員。
但它的核心能力——生成一種加密證明，證明某個特定模型確實在特定硬件上運行過，併產生了特定輸出——實際上也是一種僞裝起來的內容真實性引擎。
每一張由 AI 生成的圖片、視頻或音頻片段，都可以攜帶一枚可驗證的“印章”，寫着：“由模型 X 創建，於時間 Y，在硬件 Z 上生成。”
這不是可以被抹掉的水印。
是一種零知識證明，可以在不泄露創作者專有模型的情況下被檢查。
讓我興奮的不是那些技術管道。
而是這樣一個可能性：我們終於可以從一種“萬物皆可疑”的互聯網……
走向一種“合成媒體可以被選擇性地、可被證明地確認爲真實”的互聯網。
一家新聞機構可以證明它用 AI 編輯的影像沒有被篡改到超出字幕的程度。
一位電影製作人可以證明，她的 VFX 模型就是工作室批准的那一個。
並非所有 AI 內容都會帶上這種印章……
但缺少它，就會成爲它自身的一個警示信號。
OpenGradient 正在爲這種印章搭建基礎設施。
而我不確定世界是否已經意識到：它究竟有多麼迫切地需要。@OpenGradient #OPG $OPG $AGLD $PUNDIX