#OPG 我昨天在比較同一個提示下，兩個不同 AI 模型的輸出時想到這件事 🤔。兩者給了我不同的答案。
但它們都沒有告訴我它們是怎麼推導出來的。
這就是「OpEngradient」正在打造的缺口——不是在比哪個模型最聰明，而是你能不能證明到底跑了什麼，以及如何跑的。
讓我特別注意的是：他們沒有只挑一種驗證方式就到此為止。
會依情況而有一條光譜。
在日常、重視速度的 LLM 推論中，AWS Nitro 隱私匣（enclaves）內部的硬體隔離執行就能完成工作。
隱私匣會產生一份證明（attestation），用來證明正確的程式碼在未被竄改的情況下執行。
額外成本幾乎可以忽略。
現在就能在規模化環境中運作。
但在更高風險的輸出、而數學上的確定性比吞吐量更重要的情況下，零知識證明（zero-knowledge proofs）就會介入。
用密碼學證明某個特定模型，從特定輸入產生了特定結果——不需要信任特定硬體，也不必相信第三方。
不過成本確實存在。
它大約比直接推論慢 1000 到 10000 倍，這也使得在目前階段很難用在大型模型上。
一直留在我心上的重點是：這兩種方法都能在同一次操作中混用。
對某一層使用硬體證明。
對另一層使用零知識證明。
根據當下這一步真正需要承擔的風險來匹配，而不是把同一套標準一致套用到所有地方。
我看過的大多數基礎建設專案，都會逼你去接受他們的信任前提。
OpenGradient 讓你能選擇究竟需要多少證明。
至於當網路規模變大時，這種彈性是否依然成立，對我來說仍然不確定。
@OpenGradient $OPG
但它們都沒有告訴我它們是怎麼推導出來的。
這就是「OpEngradient」正在打造的缺口——不是在比哪個模型最聰明，而是你能不能證明到底跑了什麼，以及如何跑的。
讓我特別注意的是：他們沒有只挑一種驗證方式就到此為止。
會依情況而有一條光譜。
在日常、重視速度的 LLM 推論中，AWS Nitro 隱私匣（enclaves）內部的硬體隔離執行就能完成工作。
隱私匣會產生一份證明（attestation），用來證明正確的程式碼在未被竄改的情況下執行。
額外成本幾乎可以忽略。
現在就能在規模化環境中運作。
但在更高風險的輸出、而數學上的確定性比吞吐量更重要的情況下，零知識證明（zero-knowledge proofs）就會介入。
用密碼學證明某個特定模型，從特定輸入產生了特定結果——不需要信任特定硬體，也不必相信第三方。
不過成本確實存在。
它大約比直接推論慢 1000 到 10000 倍，這也使得在目前階段很難用在大型模型上。
一直留在我心上的重點是：這兩種方法都能在同一次操作中混用。
對某一層使用硬體證明。
對另一層使用零知識證明。
根據當下這一步真正需要承擔的風險來匹配，而不是把同一套標準一致套用到所有地方。
我看過的大多數基礎建設專案，都會逼你去接受他們的信任前提。
OpenGradient 讓你能選擇究竟需要多少證明。
至於當網路規模變大時，這種彈性是否依然成立，對我來說仍然不確定。
@OpenGradient $OPG