開放LoRA改變了我對AI成本的看法

我不是技術人員。但有些數字是無法忽視的。
傳統的AI模型部署需要40到50 GB的內存。而開放LoRA在8到12 GB上運行相同的東西。
在模型之間切換通常需要5到10秒鐘。開放LoRA在100毫秒以內完成。
這不是優化。這完全是不同的類別。
不過最讓我興奮的是邊緣部署。AI在像樹莓派這樣的設備上運行。便宜。可接觸。無需雲訂閱。無需企業硬件。
這意味着任何地方的任何人都可以參與構建和部署真正的AI。
@OpenLedger 總是說他們希望AI公平且可接觸。開放LoRA不僅是對這一點的承諾。這是證明。

#OpenLedger $OPEN