#vllm
vllm
14 مشاهدات
1 يقومون بالنقاش
رائج
جديد
برايم إنتليكت تكشف عن معاينة لطبقة الاستدلال لتعزيز الذكاء الاصطناعي اللامركزي!
🧠⚙️🚀
برايم إنتليكت، بروتوكول الذكاء الاصطناعي اللامركزي، قد كشفت للتو عن معاينة لطبقة الاستدلال الخاصة بها — المصممة لمواجهة التحديات الكبرى في الذكاء الاصطناعي مثل:
⏱️ كفاءة فك التشفير التلقائي
🧠 اختناقات ذاكرة التخزين المؤقت KV
🌐 تأخيرات الشبكة العامة
تستخدم الطبقة تصميمًا متوازيًا في الخطوط لتحقيق كثافة حسابية عالية وتنفيذ غير متزامن، مما يجعل من السهل توسيع النماذج الكبيرة على وحدات معالجة الرسومات مثل RTX 3090 & 4090 🔥💻.
بجانب المعاينة، أطلقوا 3 أدوات مفتوحة المصدر:
PRIME-IROH: خلفية اتصال P2P
PRIME-VLLM: يربط vLLM مع التوازي في الخطوط عبر الشبكات العامة
PRIME-PIPELINE: صندوق أبحاث للمطورين & عشاق الذكاء الاصطناعي
هذه مكسب كبير لمجال Web3 + AI — مزيج من اللامركزية مع تعلم الآلة المتقدم!
#PrimeIntellect #AIprotocols #Web3AI #vLLM #DeAI #CryptoNews
🧠⚙️🚀
برايم إنتليكت، بروتوكول الذكاء الاصطناعي اللامركزي، قد كشفت للتو عن معاينة لطبقة الاستدلال الخاصة بها — المصممة لمواجهة التحديات الكبرى في الذكاء الاصطناعي مثل:
⏱️ كفاءة فك التشفير التلقائي
🧠 اختناقات ذاكرة التخزين المؤقت KV
🌐 تأخيرات الشبكة العامة
تستخدم الطبقة تصميمًا متوازيًا في الخطوط لتحقيق كثافة حسابية عالية وتنفيذ غير متزامن، مما يجعل من السهل توسيع النماذج الكبيرة على وحدات معالجة الرسومات مثل RTX 3090 & 4090 🔥💻.
بجانب المعاينة، أطلقوا 3 أدوات مفتوحة المصدر:
PRIME-IROH: خلفية اتصال P2P
PRIME-VLLM: يربط vLLM مع التوازي في الخطوط عبر الشبكات العامة
PRIME-PIPELINE: صندوق أبحاث للمطورين & عشاق الذكاء الاصطناعي
هذه مكسب كبير لمجال Web3 + AI — مزيج من اللامركزية مع تعلم الآلة المتقدم!
#PrimeIntellect #AIprotocols #Web3AI #vLLM #DeAI #CryptoNews
سجّل الدخول لاستكشاف المزيد من المُحتوى