aiconsensus

ميرا:
نظام قائم على الإجماع للتحقق من مخرجات الذكاء الاصطناعي. يبدو الذكاء الاصطناعي الحديث كالسحر. نحن نقدم استفسارًا ونتلقى ردًا في غضون ثوانٍ قليلة. نكلف وظيفة ويتم إنجازها على الفور. لكن هناك شيء خطير في هذا السحر. يمكن لأفضل الذكاء الاصطناعي أن يقدم ردودًا غير صحيحة أو متحيزة بشكل مؤكد. كان مثالًا على ذلك هو الحالة التي أنشأ فيها روبوت محادثة تابع لشركة طيران سياسة مزيفة لاسترداد الأموال، وقد فقد العميل المال بالفعل، وكان على شركة الطيران دفع الفاتورة. تُعرف هذه الادعاءات المصنوعة بأنها هلوسات، وهي شائعة جدًا. في إحدى دراسات روبوتات المحادثة الطبية، أظهر الباحثون أن الذكاء الاصطناعي كذب 50-80 في المائة من الوقت بدلاً من قول الحقيقة. باختصار، الذكاء الاصطناعي الحالي ذكي وضعيف.

ميرا:
نظام قائم على الإجماع للتحقق من نتائج الذكاء الاصطناعي. يبدو الذكاء الاصطناعي الحديث كالسحر. نقوم بطرح استفسار ونستقبل ردًا خلال ثوانٍ قليلة. نُعيّن مهمة ويتم إنجازها على الفور. لكن هناك شيء خطر في هذا السحر. يمكن لأفضل أنظمة الذكاء الاصطناعي أن تقدم ردودًا غير صحيحة أو متحيزة بثقة. كان أحد الأمثلة هو الحالة التي أنشأ فيها روبوت محادثة تابع لشركة طيران سياسة مزيفة لاسترداد الأموال، وكان العميل قد خسر بالفعل أمواله، وكان على شركة الطيران دفع الفاتورة. تُعرف مثل هذه المطالبات المصنوعة بأنها هلوسات، وهي شائعة جدًا. في دراسة واحدة لروبوت محادثة طبي، ثبت أن الباحثين أن الذكاء الاصطناعي كذب 50-80 بالمائة من الوقت بدلاً من ذكر الحقيقة. بإيجاز، الذكاء الاصطناعي الحالي ذكي وضعيف. يبدو الذكاء الاصطناعي اليوم وكأنه سحري تقريبًا. تكتب سؤالًا وفي غضون ثوانٍ يظهر جواب مفصل. تُعيّن مهمة ويتم إنجازها على الفور. السرعة مثيرة للإعجاب، اللغة واثقة، والنتائج غالبًا ما تبدو ذكية. لكن خلف هذه التجربة السلسة يكمن خطر هادئ. لا تفهم أنظمة الذكاء الاصطناعي الحقيقة بالطريقة التي يفهمها البشر. تتنبأ بأنماط استنادًا إلى الاحتمالات. عندما تسوء تلك التنبؤات، يمكن للنظام إنتاج معلومات تبدو دقيقة تمامًا ولكنها خاطئة تمامًا. تُعرف هذه الأخطاء الواثقة، التي تُسمى غالبًا هلوسات، بأنها واحدة من أسوأ نقاط الضعف في الذكاء الاصطناعي الحديث. تصبح القضية أكثر إثارة للقلق في مجالات مثل الطب والقانون والمالية أو المعلومات العامة، حيث يمكن أن يكون لبيان غير دقيق عواقب حقيقية. يتم تدريب نماذج الذكاء الاصطناعي على مجموعات بيانات ضخمة تعكس كل من المعرفة والتحيز البشري. نتيجة لذلك، قد تكرر بشكل غير متعمد التحيزات الخفية أو تقدم وجهات نظر غير مكتملة. إن جعل النماذج أكبر وأكثر تقدمًا لا يلغي هذه المشكلات تلقائيًا. في الواقع، غالبًا ما يوجد تبادل بين الإبداع والدقة والعدالة. لا يمكن لنموذج واحد أن يضمن موثوقية خالية من العيوب. هذه هي الفجوة التي تم تصميم شبكة ميرا لمعالجتها. بدلاً من مطالبة المستخدمين بالثقة في نظام ذكاء اصطناعي قوي واحد، تقدم ميرا طبقة إضافية من التحقق مبنية على الإجماع. الفكرة بسيطة ولكن قوية: لا تعتمد على صوت واحد عندما يمكن أن تقيم أصوات مستقلة متعددة نفس الادعاء. مستوحاة من منطق أنظمة blockchain، حيث تتفق العقد الموزعة على المعاملات بدلاً من الثقة بسلطة واحدة، تطبق ميرا مبدأ مشابهًا على مخرجات الذكاء الاصطناعي. عندما يولد الذكاء الاصطناعي ردًا، لا تقبله ميرا ككتلة واحدة من المعلومات. تقوم بتقسيم المحتوى إلى ادعاءات أصغر يمكن اختبارها. ثم يتم إرسال كل ادعاء عبر شبكة من نماذج التحقق المستقلة. تقوم هذه النماذج بتقييم البيان والتصويت على دقته. إذا اتفقت أغلبية قوية، يتم التحقق من الادعاء. إذا كان هناك ضعف في الإجماع، يعلّم النظام ذلك على أنه غير مؤكد. يتم تسجيل النتيجة النهائية بطريقة شفافة ومقاومة للتلاعب، مما يخلق سجلًا قابلاً للتدقيق للتحقق بدلاً من القبول الأعمى. تلعب اللامركزية دورًا مركزيًا في هذا التصميم. يتم تطوير معظم أنظمة الذكاء الاصطناعي المتقدمة اليوم والتحكم فيها من قبل عدد قليل من المنظمات الكبيرة. تخلق هذه التركيزات نقاط ضعف محتملة ونقاط فشل واحدة. توزع ميرا عملية التحقق عبر نماذج ومشاركين متنوعين. تجلب أنظمة مختلفة تم تدريبها على بيانات مختلفة وجهات نظر متنوعة، مما يزيد من احتمال اكتشاف الأخطاء أو التحيزات. يتم تصفية الآراء الشاذة بشكل طبيعي من خلال اتفاق الأغلبية. لتشجيع المشاركة الصادقة، تستخدم الشبكة آلية رهن مرتبطة برمزها الأصلي، $MIRA . يجب على المشاركين الذين يتحققون من الادعاءات قفل الرموز كضمان. عندما تتماشى أصواتهم مع الإجماع، يحصلون على مكافآت. يمكن أن تؤدي السلوكيات غير الصادقة أو المهملة المتكررة إلى عقوبات. تم تصميم هذه البنية الاقتصادية لجعل التحقق الصادق أكثر ربحية من التلاعب. مع انضمام المزيد من المشاركين ورهن الرموز، تصبح الشبكة أقوى وأكثر مقاومة للهجوم. كما تم أخذ الخصوصية بعناية في الاعتبار. نظرًا لأن مخرجات الذكاء الاصطناعي يمكن أن تتضمن معلومات حساسة، فإن النظام يوزع الادعاءات المجزأة عبر العقد بحيث لا يرى أي مشارك واحد السياق الكامل. تؤكد شهادات التحقق ما إذا كانت الادعاءات قد اجتازت الإجماع دون كشف البيانات الأصلية. بمرور الوقت، من المتوقع أن تعزز طرق التشفير الإضافية هذه الطبقة الخصوصية بشكل أكبر. تمتد الرؤية الأوسع إلى ما هو أبعد من التحقق من الحقائق البسيطة. تهدف ميرا إلى دعم الصناعات الحيوية حيث يكون الاعتماد ضروريًا، من تشخيصات الرعاية الصحية إلى التحليل القانوني وتقييم المخاطر المالية. من خلال دمج نماذج متعددة في عملية إجماع منظمة، أفادت بعض التطبيقات بأنها حققت مستويات دقة أعلى بكثير من أنظمة النموذج الواحد فقط. الطموح على المدى الطويل هو أكثر طموحًا: نظام بيئي حيث تولد أنظمة الذكاء الاصطناعي وتتحقق من المعلومات في آن واحد، مما يقلل من الاعتماد على إشراف البشر المكلف مع الحفاظ على الأمان. بالطبع، هناك تحديات. يتطلب التحقق عملًا حسابيًا إضافيًا وقد يقدم تأخيرات مقارنة بردود النموذج الواحد. المحتوى الإبداعي أو القائم على وجهات النظر شديدة الذاتية أصعب في اختزاله إلى ادعاءات بسيطة صحيحة أو خاطئة. كما أن بناء شبكة لامركزية حقًا يستغرق أيضًا وقتًا وحوكمة قوية في المراحل المبكرة. ومع ذلك، على الرغم من هذه العقبات، تتناول الفكرة الأساسية قضية هيكلية عميقة في الذكاء الاصطناعي. مع تزايد دمج الذكاء الاصطناعي في الحياة اليومية واتخاذ القرارات عالية المخاطر، لا يمكن أن يعتمد الثقة فقط على السرعة أو الثقة. يجب أن يُبنى على التحقق. تمثل شبكة ميرا محاولة للانتقال من السلطة المركزية نحو الاتفاق الموزع، من الثقة في نظام قوي واحد إلى التحقق من المعلومات من خلال الذكاء الجماعي. إذا أثبت هذا النموذج فعاليته، فقد لا يتم تعريف مستقبل الذكاء الاصطناعي فقط بمدى ذكائه، ولكن بمدى موثوقيته في إثبات حقيقته الخاصة. الذكاء الاصطناعي لن يختفي. إنه يصبح أكثر قوة كل عام. السؤال ليس ما إذا كان الذكاء الاصطناعي سيشكل المستقبل. السؤال هو ما إذا كنا سنبني حواجز قوية بما يكفي لنثق به. تمثل شبكة ميرا واحدة من أكثر المحاولات جرأة لحل ضعف الذكاء الاصطناعي الخفي، الهلوسة والتحيز، ليس من خلال جعل نموذج واحد مثاليًا، ولكن من خلال جعل العديد من النماذج مسؤولة تجاه بعضها البعض. إذا نجحت، فإن مستقبل الذكاء الاصطناعي لن يكون سريعًا وذكيًا فحسب، بل سيكون موثوقًا.

تقديم ميرا: نظام قائم على الإجماع للتحقق من مخرجات الذكاء الاصطناعي
تشعر الذكاء الاصطناعي الحديث وكأنه سحر. نقوم بطرح استعلام ونتلقى استجابة في غضون ثوانٍ قليلة. نحدد وظيفة ويتم إنجازها على الفور. لكن هناك شيء خطير في هذا السحر. يمكن لأفضل الذكاء الاصطناعي أن يقدم استجابات غير صحيحة أو متحيزة بثقة. كان مثالاً على ذلك الحالة التي أنشأ فيها روبوت محادثة لشركة طيران سياسة مزيفة لاسترداد الأموال، وقد فقد العميل بالفعل المال، وكانت شركة الطيران ملزمة بدفع الفاتورة. تُعرف مثل هذه الادعاءات المزيفة بالهلوسات وهي شائعة جدًا. في إحدى الدراسات حول روبوتات المحادثة الطبية، أظهر الباحثون أن الذكاء الاصطناعي كذب 50-80 بالمائة من الوقت بدلاً من ذكر الحقيقة. باختصار، الذكاء الاصطناعي الحالي ذكي وضعيف.