أكبر مشكلة في الذكاء الاصطناعي ليست الذكاء — بل الثقة
على مدار السنوات القليلة الماضية، كانت صناعة الذكاء الاصطناعي مهووسة بسؤال واحد:
إلى أي درجة يمكن أن تصبح الآلات ذكية؟
من نماذج اللغة الكبيرة إلى الأنظمة المستقلة، كانت المنافسة تدور حول النطاق، وبيانات التدريب، وقوة الحوسبة. ولكن مع بدء أنظمة الذكاء الاصطناعي في التأثير على الأسواق المالية، والبحث، واتخاذ القرارات التلقائية، أصبح من المستحيل تجاهل مشكلة أعمق.
التحدي الحقيقي للذكاء الاصطناعي قد لا يكون الذكاء.
قد يكون الثقة.
يمكن لنماذج الذكاء الاصطناعي اليوم أن تولد إجابات مقنعة، وتكتب الشيفرات، وتحلل البيانات، وحتى تحاكي التفكير. ومع ذلك، لا تزال هذه الأنظمة تنتج هلوسات، ومخرجات متحيزة، واستنتاجات لا يمكن التحقق منها. عندما يولد الذكاء الاصطناعي قطعة من المعلومات، غالبًا ما لا توجد طريقة موثوقة للتحقق مما إذا كانت تلك المعلومات صحيحة بالفعل.
تزداد خطورة هذه المشكلة بشكل كبير مع بدء الذكاء الاصطناعي في التفاعل مع الأنظمة الحرجة.
تخيل وكلاء تداول مستقلين، وسلاسل إمداد روبوتية، وأبحاث مدفوعة بالذكاء الاصطناعي، أو حكومات آلية. إذا كانت هذه الأنظمة تعتمد على مخرجات غير موثوق بها، فقد ينتشر استنتاج خاطئ واحد عبر اقتصاد رقمي بأكمله.
هنا حيث تقدم مشاريع مثل شبكة ميرا نهجًا مختلفًا جذريًا.
بدلاً من التعامل مع مخرجات الذكاء الاصطناعي كإجابات نهائية، تعالج ميرا تلك المخرجات كادعاءات يجب التحقق منها.
عندما تنتج آلة نتائج، تقوم الشبكة بتقسيم تلك النتائج إلى مكونات أصغر قابلة للتحقق. ثم يقوم المدققون المستقلون بتقييم تلك الادعاءات والوصول إلى توافق حول ما إذا كان ينبغي الوثوق بالمخرجات. يتم تسجيل عملية التحقق على سلسلة الكتل، مما يخلق مسارًا يمكن تدقيقه من التفكير الذي تولده الآلات.
بشكل أساسي، تحاول ميرا أن تفعل للحقائق المتعلقة بالذكاء الاصطناعي ما فعلته سلسلة الكتل للثقة المالية.
لكن الهندسة المعمارية وحدها ليست كافية.
لكي تعمل شبكة التحقق على نطاق واسع، يجب أن يكون نظام الحوافز وراءها مصممًا بشكل جيد للغاية.
يجب مكافأة المدققين على التحقق بدقة من الادعاءات مع فرض عقوبات اقتصادية على التحقق غير الأمين أو الكسول. إذا تم ضبط الحوافز بشكل صحيح، فإن الشبكة تخلق سوقًا للتحقق من الحقائق حيث يتم تحفيز المشاركين ماليًا للحفاظ على نزاهة النظام.
يقدم هذا النموذج مفهوم اقتصاد التحقق.
بدلاً من الدفع مباشرة مقابل مخرجات الذكاء الاصطناعي، قد تدفع أنظمة الذكاء الاصطناعي المستقبلية للشبكات للتحقق من مخرجاتها. في مثل هذا النظام البيئي، يصبح الذكاء مجرد طبقة واحدة من المكدس، بينما يصبح التحقق هو البنية التحتية الحرجة التي تضمن الاعتمادية.
من منظور طويل الأجل، تصبح هذه الهندسة المعمارية أكثر إثارة للاهتمام عندما نفكر في التطور المستقبلي للذكاء الاصطناعي العام.
مع تسارع المناقشات حول الذكاء الاصطناعي العام، قد تنمو كمية المعرفة التي تولدها الآلات بما يتجاوز ما يمكن للبشر تدقيقه بشكل واقعي. إذا كانت هناك ملايين من الوكلاء المستقلين ينتجون أبحاثًا أو تحليلات مالية أو قرارات تشغيلية، فستحتاج المجتمع إلى أنظمة قابلة للتوسع قادرة على التحقق من المعلومات التي تنتجها الآلات.
قد تصبح شبكات التحقق هي طبقة الثقة للاقتصاد القائم على الذكاء الاصطناعي.
لهذا السبب قد يصبح السرد حول تحقق الذكاء الاصطناعي أحد أهم موضوعات البنية التحتية في السنوات القادمة. الذكاء بدون تحقق يخلق عدم اليقين. الذكاء مع التحقق يخلق معرفة قابلة للاستخدام.
بعد دراسة الهندسة المعمارية ونموذج الحوافز وراء $MIRA ، رأيي الشخصي هو أن المشاريع التي تبني بنى تحتية للثقة للذكاء الاصطناعي قد تصبح أكثر أهمية في النهاية من المشاريع التي تبني الذكاء نفسه.
السباق نحو ذكاء اصطناعي أكثر ذكاءً قد بدأ بالفعل.
لكن السباق للتحقق من الذكاء الاصطناعي قد بدأ للتو.
وإذا كانت العقدة القادمة تعود إلى الأنظمة المدفوعة بالذكاء الاصطناعي، فقد تصبح الشبكات القادرة على التحقق من الذكاء الآلي بعضًا من أكثر البنى التحتية قيمة في الاقتصاد الرقمي.