سوف نذكر في حديثنا عن التشفير شخص قضى وقتًا مع كل من بناة التشفير وأنظمة الذكاء الاصطناعي ولديه الندوب التي تثبت ذلك.
ما تحاول @Mira - Trust Layer of AI القيام به منطقي في اللحظة التي تتوقف فيها عن التفكير في الذكاء الاصطناعي كنافذة دردشة ذكية وتبدأ في التفكير فيه كبرنامج قد يلمس الأشياء بالفعل. لمس المال. لمس الحوكمة. لمس العقود التي لا تهتم إذا كانت تفكيرك "صحيح بشكل أساسي".
الأشخاص الذين لم يعملوا مع نماذج اللغة عن قرب يميلون إلى تخيل أن الخطر الرئيسي هو أنهم سيكونون خاطئين بشكل واضح. مثل آلة حاسبة تعطيك 2+2=7. الخطر الحقيقي هو أكثر هدوءًا: النموذج خاطئ بطريقة لا تزال تبدو نظيفة وكفء وكاملة. تاريخ خاطئ في ملخص السوق. تفسير واثق لمتغير بروتوكول تغير الشهر الماضي. "مصدر" لم يكن موجودًا أبدًا. تفسير يبدو معقولًا حتى تدرك أنه مبني على فرضية خاطئة.
عندما يبقى هذا النوع من المخرجات في وثيقة مسودة، يكون مزعجًا. عندما يصبح التبرير لإجراء تلقائي، يكون حيوانًا مختلفًا.
لطالما كان لدى العملات المشفرة هذه العادة الفخورة بالقول: "لا تثق - تحقق". إنه أمر محرج تقريبًا كم مرة نكرر ذلك، ولكن الغريزة الأساسية قوية. البلوكتشينات، في أفضل حالاتها، هي آلات لاستبدال السلطة بالتحقق. لا تحتاج إلى بنك ليعدك بأنهم تعاملوا مع معاملتك بشكل صحيح؛ يمكنك التحقق من قواعد السجل والتاريخ بنفسك.
الآن انظر إلى ما يحدث عندما يدخل الذكاء الاصطناعي الصورة. فجأة نحن مغرون بالعودة إلى الثقة. ليست الثقة في بنك، ولكن الثقة في نبرة النموذج. الثقة في تفسير لامع. الثقة في مخرج يبدو وكأنه قام بالعمل.
إن الموقف الكامل لشبكة ميرا هو أساسًا: هذا لن يستمر. إذا أردنا من الوكلاء التصرف دون وجود إنسان يراقبهم، نحتاج إلى وسيلة لجعل مخرجاتهم تتصرف أكثر مثل شيء يتعرف عليه الناس في عالم العملات المشفرة - شيء يمكن التحقق منه، وقابل للتدقيق، وصعب التزييف بتكلفة منخفضة.
عبارة "الاستقلالية الموثوقة" قد تبدو كعلامة تجارية حتى تجلس معها. الاستقلالية هي الحلم: وكلاء يديرون استراتيجيات، ينسقون المهام، يديرون العمليات، وينفذون القرارات. التحقق هو فحص الواقع: إذا لم تتمكن من إثبات أن ادعاءات الوكيل قائمة، تصبح الاستقلالية طريقة أنيقة للقول "نحن نسمح لنظام مقنع بالارتجال مع عواقب حقيقية".
تبدأ مقاربة ميرا بخطوة تبدو شبه مملة، وهو عادة علامة جيدة. بدلاً من معالجة إجابة النموذج ككتلة كبيرة واحدة، تقوم بتقسيمها إلى ادعاءات أصغر. ليس "هل هذه الفقرة جيدة؟" ولكن "هل هذه العبارة المحددة صحيحة؟" "هل يحتوي هذا العقد حقًا على ذلك الإذن؟" "هل حدث هذا الحدث في ذلك التاريخ؟" "هل تم تعيين هذه المعلمة فعلاً إلى هذه القيمة الآن؟" السبب في أهمية ذلك نفسي بقدر ما هو تقني: تتوقف عن السماح للنموذج بالاختباء خلف النثر الطليق. تجبره على الخروج حيث يمكن التحقق منه.
ثم تقوم الشبكة بتوجيه تلك الادعاءات إلى نماذج مصدقة متعددة. تقوم العقد المختلفة بتشغيل مهام التحقق، وتجمع النتائج، وتنتج ميرا شهادة: قطعة أثرية تقول، بفاعلية، "تم التحقق من هذه الادعاءات، إليك نتيجة الإجماع، إليك كيف وصلنا إلى ذلك."
تلك الشهادة هي الجزء الذي من السهل التقليل من قيمته. العالم لا يعمل حقًا على الإجابات؛ إنه يعمل على المساءلة. إذا كان بإمكان نظام ما إرفاق دليل على أن شيئًا ما تم التحقق منه - والحفاظ على هذا الدليل مع الإجراء - فحينها تبني مسارًا يمكن لفرق المخاطر، والمدققين، وبروتوكولات أخرى استخدامه فعليًا. إنها تحول من "ثق في مخرجات هذا الوكيل" إلى "اقبل هذا الإجراء فقط إذا تم التحقق من الأساس".
إذا كنت قد كنت في غرفة حيث سأل شخص ما، "حسنًا، لكن كيف نعرف أنه صحيح؟" يمكنك أن تشعر لماذا يهم ذلك. الناس لا يحتاجون إلى الكمال. إنهم بحاجة إلى الدفاع. إنهم بحاجة إلى آلية تجعل الأخطاء قابلة للاكتشاف وتجعل السلوك المتهور مكلفًا.
هنا تدخل الحوافز، لأنها دائمًا ما تدخل. إذا أصبح التحقق مهمة يمكن للناس الحصول على أجر مقابلها، فإن بعضهم سيحاول الحصول على أجر دون القيام بالعمل. لا توجد طريقة مهذبة حول ذلك. إذا كانت مساحة الإجابات صغيرة - صحيحة/خطأ، اختيار من متعدد - يصبح التخمين مغريًا. لذا تعتمد ميرا على المراهنة والعقوبات: يضع المصدقون قيمة على المحك، وإذا تصرفوا وكأنهم يتخمنون أو يلعبون، يمكن معاقبتهم. الهدف هو جعل "المشاركة الكسولة" نموذج عمل سيء.
المشكلة هي أن الحوافز في عالم العملات المشفرة ليست أبدًا "مضبوطة وتنسى". إنها نظم بيئية. إنها تتطور، يتم استغلالها، وتنحرف نحو ما يحقق أفضل عائد. التصميم الذي يبدو مستقرًا في مخطط يمكن أن يصبح غريبًا تحت ظروف حقيقية. لذلك السؤال طويل الأمد بالنسبة لميرا ليس "هل يوجد تخزين؟" بل ما إذا كانت الشبكة يمكن أن تحافظ على نزاهة التحقق عندما يكون لدى المشاركين كل سبب مالي لتجاوز القواعد.
هناك مشكلة أخرى تكون أكثر أهمية: التوافق يساعد فقط إذا كان المصدقون مستقلين بشكل معنوي. إذا كان الجميع يشغل نفس عائلة النماذج مع نفس النقاط العمياء، يمكنك أن تنتهي بشيء يبدو كتحقق قوي ولكنه في الحقيقة مجرد خطأ متزامن. ثلاث نماذج تتفق لا تساعد إذا كانت في الأساس نسخًا متطابقة. التنوع ليس شيئًا يمكن الاستغناء عنه في شبكة التحقق؛ إنه الفرق بين الازدواجية والتعزيز.
ثم هناك الخصوصية. العديد من حالات الاستخدام الأكثر قيمة للوكيل تتضمن معلومات حساسة. منطق التداول. الوثائق الداخلية. بيانات المستخدم الخاصة. إذا كانت شبكة التحقق تتطلب منك تسليم مطالباتك الخام إلى مجموعة واسعة من المشغلين، فإن معظم الفرق الجادة ستبتعد. تشير ميرا إلى تقسيم عمل التحقق عبر الشظايا حتى لا ترى عقدة واحدة الصورة الكاملة. هذه اتجاه معقول، لكنه يأتي مع توتره الخاص: أحيانًا لا يمكن التحقق من ادعاء بشكل صحيح دون سياق. إذا قمت بإزالة الكثير من السياق، ستحصل على خلاف ليس خبيثًا - إنه مجرد ارتباك. لذلك يجب على النظام تحقيق التوازن بين السرية مع ما يكفي من المعلومات لجعل التحقق ذا معنى.
الكمون هو القيد العملي الآخر الذي لا يهتم بمدى أناقة الفكرة. يستغرق التحقق وقتًا لأنه يتطلب المزيد من الحوسبة. في بعض السيناريوهات - الأسواق ذات التردد العالي، وسلاسل التصفية - الوقت هو اللعبة بأكملها. إذا أضاف التحقق تأخيرًا كبيرًا، سيتجاوز المطورون ذلك. لذلك الشكل الواقعي لهذا ليس "تحقق من كل شيء بالتساوي". إنه "تحقق على تدرج". تحقق سريع للخطوات ذات المخاطر المنخفضة، والتحقق الأثقل للإجراءات غير القابلة للعكس. إذا كانت ميرا تستطيع جعل ذلك سهلاً وقابلاً للبرمجة، فإنه يصبح قابلاً للاستخدام. إذا شعرت وكأنها بيروقراطية، فإنها تصبح ميزة يعجب بها الناس ويتجاهلونها.
ما أجده مثيرًا للاهتمام في إطار عمل ميرا هو أنه يرفض التظاهر بأن العقبة الرئيسية هي "النماذج ليست ذكية بما يكفي بعد." الذكاء ليس هو العائق. العائق هو الموثوقية في ظروف حقيقية - ظروف عدائية، وظروف اقتصادية، وظروف سياقية فوضوية. الاستقلالية الموثوقة هي حقًا طريقة للقول: نحتاج إلى وكلاء يمكنهم إنتاج مخرجات يمكن للنظام بأكمله الاعتماد عليها، و"الاعتماد عليها" تعني شيئًا أكثر صرامة من "يبدو صحيحًا."
هناك أيضًا شيء صادق عاطفياً حول ذلك. أي شخص حاول شحن ميزات الذكاء الاصطناعي إلى منتج حقيقي يتعلم نفس الدرس: ينتهي بك الأمر كالمربية. تضيف مراجعة يدوية. تضيف منطق احتياطي. تخلق سير عمل ظل حيث يقوم البشر بهدوء بتصحيح أخطاء النموذج حتى لا يلاحظ المستخدمون. ذلك يحافظ على المنتج على قيد الحياة، لكنه ليس استقلالية. إنه حل وسط هش.
ميرا تحاول نقل ذلك الحل الوسط إلى البنية التحتية. ليس من خلال الادعاء بإزالة الخطأ، ولكن من خلال تحويل الخطأ إلى شيء يمكنك قياسه وتقييده. إذا لم يكن بالإمكان التحقق من مخرجات الوكيل إلى حد معين، يمكن للنظام رفض العمل. إذا عاد التحقق غير مؤكد، يمكن للنظام تصعيد الأمر. إذا نجح، يمكنه المضي قدمًا مع مسار تدقيق مرفق.
إذا نجح الأمر، حينها تصبح الأمور مثيرة للاهتمام. لأنه بعد ذلك تتوقف الاستقلالية عن كونها كلمة تسويقية وتصبح قدرة تشغيلية. يمكن للوكلاء القيام بعمل جاد دون الحاجة إلى وجود "بالغ" بشري دائمًا، ليس لأنهم معصومون، ولكن لأن النظام لديه وسيلة للمطالبة بالأدلة قبل حدوث الإجراءات غير القابلة للعكس.
إذا لم ينجح الأمر، فمن المحتمل أن يفشل بأكثر الطرق توقعًا: يصبح التحقق مكلفًا للغاية، بطيئًا، مركزيًا للغاية، سهل اللعب به، أو سطحيًا للغاية ليكون له معنى. تصبح الشهادات زخرفية - شيء تعرضه الفرق في عرض توضيحي، وليس شيئًا تتطلبه البروتوكولات فعليًا. ومتى ما شعرت السوق بذلك، تنهار القصة "الموثوقة" بأكملها إلى نفس مسرح الثقة الذي نحاول الهروب منه.
لكن المشكلة التي تتناولها ميرا ليست ذاهبة إلى أي مكان. الوكلاء قادمون. الحوافز واضحة: السرعة، الأتمتة، النطاق، التشغيل على مدار الساعة طوال أيام الأسبوع. السؤال هو ما إذا كنا سنبني الهيكل الذي يسمح للوكلاء بالتصرف بشكل مسؤول، أو ما إذا كنا سنواصل التظاهر بأن فقرة واثقة هي نفس الشيء كحقيقة موثوقة.
رهان ميرا هو أن الانضباط القديم للعملات المشفرة - التحقق، الحوافز، القابلية للتدقيق - يمكن أن يُطبق على مخرجات الذكاء الاصطناعي بطريقة تغير ما تعنيه الاستقلالية. ليس الاستقلالية كحرية من البشر، ولكن الاستقلالية كحرية من الثقة العمياء التي تؤدي في النهاية إلى الفشل.💜🚀
