Я все время предполагаю, что верификация нужна для подтверждения того, что все прошло хорошо.
Доказательство генерируется, оно совпадает, все идут дальше. Вот такая история была у меня в голове.
Но это не интересный случай.
Интересный случай — это другой. Доказательство возвращается и не совпадает. Вывод уже использовался — уже на него действовали — и оказывается, это не то, чем оно претендовало быть.
Что тогда происходит?
С $OPG выводы обрабатываются быстро и используются немедленно, в то время как верификация — TEE или zkML — проверяет это вскоре после. Большую часть времени эта проверка является формальностью. Система уже доверяет, что ответ был верным, и она права.
Но "большую часть времени" не равно "всегда", и я не видел, чтобы эта сторона обсуждалась много.
Если агент уже действовал на основании результата, а доказательство позже говорит, что ему не следует доверять — происходит ли обратное действие? Наказание получает оператор модели? Кто-то вообще замечает это, или оно просто сидит на панели управления, которую никто не проверяет?
Я не думаю, что такое случается часто. Возможно, почти никогда.
Но инфраструктура не оценивается по тому, что она делает, когда ничего не идет не так. Ее оценивают по редкому случаю, потому что именно тогда кто-то чаще всего на нее полагается.
Система верификации, которая только подтверждает, это просто задержка с лишними шагами.
Та, которая иногда ловит что-то — с реальным ответом на то, что будет дальше — это та, которая действительно выполняет свою работу.
Я пока не знаю, какая из них это. Я просто заметил, что никогда не видел, чтобы случай несогласия обсуждался.
@OpenGradient $OPG #OPG
Доказательство генерируется, оно совпадает, все идут дальше. Вот такая история была у меня в голове.
Но это не интересный случай.
Интересный случай — это другой. Доказательство возвращается и не совпадает. Вывод уже использовался — уже на него действовали — и оказывается, это не то, чем оно претендовало быть.
Что тогда происходит?
С $OPG выводы обрабатываются быстро и используются немедленно, в то время как верификация — TEE или zkML — проверяет это вскоре после. Большую часть времени эта проверка является формальностью. Система уже доверяет, что ответ был верным, и она права.
Но "большую часть времени" не равно "всегда", и я не видел, чтобы эта сторона обсуждалась много.
Если агент уже действовал на основании результата, а доказательство позже говорит, что ему не следует доверять — происходит ли обратное действие? Наказание получает оператор модели? Кто-то вообще замечает это, или оно просто сидит на панели управления, которую никто не проверяет?
Я не думаю, что такое случается часто. Возможно, почти никогда.
Но инфраструктура не оценивается по тому, что она делает, когда ничего не идет не так. Ее оценивают по редкому случаю, потому что именно тогда кто-то чаще всего на нее полагается.
Система верификации, которая только подтверждает, это просто задержка с лишними шагами.
Та, которая иногда ловит что-то — с реальным ответом на то, что будет дальше — это та, которая действительно выполняет свою работу.
Я пока не знаю, какая из них это. Я просто заметил, что никогда не видел, чтобы случай несогласия обсуждался.
@OpenGradient $OPG #OPG