#opg $OPG
Автономный автомобиль может идеально соблюдать все правила дорожного движения и при этом столкнуться с чем-то, чего никто не запрограммировал ожидать
Правила не были нарушены
Результат все равно был неправильным
Я думал об этом, читая, как OpenGradient управляет автономными агентами
Агенты в этой сети могут держать кошельки
Оплачивать свой собственный газ
Исполнять сделки без одобрения человека на каждом шаге
Слой верификации подтверждает, что агент запустил модель, которую он утверждал, что запустил
Я предполагал, что доказательство корректного выполнения означает доказательство корректного суждения
Оказалось, что это совершенно разные вещи
Агент может быть проверяемо работающим с правильной моделью, на правильных входных данных, с действительным криптографическим доказательством
И все равно принимать решение, которое приводит к убыткам, или, что еще хуже, которое никто не может полностью объяснить впоследствии
Доказательство подтверждает процесс
Оно ничего не говорит о том, был ли процесс правильным, чтобы доверять ему автономию
Так что, когда что-то идет не так, кто на самом деле отвечает за это
Разработчик, который развернул агента
Создатель модели, который построил то, что она исполняет
Протокол, который позволил ей хранить средства в первую очередь
Современные оракульные системы были построены с предположением, что за каждым утверждением в конечном итоге стоит человек
Системы агент-агент могут не иметь никого, кто стоит за утверждением вообще
Я не думаю, что доказательства OpenGradient были разработаны для решения этой проблемы
Я думаю, что они были разработаны для решения более узкой задачи
Заблуждение, что это более узкое решение можно перепутать с большим, — это то, о чем я продолжаю задумываться
#opg $OPG @OpenGradient
#BinanceToList4BStocksUSDTPairs $SPCXB
Автономный автомобиль может идеально соблюдать все правила дорожного движения и при этом столкнуться с чем-то, чего никто не запрограммировал ожидать
Правила не были нарушены
Результат все равно был неправильным
Я думал об этом, читая, как OpenGradient управляет автономными агентами
Агенты в этой сети могут держать кошельки
Оплачивать свой собственный газ
Исполнять сделки без одобрения человека на каждом шаге
Слой верификации подтверждает, что агент запустил модель, которую он утверждал, что запустил
Я предполагал, что доказательство корректного выполнения означает доказательство корректного суждения
Оказалось, что это совершенно разные вещи
Агент может быть проверяемо работающим с правильной моделью, на правильных входных данных, с действительным криптографическим доказательством
И все равно принимать решение, которое приводит к убыткам, или, что еще хуже, которое никто не может полностью объяснить впоследствии
Доказательство подтверждает процесс
Оно ничего не говорит о том, был ли процесс правильным, чтобы доверять ему автономию
Так что, когда что-то идет не так, кто на самом деле отвечает за это
Разработчик, который развернул агента
Создатель модели, который построил то, что она исполняет
Протокол, который позволил ей хранить средства в первую очередь
Современные оракульные системы были построены с предположением, что за каждым утверждением в конечном итоге стоит человек
Системы агент-агент могут не иметь никого, кто стоит за утверждением вообще
Я не думаю, что доказательства OpenGradient были разработаны для решения этой проблемы
Я думаю, что они были разработаны для решения более узкой задачи
Заблуждение, что это более узкое решение можно перепутать с большим, — это то, о чем я продолжаю задумываться
#opg $OPG @OpenGradient
#BinanceToList4BStocksUSDTPairs $SPCXB