#opg $OPG Может ли децентрализованный ИИ решить проблему черного ящика?

Раньше я думал, что ответ должен заключаться в объяснимости.

Покажите веса. Откройте модель. Раскройте, что происходит внутри.

Но после того как я увидел, как развивается децентрализованный ИИ, я не уверен, что это настоящая проблема.

Большинство людей думают, что черный ящик начинается с модели.

На самом деле, иногда он начинается еще до этого.

Вы отправляете запрос. Что-то происходит где-то. Результат возвращается.

Вы не знаете, что именно запустилось.
Вы не знаете, изменилось ли это.
Вы не знаете, был ли вывод воспроизведен или просто принят.

Эта часть игнорируется.

Что привлекло мое внимание в OpenGradient, так это некое обещание волшебным образом объяснить ИИ.

Это была более тихая идея:

Может быть, доверие не исходит из понимания каждого решения.

Может быть, доверие приходит из возможности проверить путь.

Кто это выполнил.
Была ли это модель, которую вы ожидали.
Может ли результат стоять сам по себе, не заставляя людей верить.

Это кажется странно знакомым, если вы достаточно долго находитесь в крипте.

Не прозрачность как производительность.

Просто меньше мест для укрытия.

Черный ящик все еще существует.

Он просто начинает ощущаться меньше как запечатанная комната и больше как комната с включенным светом вокруг нее.

@OpenGradient #OPG $OPG