Я в последнее время наблюдаю, как люди используют ИИ, и что-то меня смущает...
правда в том, что мы задаем ему вопросы...
затем принимаем решения на основе его ответов
и строим системы вокруг его выводов...
всё это, не зная, как он к этому пришел
или стоит ли верить ему...
мне кажется, это похоже на крипту до того, как "не доверяй, проверяй" стало актуально...
тогда люди отправляли деньги анонимным #кошелькам... и надеялись на лучшее ☺️..
сегодня мы подаем чувствительные данные в *черные ящики*
и делаем точно так же..
вопрос не в том, работает ли ИИ??
а в том, может ли кто-то проверить его работу нормально??
поскольку ИИ начинает обрабатывать смарт-контракты...
медицинские диагнозы и финансовые советы..
Слепое доверие может вызвать проблемы и неудобства и начать быть опасным..
модель, которая не может объяснить себя, просто очень уверенный угадыватель...
буквально не более того..
и в условиях высоких ставок, догадки могут стоить дорогих жизней и денег...
вот почему переход к проверяемому ИИ важен больше, чем многие люди понимают!
дело не в том, чтобы сделать ИИ умнее..
дело в том, чтобы сделать ИИ ответственным..
будущее может не принадлежать самым интеллектуальным системам.
Но тем, которые могут доказать, что они знают и как они это знают тоже..
В эту новую эпоху, доказательство выполнения будет бесконечно более
ценным, чем сырая интеллекция.
Вот почему работа, которую выполняет
@OpenGradient , привлекла мое внимание.
И это поднимает серьезные вопросы для меня и сообщества.
Так... готовы ли мы начать требовать доказательства?
Или мы все еще слишком уверены в слепой вере в угадывателя?
@OpenGradient $OPG #OPG #OpenGradient