#opg $OPG
На прошлой неделе я заметил что-то странное.
Инструмент ИИ дал мне рекомендацию, и когда я спросил, как он пришел к такому выводу, не оказалось четкой цепочки.
Результат звучал уверенно, но уверенность не равна достоверности.
Это подчеркивает проблему, скрывающуюся за бумом ИИ:
Мы создаем системы, которые могут запоминать, принимать решения и действовать, но мы редко задаем вопрос, кто контролирует информацию, формирующую эти действия.
По мере того как автономные агенты становятся все более распространенными, ценность ИИ не будет заключаться только в генерации ответов.
Она будет заключаться в том, чтобы знать, откуда эти ответы взялись.
Способность отслеживать решения, проверять информацию и устанавливать доверие может стать столь же важной, как и сам интеллект.
Именно поэтому проекты, исследующие проверяемый ИИ и децентрализованную инфраструктуру, такие как OpenGradient, привлекают внимание.
Настоящий вопрос:
Если ИИ начнет влиять на важные решения, как мы можем проверить, что он действительно знает?
@OpenGradient
На прошлой неделе я заметил что-то странное.
Инструмент ИИ дал мне рекомендацию, и когда я спросил, как он пришел к такому выводу, не оказалось четкой цепочки.
Результат звучал уверенно, но уверенность не равна достоверности.
Это подчеркивает проблему, скрывающуюся за бумом ИИ:
Мы создаем системы, которые могут запоминать, принимать решения и действовать, но мы редко задаем вопрос, кто контролирует информацию, формирующую эти действия.
По мере того как автономные агенты становятся все более распространенными, ценность ИИ не будет заключаться только в генерации ответов.
Она будет заключаться в том, чтобы знать, откуда эти ответы взялись.
Способность отслеживать решения, проверять информацию и устанавливать доверие может стать столь же важной, как и сам интеллект.
Именно поэтому проекты, исследующие проверяемый ИИ и децентрализованную инфраструктуру, такие как OpenGradient, привлекают внимание.
Настоящий вопрос:
Если ИИ начнет влиять на важные решения, как мы можем проверить, что он действительно знает?
@OpenGradient