Несколько дней назад я заметил что-то странное.

Я задал тому же ИИ-помощнику один и тот же вопрос дважды и получил два совершенно разных ответа. Не потому что факты изменились, а потому что у меня не было возможности увидеть, на какую информацию он опирается.

Это заставило меня осознать более серьезную проблему.

Поскольку ИИ становится частью повседневных решений, настоящая проблема может заключаться не в интеллекте. Возможно, это доверие.

Кто владеет данными, стоящими за ответом? Откуда пришла память? Как мы можем проверить, что ИИ-агент не выдумывает детали или не использует устаревшую информацию?

Большинство людей сосредоточены на том, что ИИ может сделать сегодня.

Меня больше интересует, что произойдет, когда миллиарды агентов начнут действовать от нашего имени завтра.

Вот почему такие проекты, как @OpenGradient , исследуют способы сделать выводы ИИ более прозрачными и проверяемыми.

Если ИИ становится нашим цифровым представителем, разве не должны мы иметь возможность проверить, что он знает и почему он это знает?

#opg $OPG
@OpenGradient