Я узнал, что ИИ становится надежным только тогда, когда несколько интеллектов подтверждают истину
Я не начал думать о верификации ИИ из-за теории. Это пришло от наблюдения за тем, как системы терпят неудачу мелкими, раздражающими способами.
Каждый, кто интегрировал ИИ в реальные рабочие процессы, в конечном итоге сталкивается с одним и тем же моментом: модель звучит уверенно, ответ выглядит отполированным, и затем что-то крошечное разрушает иллюзию. Число неверное. Утверждение нельзя отследить. Решение принимается на основе рассуждений, которые вы не можете проверить. Эта микро-фрикция — это то, где доверие начинает разрушаться. Долгое время индустрия пыталась исправить эту проблему с помощью репутации. Более крупные модели, более крупные наборы данных, более сильный брендинг. Но репутация не исправляет верификацию. Она только просит людей верить, что система права.
Войдите, чтобы посмотреть больше материала
Последние новости криптовалют
⚡️ Участвуйте в последних обсуждениях в криптомире