MIRA: Децентрализованная проверка ИИ для решения проблемы доверия.
Часть A: Кризис надежности в современном ИИ.
Финансы, здравоохранение, СМИ и разработка программного обеспечения быстро меняются на основе искусственного интеллекта. Машинный интеллект находит свой путь в высокоценном принятии решений; существуют автоматизированные торговые системы и даже ИИ-ко-пилоты, чтобы помогать разработчикам. Несмотря на свою мощь, ИИ виновен в одном фатальном недостатке: он не гарантирует точность.
Большие языковые модели создаются таким образом, чтобы давать наиболее статистически вероятный ответ. Они созданы для того, чтобы быть беглыми, а не правдивыми. Именно поэтому ИИ-системы могут предоставлять высоко уверенные ответы, которые либо частично неправильные, либо полностью вымышленные, что обычно называют галлюцинацией.