Большинство систем ИИ сегодня работают по простому шаблону: вы спрашиваете что-то, модель отвечает, и вы либо доверяете ей, либо проверяете сами, ответственность остается за пользователем, и это не масштабируется, когда системы ИИ начинают выполнять более серьезные задачи

Мира подходит к этому иначе, разбивая сгенерированный контент на отдельные утверждения и отправляя эти утверждения через распределенную сеть валидаторов, которые могут быть независимыми AI-системами. Они оценивают каждое утверждение отдельно, и консенсус достигается с помощью координации блокчейна и экономических стимулов.

Это означает, что вы не доверяете одной модели, вы доверяете распределенному процессу верификации, где валидаторы имеют что-то на кону, а неточная верификация имеет последствия.

Міра предполагает, что галлюцинации будут продолжать существовать и строит вокруг этой реальности, вместо того чтобы делать вид, что более крупные модели полностью устранят эту проблему.

Конечно, есть открытые вызовы, такие как масштабируемость, задержка и обеспечение разнообразия валидаторов, но направление выглядит логично. Интеллект без верификации не может безопасно существовать в среде с высокими ставками.

Для меня Міра меньше о гиперболе ИИ и больше о создании уровня доверия, который позволяет ИИ-системам работать с подотчетностью, и этот переход кажется необходимым, поскольку автономность растет.@Mira - Trust Layer of AI #Mira