В данный момент в AI идет разговор, который почти никогда не попадает в крипто Твиттер.
Дело не в том, какая модель умнее. Не в сроках появления AGI или ценах токенов. Дело в чем-то гораздо более скучном и важном. Как на самом деле запустить тысячи специализированных AI моделей, не потратив целое состояние на вычисления?
Большинство людей, которые строят в этой сфере, не думают об этом, пока не столкнутся с проблемой. Вы настраиваете модель для конкретной задачи: медицинские запросы, юридическая документация, поддержка клиентов на трех языках. Она работает. Затем вы пытаетесь масштабировать. И понимаете, что каждая модель требует своего собственного GPU-экземпляра. Каждое новое применение умножает ваши затраты на инфраструктуру. Экономика рушится раньше, чем продукт.