Może zauważyłeś ten wzór również. Modele stają się coraz większe, wyniki testów przekraczają 90 procent w wąskich zadaniach, a jednak systemy produkcyjne wciąż utknęły pod prawdziwym obciążeniem. Kiedy po raz pierwszy spojrzałem na MIRA, to, co mnie uderzyło, to nie warstwa modelu, ale tekstura wykonania pod spodem. Na poziomie powierzchni, kieruje wnioskowaniem przez rozproszone węzły, aby obniżyć opóźnienia poniżej 200 milisekund, co ma znaczenie, ponieważ spadki użytkowników wzrastają po 300. Pod spodem traktuje obliczenia jak zasób, który można zaplanować, dynamicznie reallocując pojemność, gdy wykorzystanie przekracza 70 procent, wygładzając zmienność kosztów, która wzrosła o niemal 40 procent w tym roku. Ta stabilna podstawa zmienia sposób, w jaki zdobywa się niezawodność. Jeśli to się utrzyma, wykonanie AI przestaje być kwestią skali, a zaczyna być kwestią dyscypliny.
$MIRA