KI-Inferenz, Überholen in der Kurve

Seit vielen Jahren dominiert NVIDIA im Bereich der KI-Chips. Obwohl andere Unternehmen ständig versuchen, hat niemand in der Lage, ihre dominierende Stellung zu erschüttern.

Doch heute ändert sich die Situation. "Inference Computing" wird zum Schlüsselbegriff dieser Revolution der KI-Technologie.

Ob Tech-Giganten oder kleine Start-ups, alle zielen darauf ab, maßgeschneiderte Chips für die KI-Entwicklung zu schaffen, wie zum Beispiel Groq, Cerebras Systems und andere.

Meta ist ein typisches Beispiel. Obwohl sie NVIDIA-Chips für das Training von Llama3.1 405B verwenden, setzen sie bei der tatsächlichen Bereitstellung von Dienstleistungen für die Nutzer auf AMD MI300s-Chips.