mrvl

Продолжение сегодняшнего Google turboquant
@xingpt брат, этот пост прямо в точку
Сэкономленное пространство HBM не будет считаться сэкономленными затратами, а будет использовано для трех вещей:
Более длинное контекстное окно: раньше можно было читать только одну статью, теперь можно читать сразу сто книг
Более крупный размер пакета: одна и та же видеокарта может одновременно обслуживать больше пользователей
Событие AI на краю (Edge AI): засунуть большие модели в телефоны и ПК

Не понимаешь? Давай краткую версию для новичков
Один из настоящих победителей в Ai2.0 - Guangtong