#Huawei ingresó al mercado de GPU con opciones más baratas para el Huawei Atlas 300I Duo, estas son GPUs de 96GB de VRAM por menos de $2000. No son tan rápidas como las mejores GPUs de #NVIDIA , pero:
>Pueden ejecutar modelos de 70B localmente sin descargar
>Compactas y eficientes en energía (150W TDP)
>El soporte de software ya existe (llama.cpp + torch-npu)
¿El sacrificio? Menor ancho de banda de memoria y menor rendimiento. Pero para cualquiera que esté limitado por VRAM, esto es un avance.
Conclusión: No está reemplazando a un 4090 por velocidad, pero podría ser el rey del presupuesto para LLMs locales masivos.