Tether Data ha presentado QVAC Fabric LLM como un marco de tiempo de ejecución y ajuste fino orientado al borde que permite a los desarrolladores ejecutar y entrenar modelos de lenguaje grandes directamente en hardware cotidiano, incluyendo tarjetas gráficas para consumidores, portátiles y teléfonos inteligentes.
¿Qué es QVAC Fabric LLM?QVAC Fabric LLM es un sistema unificado que combina la inferencia de modelos de lenguaje grande (LLM), el ajuste fino con LoRA y el ajuste por instrucciones en un único marco portátil. Está dirigido a una amplia gama de sistemas operativos y dispositivos, abarcando iOS, Android, Windows, macOS, Linux y entornos de servidor estándar.
Soporta la inferencia completa de LLM junto con ajuste fino mediante LoRA y ajuste por instrucciones en la misma pila, en lugar de necesitar herramientas separadas para la ejecución y el entrenamiento.
Funciona en una amplia variedad de hardware, incluyendo AMD, Intel, NVIDIA, Apple Silicon y GPUs móviles como Qualcomm Adreno y ARM Mali.Agrega soporte para ajuste fino en modelos abiertos modernos como Llama 3, Qwen 3 y Gemma 3 dentro del ecosistema llama.cpp."