#opg $OPG La red organiza su infraestructura en formatos de nodos distintos según la carga de trabajo objetivo.
Especificaciones de hardware para nodos de inferencia local
Los nodos de inferencia local ejecutan modelos de código abierto (como Llama o Mistral) directamente desde el Model Hub integrado de la red.
Unidad de procesamiento de gráficos (GPU): Se requiere estrictamente una GPU dedicada. Se exigen GPUs de nivel empresarial (por ejemplo, NVIDIA A100, H100 o L40S) o hardware de consumo de gama alta (por ejemplo, NVIDIA RTX 4090 / 3090) con un gran VRAM para poder ajustar parámetros grandes localmente.
Especificaciones de hardware para nodos de inferencia local
Los nodos de inferencia local ejecutan modelos de código abierto (como Llama o Mistral) directamente desde el Model Hub integrado de la red.
Unidad de procesamiento de gráficos (GPU): Se requiere estrictamente una GPU dedicada. Se exigen GPUs de nivel empresarial (por ejemplo, NVIDIA A100, H100 o L40S) o hardware de consumo de gama alta (por ejemplo, NVIDIA RTX 4090 / 3090) con un gran VRAM para poder ajustar parámetros grandes localmente.