🛠 Configuración de GPU externo vía OCuLink

Objetivos

Este tutorial explica cómo aprovechar el conector OCuLink en el Xerxes Nano para conectar un acelerador PCIe externo (GPU o NPU). Esta interfaz permite superar los límites de cálculo del módulo Jetson Orin Nano o Turing RK1 integrado, proporcionando un ancho de banda PCIe elevado para la inferencia de IA pesada o el entrenamiento. Veremos la configuración de hardware, la alimentación necesaria y la detección de software bajo Linux.

Material Necesario

• Placa portadora Xerxes Nano con módulo Jetson Orin Nano o Turing RK1 instalado
• Cable OCuLink compatible (generalmente SFF-8612 con 4 líneas PCIe)
• Chasis o carcasa eGPU compatible con OCuLink con fuente de alimentación dedicada (12V/19V)
• GPU externo o acelerador PCIe (ej: NVIDIA RTX serie 30/40, Intel Arc, etc.)
• Fuente de alimentación estable para el chasis eGPU
• Estación de trabajo con acceso a terminal (SSH o pantalla/teclado)
• Sistema operativo Linux (Ubuntu 20.04/22.04 recomendado para Jetson)

Pasos

1. Verificación de Compatibilidad: Asegúrese de que su GPU externo sea un dispositivo PCIe estándar. El Xerxes Nano utiliza la interfaz PCIe Gen 3 a través de OCuLink. Consulte las especificaciones de su chasis eGPU para confirmar la compatibilidad eléctrica y mecánica.

1. Conexión Física: Apague completamente el Xerxes Nano. Conecte el cable OCuLink al puerto dedicado de la placa portadora. Conecte el otro extremo al chasis eGPU. Asegúrese de que el chasis esté correctamente ventilado, ya que las GPUs externas generan mucho calor.

1. Alimentación del Chasis: Conecte la fuente de alimentación del chasis eGPU a una toma de corriente. No encienda aún el Xerxes Nano. La secuencia de encendido es crucial: encienda primero el chasis eGPU, espere a que sus ventiladores giren y luego encienda el Xerxes Nano.

1. Detección del Sistema: Una vez que el sistema inicie, abra una terminal. Verifique que el bus PCIe vea el nuevo dispositivo con el siguiente comando:

lspci | grep -i nvidia
# o para otro fabricante
lspci | grep -i vga

Si se detecta la GPU, verá una línea que indica el modelo de la GPU conectada.

1. Instalación de Controladores: Para GPUs NVIDIA, instale los controladores propietarios adaptados a su arquitectura (ARM64 para Jetson). Evite los controladores genéricos x86_64.

sudo apt update
sudo apt install nvidia-driver-535

Reinicie el sistema para cargar los módulos del kernel.

1. Verificación de Aceleración: Utilice la utilidad de monitoreo para confirmar que la GPU está activa y reconocida por el sistema.

nvidia-smi

Debería ver la información de la GPU externa, incluido el uso de memoria y procesador gráfico.

Verificación

Para validar el funcionamiento, ejecute una carga de trabajo simple utilizando la GPU externa. Por ejemplo, ejecute una prueba de rendimiento de cálculo de matrices o lance un modelo de IA simple mediante PyTorch, forzando el uso del nuevo dispositivo.

python3 -c "import torch; print(torch.cuda.is_available())"

Si la salida es True, la GPU externa está correctamente integrada. También verifique las temperaturas mediante nvidia-smi para asegurar un enfriamiento adecuado.

Para Ir Más Allá

Explore la gestión de energía a través del conector PWM del Xerxes Nano para sincronizar la ventilación con la carga de la GPU. También puede configurar CUDA para usar simultáneamente la GPU integrada (iGPU) del Jetson y la GPU externa (eGPU) mediante la tecnología NVIDIA Multi-GPU, optimizando así las tareas de inferencia paralelas.