🛠 Optimiza la IA local con OpenVINO y la GPU Intel Arc

Objectifs

Este tutorial tiene como objetivo configurar el entorno de desarrollo para aprovechar la potencia de cálculo combinada de la CPU y la GPU Intel Arc a través del toolkit OpenVINO. Aprenderá a convertir un modelo de red neuronal preentrenado para ejecutarlo eficientemente en el controlador gráfico xe bajo Linux.

Matériel nécessaire

• LattePanda Mu Ultra (Core Ultra 7 256V probado)
• Mini Carrier Board
• Fuente de alimentación USB-C compatible
• SSD NVMe instalado (mínimo 128 GB)
• Conexión a Internet estable

Étapes

1. Instale las dependencias del sistema necesarias para el compilador y las bibliotecas gráficas bajo Ubuntu 24.04 o 26.04.

sudo apt update && sudo apt install build-essential cmake git python3-pip libgl1-mesa-glx

1. Cree un entorno virtual de Python para aislar las dependencias de OpenVINO.

python3 -m venv openvino_env
source openvino_env/bin/activate

1. Instale el paquete openvino-dev que incluye herramientas de conversión y tiempos de ejecución para CPU, GPU y NPU.

pip install openvino-dev[tf,onnx,pytorch]

1. Verifique que la GPU Intel Arc sea detectada correctamente por OpenVINO. El controlador xe debe estar activo.

python3 -c "import openvino as ov; core = ov.Core(); print(core.available_devices)"

1. Descargue un modelo de red neuronal simple (ej: ResNet50) y conviértalo para la arquitectura Intel.

ow convert_model --output_dir ./models --input_shape [1,3,224,224] --input_model resnet50.onnx

1. Ejecute una inferencia de prueba apuntando específicamente al dispositivo GPU para aprovechar la arquitectura Lunar Lake.

python3 -c "import openvino as ov; core = ov.Core(); model = core.read_model('./models/resnet50.xml'); compiled = core.compile_model(model, 'GPU'); print('Inferencia GPU exitosa')"

Vérification

El comando de inferencia debe devolver un mensaje de éxito sin errores de controlador. Asegúrese de que el uso de la GPU aumente mediante intel_gpu_top durante la ejecución para confirmar la aceleración por hardware.

Pour aller plus loin

Explore el uso de la NPU integrada para cargas pesadas manteniendo la GPU para la visualización, o pruebe la cuantización INT8 para reducir la latencia y el consumo de energía.