Cómo preparar el centro de datos para la IA generativa
- Estrategias digitales
Los servidores de inteligencia artificial generativa con GPU requieren mayor tamaño, peso, cableado, redes, alimentación y refrigeración que los servidores estándar, por lo que su implementación exige una planificación cuidadosa en los centros de datos, señala Dell.
La infraestructura de IA requiere una gran capacidad informática, especialmente para el entrenamiento y la inferencia de modelos avanzados. Incluso sin entrenar desde cero, las demandas de procesamiento superan a las de las aplicaciones tradicionales. Consciente de ello, Dell Technologies ofrece cuatro recomendaciones para preparar el centro de datos para la IA generativa:
1. Diseñar la capacidad del centro de datos.
Es fundamental tener un plan sobre el tamaño del centro de datos y la asignación de espacio para la instalación de servidores y racks, la optimización del flujo de aire y el mantenimiento. Además, es clave garantizar espacio para futuras ampliaciones.
La organización de los racks debe facilitar el acceso y el mantenimiento de servidores e infraestructura. Para ello, es necesario establecer un programa de mantenimiento regular, con revisiones periódicas y reemplazo de filtros de aire, ventiladores y unidades de refrigeración según sea necesario.
2. Gestionar eficazmente el flujo de aire.
El flujo de aire es fundamental para gestionar el calor que generan los servidores y los sistemas de infraestructura. La infraestructura de IA consume mucha más energía que los servidores tradicionales, lo que genera más calor y hace que el flujo de aire y la refrigeración sean aún más importantes.
Las organizaciones deben utilizar estrategias de gestión estructurada del flujo de aire, como la contención en pasillos fríos y calientes, y dirigir el aire frío directamente a las entradas de los servidores y el aire caliente de escape lejos del equipo. Esto aumentará la eficiencia de la refrigeración y reducirá los costes de energía.
3. Optimizar la alimentación y la refrigeración
Para servidores GPU de alta densidad, es fundamental optimizar la alimentación y la refrigeración para garantizar un rendimiento estable y evitar interrupciones. La inversión en fuentes de alimentación eficientes, transformadores avanzados y sistemas de respaldo, como SAI y PDU, mejora la gestión del consumo energético y reduce el impacto ambiental.
Dado que las cargas de trabajo de IA generan un alto nivel de calor, la refrigeración tradicional puede no ser suficiente. Implementar soluciones de refrigeración líquida permite una disipación de calor más eficiente, asegurando mayor estabilidad y longevidad en configuraciones de alta densidad.
4. Gestión eficiente de cables
La implementación de IA requiere una gestión eficiente de cables, con enrutamiento aéreo y separación de cables de alimentación y datos para minimizar interferencias y mejorar seguridad y fiabilidad. Dentro del rack, es esencial reducir el desorden para evitar bloqueos de aire y facilitar el mantenimiento, ya que una mala organización puede generar acumulación de calor y afectar la infraestructura de conmutación.
Además, en configuraciones de IA generativa, donde un rack de red conecta múltiples racks de servidores GPU, el volumen de cables aumenta, haciendo clave un sistema estructurado de cableado y etiquetado. Para garantizar escalabilidad, se recomienda el uso de paneles modulares y racks ajustables que permitan adaptarse al crecimiento futuro, así como de materiales reciclables o biodegradables en el embalaje de cables para mejorar el perfil medioambiental del centro de datos.
En función de sus necesidades y del alcance de la implementación de IA, puede optar por aplicar estas cuatro recomendaciones a su centro de datos en su conjunto o a una sección dedicada a la IA dentro del mismo.
