Zoho responde a la escalada de costes de inferencia de IA con el servidor Nathu La
- Tecnologías
En lugar de trasladar los costes de inferencia de inteligencia artificial al cliente, Zoho los absorbe con infraestructura propia, permitiendo recortar el coste total de propiedad entre un 20% y un 30%, y el consumo energético entre un 12% y un 18%, sin sacrificar rendimiento. Nathu La ha requerido de cinco años de I+D interno.
Zoho Corporation, matriz de Zoho y ManageEngine, ha anunciado el lanzamiento de Nathu La, un servidor diseñado internamente que supone un nuevo paso en su estrategia para construir y operar su propia infraestructura tecnológica completa.
A medida que aumentan los costes de procesamiento en los centros de datos vinculados a la inteligencia artificial, los clientes se enfrentan cada vez más al impacto de esos incrementos. Con Nathu La, Zoho busca seguir ofreciendo tecnología avanzada a un coste razonable.
"Durante las últimas tres décadas, Zoho ha apostado por desarrollar su propia infraestructura tecnológica desde cero y Nathu La representa un nuevo paso dentro de esa estrategia", afirma Shailesh Davey, CEO de Zoho Corporation. “Nuestra visión pasa por combinar modelos de IA adaptados al contexto y dimensionados según cada necesidad con una plataforma tecnológica propia que ahora también incorpora servidores diseñados internamente y capacidades de aceleración para cargas de trabajo de IA. Al desarrollar y operar cada capa de nuestra infraestructura tecnológica, desde el hardware hasta las aplicaciones, podemos optimizar costes, rendimiento y eficiencia de forma conjunta”.
Construyendo una infraestructura tecnológica completa
La filosofía de diseño de Nathu La se inspira en los principios del Open Compute Project (OCP), con foco en la modularidad, la eficiencia térmica y la facilidad de mantenimiento. Este enfoque permite a los centros de datos de Zoho reducir de forma significativa tanto el coste total de propiedad como el consumo energético.
Con Nathu La, Zoho mantiene el mismo nivel de rendimiento, al mismo tiempo que reduce entre un 12% y un 18% el consumo energético y entre un 20% y un 30% el coste total de propiedad (TCO). Esta mejora contribuye a reducir su huella ambiental y a disminuir los costes de inferencia de IA que, de otro modo, podrían acabar trasladándose a los clientes.
La compañía prevé alojar progresivamente sus aplicaciones sobre la plataforma de servidores Nathu La, lo que le permitirá optimizar de forma conjunta su infraestructura de hardware y software para responder mejor a las necesidades específicas de sus cargas de trabajo.
La placa base y el chasis de Nathu La son el resultado de cinco años de investigación y desarrollo en hardware, firmware y gestión de sistemas. Basado en procesadores Intel Xeon 6, el servidor ha sido diseñado para optimizar el rendimiento en cargas de virtualización (VM), computación de alto rendimiento (HPC), inferencia de IA y almacenamiento. Esto se traduce en un mejor funcionamiento de las aplicaciones de Zoho para los usuarios finales.
El servidor cuenta con subsistemas de alimentación personalizados, un diseño propio del módulo seguro de control para centros de datos (DC-SCM) y opciones modulares de chasis compatibles con distintos entornos, lo que ofrece flexibilidad para diferentes tipos de despliegue.
Todos los componentes modulares, incluidos el DC-SCM y la tarjeta de red (NIC), han sido diseñados internamente por el equipo de ingeniería de hardware de Zoho y ensamblados por socios indios especializados en servicios de fabricación electrónica (EMS), lo que permite una mayor integración de la cadena de valor.
La compañía ha presentado además más de cinco solicitudes de patente relacionadas con tecnologías avanzadas de gestión térmica y diseños de arquitectura de servidores optimizados para reducir costes.