NVIDIA y Zoho colaboran en el desarrollo de LLM empresariales
- Actualidad
Zoho utilizará la plataforma de computación acelerada por IA NVIDIA NeMO para construir e implantar sus Large Language Models en sus aplicaciones SaaS. Una vez creados e implantados, los LLM estarán disponibles en todo el mundo para los más de 700.000 clientes de la compañía.
Zoho Corporation ha anunciado que utilizará la plataforma de computación acelerada por IA de NVIDIA, que incluye parte del software NVIDIA AI Enterprise NVIDIA NeMo, para construir e implantar sus Large Language Models (LLM) en sus aplicaciones SaaS. Una vez creados e implantados, los LLM estarán disponibles en todo el mundo para los más de 700.000 clientes de Zoho Corporation a través de ManageEngine y Zoho.com.
Según Ramprakash Ramamoorthy, director de AI de Zoho Corporation, "muchos LLM actualmente en el mercado están diseñados para uso del consumidor, ofreciendo un valor reducido para las empresas. En Zoho, nuestra misión es desarrollar LLM adaptados específicamente para una amplia gama de casos de uso empresarial. Ser propietarios de toda nuestra tecnología, con productos que abarcan varias funciones de negocio, nos permite integrar el componente esencial que hace que la IA sea realmente efectiva: el contexto".
Apuesta por NVIDIA
En el último año, la compañía ha invertido más de 10 millones de dólares en tecnología de IA y GPU de NVIDIA, y tiene previsto invertir otros 10 millones el año que viene. Su objetivo es ayudar a las empresas a obtener un retorno de la inversión rápido y eficaz, aprovechando toda la plataforma de software de IA de NVIDIA y la computación acelerada para aumentar el rendimiento y reducir la latencia.
“Con el software de IA y la plataforma de computación acelerada de NVIDIA, Zoho está construyendo una amplia gama de modelos para ayudar a satisfacer las diversas necesidades de sus clientes empresariales”, afirma Vishal Dhupar, director general de NVIDIA para el sur de Asia.
Gracias a esta colaboración, Zoho impulsará sus LLM en la plataforma de computación acelerada de NVIDIA con GPU NVIDIA Hopper, utilizando la plataforma integral NVIDIA NeMo para desarrollar IA generativa personalizada, lo que incluye LLM, IA multimodal, de visión y del habla. Adicionalmente, Zoho está probando NVIDIA TensorRT-LLM para optimizar sus LLM para su implantación, y ya ha observado un aumento del 60% en el rendimiento y una reducción del 35% en la latencia en comparación con el framework de código abierto utilizado anteriormente. La compañía también está agilizando otras tareas, como la conversión de voz a texto, en la infraestructura de cálculo acelerado de NVIDIA.
