Dynatrace facilita la adopción de la IA generativa con AI Observability

Recomendados.... IT Trends 2024: liderando la innovación Ver El camino hacia la empresa Inteligente, Segura y Conectada Informe Cómo ahorrar hasta un 51% en la migración a AWS Guía

Gartner estima que, en 2028, la adopción de la IA alcanzará más del 50% de los recursos de TI en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023. Este crecimiento refleja el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y la productividad, impulsar la automatización y fomentar la innovación.

A pesar de este impulso, muchas organizaciones están preocupadas por los costes asociados a los servicios impulsados por IA generativa. Simultáneamente, los gobiernos de todo el mundo están estableciendo normativas centradas en el uso de las tecnologías de IA de forma responsable y ética y en cumplimiento de las leyes aplicables. Las empresas necesitan una observabilidad completa impulsada por IA para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, "alucinaciones" de la IA y malas experiencias de usuario.

Dynatrace ha ampliado su plataforma de análisis y automatización con AI Observability, que proporciona observabilidad y seguridad holísticas para grandes modelos de lenguaje (LLM) y aplicaciones impulsadas por IA generativa. Esta mejora de la plataforma Dynatrace permite a las organizaciones de todo el mundo adoptar la IA generativa con confianza y de forma rentable.

Observabilidad de la IA completa

Dynatrace AI Observability cubre el stack de IA de extremo a extremo, incluida la infraestructura, como las GPU Nvidia, los modelos fundacionales, como GPT4, las cachés semánticas y las bases de datos vectoriales, como Weaviate, y los marcos de orquestación, como LangChain. También es compatible con las principales plataformas de creación, formación y entrega de modelos de IA, como Microsoft Azure OpenAI Service, Amazon SageMaker y Google AI Platform.

AI Observability aprovecha la IA Davis de la plataforma y otras tecnologías básicas para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA. Como resultado, las organizaciones pueden ofrecer una gran experiencia de usuario a la vez que identifican automáticamente los cuellos de botella en el rendimiento y las causas raíz. También contribuye a cumplir las normativas de privacidad y seguridad, así como los estándares de gobernanza, y ayuda a prever y controlar los costes supervisando su consumo de tokens, que son las unidades básicas que utilizan los modelos de IA generativa para procesar las consultas.

"La IA generativa es la nueva frontera de la transformación digital", afirma Bernd Greifeneder, CTO de Dynatrace. "Si bien es transformadora, la IA también plantea nuevos desafíos para la seguridad, la transparencia, la fiabilidad, la experiencia y la gestión de costes. Las organizaciones necesitan observabilidad que cubra cada aspecto de sus soluciones de IA generativa para superar estos desafíos. Dynatrace está ampliando su liderazgo en observabilidad e IA para satisfacer esta necesidad, ayudando a los clientes a adoptar la IA con confianza y seguridad con una visión sin precedentes de sus aplicaciones generativas impulsadas por IA”.