Dynatrace introduce una nueva solución de observabilidad para modelos lingüísticos de gran escala e Inteligencia Artificial generativa

Permite a las organizaciones adaptarse a la Inteligencia Artificial (IA) con confianza al proporcionar información sin precedentes de todas las capas de las aplicaciones impulsadas por IA, ayudando a garantizar la seguridad, la confiabilidad, el rendimiento y la rentabilidad

Foto: cortesía. Portal ERP Latam.

Dynatrace  anunció que ha ampliado su plataforma de análisis y automatización para ofrecer observabilidad y seguridad integrales para grandes modelos lingüísticos (LLMs) y aplicaciones impulsadas por IA generativa. Esta mejora en la plataforma Dynatrace permite a las organizaciones de todo el mundo adoptar IA generativa con confianza y de manera rentable, como parte de su enfoque en aumentar la innovación, la productividad y los ingresos.

Dynatrace IA Observabilidad es una solución integral. Abarca de principio a fin la IA, incluida la infraestructura, como las GPU Nvidia, modelos fundamentales como GPT4, caches semánticos y las bases de datos vectoriales como Weaviate, y marcos de orquestación como LangChain. También es compatible con las principales plataformas para construir, entrenar y entregar modelos de IA, como Microsoft Azure OpenAI Service, Amazon SageMaker y Google AI Platform.

La Observabilidad IA de Dynatrace utiliza la inteligencia artificial Davis (Davis IA) y otras tecnologías centrales para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA. Como resultado, las organizaciones pueden ofrecer excelentes experiencias de usuario mientras identifican automáticamente cuellos de botella de rendimiento y sus causas. La Observabilidad IA de Dynatrace con Davis IA también ayuda a cumplir con las normativas de privacidad y seguridad, y estándares de gobernanza, rastreando con precisión los orígenes de los resultados creados por sus aplicaciones. Además, pronostica y controla costos monitoreando el consumo de tokens, que son las unidades básicas que los modelos generative AI utilizan para procesar las consultas.

“La IA generativa y predictiva abrirá nuevas posibilidades para el negocio con nuestros servicios de ML y LLM, pero para implementarlos con éxito, debemos asegurarnos de que nuestros servicios que respaldan estas cargas de trabajo críticas sean confiables y funcionen bien”, dijo Ryan Berry, Vicepresidente Senior de Ingeniería y Arquitectura en OneStream. “Es por esto que confiamos en Dynatrace, líder en IA y observabilidad. Nuestros equipos utilizan Dynatrace para construir y optimizar aplicaciones de AI generativa, que funcionan bien y son rentables de gestionar e implementar a escala”.

Gartner afirma: “Para 2028, la adopción de la IA culminará en más del 50% de los recursos informáticos en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023”. Este crecimiento refleja parcialmente el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y productividad, impulsar la automatización y fomentar la innovación. A pesar de esto, muchas organizaciones están preocupadas por los costos asociados a los servicios impulsados por la IA generativa. Estos pueden ser muchas veces más costosos que los servicios tradicionales en la nube y son difíciles de prever debido porque se basan en el consumo de tokens de IA generativa por parte de aplicaciones que aún no están en producción. Al mismo tiempo, los gobiernos en todo el mundo están estableciendo normativas centradas en el uso de tecnologías de IA de manera responsable y ética, y en cumplimiento de las leyes aplicables.

Te puede interesar:Microsoft y CAF se unen para impulsar la transformación digital en la región

Las organizaciones no pueden permitirse ignorar el potencial de la IA generativa. Sin embargo, necesitan observabilidad de IA integral para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, "alucinaciones" de IA y malas experiencias de usuario. 

“La IA generativa es la nueva frontera de la transformación digital”, dijo Bernd Greifeneder, CTO de Dynatrace. “Esta tecnología permite a las organizaciones crear soluciones innovadoras que impulsan la productividad, la rentabilidad y la competitividad. Aunque es transformadora, también plantea nuevos desafíos para la seguridad, la transparencia, la confiabilidad, la experiencia y la gestión de costos. Las organizaciones necesitan una observabilidad de IA que abarque todos los aspectos de sus soluciones de IA generativa para superar estos desafíos. Dynatrace está ampliando su liderazgo en observabilidad e IA para satisfacer esta necesidad, ayudando a los clientes a adoptar la IA con confianza y seguridad, con una visión sin precedentes en sus aplicaciones impulsadas por IA generativa”.  

“La transformación impulsada por la IA es un motor clave de productividad y competitividad para las organizaciones en todo el mundo”, dijo Ali Dalloul, VP de IA en Microsoft. “El servicio Microsoft Azure OpenAI es una sólida solución de IA generativa para empresas y entidades del sector público de todo el mundo. Nos complace asociarnos con Dynatrace, líder en observabilidad impulsada por IA, para capacitar a nuestros clientes compartidos, los equipos que impulsan la innovación en las organizaciones más grandes del mundo, a crear servicios basados en IA generativa utilizando Azure Open AI Service y Observabilidad de IA de Dynatrace. Esta poderosa combinación ayuda a garantizar que estos servicios alcancen los más altos estándares de seguridad, confiabilidad y rendimiento, al tiempo que permite a los equipos que los gestionan controlar los costos”.