Red Hat OpenShift AI expande la personalización y la capacidad de elección para ayudar a las empresas a adaptarse al auge de las cargas de trabajo inteligentes, desde los centros de datos on-premises hasta las múltiples nubes públicas y el edge
Red Hat, Inc., el principal proveedor mundial de soluciones de código abierto, ha anunciado actualizaciones en Red Hat OpenShift AI, una plataforma híbrida abierta de inteligencia artificial (IA) y aprendizaje automático (ML) desarrollada sobre Red Hat OpenShift que permite a las empresas crear y ofrecer aplicaciones habilitadas para la IA a escala a través de nubes híbridas. Estas mejoras reflejan la visión que tiene Red Hat sobre la IA, ya que los clientes tienen la capacidad de elección también en el mundo de las cargas de trabajo inteligente, que es uno de los compromisos de Red Hat, tanto desde el hardware subyacente hasta los servicios y herramientas, tales como Jupyter y PyTorch, utilizados para construir en la plataforma. Esto proporciona una innovación más rápida, una mayor productividad y la capacidad de incorporar la IA a las operaciones empresariales diarias a través de una plataforma de código abierto más flexible, escalable y adaptable que hace posible modelos predictivos y generativos, con o sin el uso de entornos de nube.
Llevar los modelos de IA de la experimentación a la producción supone muchos retos para los clientes, entre los que se encuentran el aumento de los costes de hardware, la preocupación por la privacidad de los datos y la falta de confianza a la hora de compartir sus datos con modelos basados en SaaS. La IA generativa está cambiando rápidamente, y muchas organizaciones luchan por establecer una plataforma de IA core fiable que pueda ejecutarse on-premise o en la nube.
Según IDC1, para aprovechar de manera efectiva la IA, las empresas tendrán que modernizar muchas aplicaciones y entornos de datos que tienen en funcionamiento, eliminar las barreras entre los sistemas y las plataformas de almacenamiento existentes, mejorar la sostenibilidad de la infraestructura y elegir cuidadosamente dónde desplegar las diferentes cargas de trabajo en la nube, el centro de datos y el edge. Para Red Hat, esto demuestra que las plataformas de IA deben proporcionar flexibilidad para dar soporte a las empresas a medida que avanzan en su viaje de adopción de la IA y van adaptando sus necesidades y recursos.
La estrategia de IA de Red Hat hace posible tener flexibilidad en toda la nube híbrida, proporciona la capacidad de mejorar los modelos básicos preentrenados o curados con los datos de sus clientes y la libertad de habilitar una variedad de aceleradores de hardware y software. Las características nuevas y mejoradas de Red Hat OpenShift AI responde a estas necesidades dando acceso a las últimas innovaciones de IA/ML y al soporte de un amplio ecosistema de partners centrado en la IA. La última versión de la plataforma, Red Hat OpenShift AI 2.9, ofrece:
● El servicio de modelos en el edge amplía el despliegue de modelos de IA en ubicaciones remotas mediante OpenShift de nodo único. Proporciona capacidades de inferencia en entornos con recursos limitados con acceso a la red intermitente o sin conexión. Esta función technology preview proporciona a las organizaciones una experiencia operativa escalable y coherente desde el núcleo hasta la nube y el edge, e incluye capacidad de observación lista para usar.
● Servicio de modelos optimizado con la capacidad de utilizar varios servidores de modelos para dar soporte a la IA predictiva y generativa, incluida la compatibilidad con KServe, una definición de recursos personalizada de Kubernetes que orquesta el servicio para todos los tipos de modelos, vLLM y servidor de inferencia de generación de texto (TGIS), motores de servicio para LLM y tiempo de ejecución Caikit-nlp-tgis, que gestiona modelos y tareas de procesamiento de lenguaje natural (NLP). El servicio de modelos optimizado permite a los usuarios ejecutar IA predictiva y genérica en una única plataforma para múltiples casos de uso, lo que reduce los costes y simplifica las operaciones. Esto permite el servicio de modelos listos para usar para LLM y simplifica el flujo de trabajo del usuario.
● Cargas de trabajo distribuidas con Ray, mediante CodeFlare y KubeRay, que utiliza varios nodos de clúster para un procesamiento de datos y un entrenamiento de modelos más rápidos y eficientes. Ray es un marco para acelerar las cargas de trabajo de IA, y KubeRay ayuda a gestionar estas cargas de trabajo en Kubernetes. CodeFlare es fundamental para las capacidades de carga de trabajo distribuida de Red Hat OpenShift AI, proporcionando un marco fácil de usar que ayuda a simplificar la orquestación y supervisión de tareas. Las capacidades de gestión y central de turnos permiten una utilización óptima de los nodos, así como la asignación de recursos, como las GPU, a los usuarios y cargas de trabajo adecuados.
● Mejora del desarrollo de modelos mediante espacios de trabajo de proyectos e imágenes adicionales de bancos de trabajo que proporcionan a los científicos de datos la flexibilidad necesaria para utilizar IDE y kits de herramientas, incluidos VS Code y RStudio, actualmente disponibles como technology preview, y CUDA perfeccionado, para una gran variedad de casos de uso y tipos de modelos.
● Visualizaciones de monitorización de modelos para métricas de rendimiento y funcionamiento, que mejoran la capacidad de observación del rendimiento de los modelos de IA.
● Nuevos perfiles de acelerador permiten a los administradores configurar diferentes tipos de aceleradores de hardware disponibles para el desarrollo de modelos y los flujos de trabajo de servicio de modelos. Esto proporciona al usuario un acceso sencillo y autoservicio al tipo de acelerador adecuado para una carga de trabajo específica.
Además de que Red Hat OpenShift AI como base de watsonx.ai de IBM, empresas de todos los sectores se están equipando con Red Hat OpenShift AI para impulsar más innovación y crecimiento de la IA, como AGESIC y Ortec Finance.
Ashesh Badani, chief product officer and senior vice president, Red Hat, dijo que “Introducir la IA en la empresa es un imperativo, y la pregunta que nos hacemos es “cuándo” la implementaremos. Las empresas necesitan una plataforma de IA más fiable, consistente y flexible que pueda mejorar la productividad, aumentar los ingresos y fomentar la diferenciación en el mercado. La respuesta de Red Hat para las demandas de IA empresarial a escala es Red Hat OpenShift AI, que hace posible que los líderes de TI desplieguen aplicaciones inteligentes en cualquier lugar a través de la nube híbrida mientras crecen y ajustan las operaciones y los modelos según sea necesario para dar soporte a las aplicaciones y servicios de producción”.
Mientras, Thomas Taroni, CEO, Phoenix Technologies, manifestó que “La visión de Red Hat sobre la IA se alinea perfectamente con nuestro objetivo de proporcionar a las organizaciones una solución de IA fiable y soberana. Con Red Hat OpenShift AI, nuestros clientes de kvant AI se benefician de una flexibilidad, escalabilidad y seguridad sin precedentes. Con kvant AI en combinación con Red Hat OpenShift AI, las organizaciones están perfectamente equipadas para integrar modelos predictivos y generativos de manera sencilla, capacitando a todos para crear aplicaciones de IA con confianza y agilidad”.
Por su parte, Jeff Fonke, Sr. Practice Manager AI & Data, World Wide Technology Holding Co., dijo que ““A medida que los modelos de TI heredados se enfrentan a las complejidades de la IA, WWT se compromete a ayudar a nuestros clientes a tomar las decisiones tecnológicas correctas con la mayor rapidez cuando se trata de la adopción de la IA. El AI Proving Ground de WWT es una prueba de ello. Con Red Hat OpenShift AI como plataforma fundacional, el AI Proving Ground permite a los clientes probar, entrenar, validar e implementar soluciones de IA seguras que ofrecen valor empresarial en el mundo real”.
Por último, Joris Cramwinckel, Technologist, Ortec Finance, declaró que “Red Hat nos ha ayudado a proporcionar de manera eficaz modelos de aprendizaje automático para valoraciones de viviendas residenciales en Azure Red Hat OpenShift durante los últimos dos años y estamos encantados de implementar Red Hat OpenShift AI para reemplazar nuestros esfuerzos de mantenimiento y código propietario para ofrecer modelos de IA en nuestras aplicaciones. La combinación de la potencia de OpenShift AI y Azure Red Hat OpenShift permitirá a nuestro equipo de investigación y desarrollo acelerar la transición de nuestros clientes a soluciones basadas en IA, lo que nos ayudará a gestionar de forma más eficiente los riesgos y mejorar las inversiones”.
1 Source: IDC, The Future of Digital Infrastructure, 2024: AI-Ready Platforms, Operating Models, and Governance (#US50614724), 2024
Arriba, en la foto, Ashesh Badani, chief product officer and senior vice president, Red Hat, durante su intervención en el Red Hat Summit 2024
