Incorporación de SAP AI Core y SAP AI Launchpad

Configuración de SAP AI Core y SAP AI Launchpad

Objectives

After completing this lesson, you will be able to:
  • Ilustrar el proceso involucrado en el trabajo con SAP AI Core y SAP AI Launchpad
  • Conectar SAP AI Core y SAP AI Launchpad con los repositorios docker y GitHub del usuario

SAP AI Core

¿Cuál es el valor agregado de SAP AI Core?

Nota

Este recorrido de capacitación solo se enfoca en el core de IA de SAP.

Remítase al recorrido de capacitación Resolver sus problemas de negocio usando peticiones y LLM en SAP Generative AI Hub para usar el hub generativo de IA de SAP para resolver sus problemas de negocio usando LLMs, SAP AI Launchpad y SDK generativve-ai-hub.

También podrá aplicar técnicas para refinar y evaluar peticiones utilizando diferentes modelos de lenguaje grandes en el hub de IA generativa.

  • Obtenga tranquilidad con las implementaciones gestionadas por SAP

    Con SAP AI Core, los clientes obtienen tranquilidad a medida que se benefician de un servicio completo que empaqueta todas las dependencias y oculta la complejidad de construir su propia capacitación y prestar servicio al entorno productivo. En su lugar, SAP AI Core expone puntos finales de API simples para integrar IA en sus aplicaciones de negocio.

  • Incorpore IA rápidamente en las aplicaciones y procesos de negocio de SAP

    Los clientes pueden aprovechar la integración estandarizada en las aplicaciones de SAP para crear e integrar rápidamente sus casos de uso de IA en sus aplicaciones de negocio.

  • Lograr el equilibrio adecuado entre costes y rendimiento

    Por un lado, los clientes se benefician de un rendimiento acelerado con el soporte de GPU para ejecutar sus casos de uso más hambrientos de recursos a escala. Por otro lado, los clientes operan de manera eficiente mientras mantienen el control de sus costos aprovechando el autoescalado y la escala a cero incorporados, así como eligiendo entre una amplia gama de planes de almacenamiento, CPU y servicio de GPU.

    SAP AI Core utiliza clústeres de Kubernetes que proporcionan características probadas para ejecutar aplicaciones basadas en contenedores para capacitar y servir modelos de IA. Un clúster de este tipo puede proporcionar diferentes recursos de acuerdo con los requisitos actuales. Por ejemplo, nodos de GPU para modelos de IA pesados o para ejecutar pipelines complejos de IA de ML que requieren diferentes recursos por paso. La infraestructura de Kubernetes es muy rápida y flexible (escalar hacia arriba/hacia abajo los contenedores que ejecutan el código de IA).

  • Modele una sola vez y preste servicio a múltiples clientes

    Los clientes se benefician de la formación e inferencia simplificadas con plantillas reutilizables y pueden proporcionar plantillas de modelo para sus clientes o equipos internos para formar el modelo en sus propios datos.

Ponga en funcionamiento la IA con SAP AI Core, es decir, integre IA en SAP y aplicaciones personalizadas mediante la API de IA. Los datos se pueden extraer de SAP HANA Cloud, la nube externa o el almacenamiento local.

Para lograr esos valores agregados, SAP AI Core y SAP AI Launchpad ofrecen características de nivel empresarial para producir y operar sus modelos de IA. Las principales capacidades que proporciona SAP AI Core son la orquestación de flujos de trabajo de IA, como capacitaciones de modelos e inferencia por lotes, así como la inferencia de modelos de servicio, para que los modelos puedan realizar predicciones.

Para facilitar el envío de nuevos escenarios de IA, el servicio ofrece capacidades de entrega continua y garantiza el aislamiento del arrendatario con varios arrendatarios. Para proteger sus costos y escalar según la demanda, solo paga por los recursos que utilizó, pero puede aprovechar la escalabilidad y un mayor rendimiento impulsado por GPU.

Toda la funcionalidad viene lista para usar y se gestiona para usted mientras conserva la apertura a cualquier marco de IA para que pueda enviar su escenario de IA fácilmente.

Para conectarse a sus aplicaciones de negocio y operar sus escenarios de IA en la plataforma de lanzamiento de IA, SAP AI Core brinda la interfaz de IA estandarizada, la API de IA, que brinda un marco común para consumir y operar sus escenarios de IA.

Durante el desarrollo de sus escenarios de IA, se le da soporte con las herramientas de desarrollo, como SAP AI Core SDK, y con total flexibilidad en la elección del almacenamiento de sus datos y modelos.

El proceso de creación de un nuevo escenario de IA en SAP AI Core implica los siguientes pasos: una configuración inicial, la formación de modelo y la inferencia. A continuación se muestra el flujo de trabajo de ML de extremo a extremo en SAP AI Core, que muestra los diferentes subpasos en cada uno de estos pasos. Más adelante, comenzaremos con la incorporación y la configuración inicial de su instancia de SAP AI Core y SAP AI Launchpad.

Descripción del flujo de trabajo de ML de extremo a extremo en SAP AI Core: incorporación, carga de datos, formación, despliegue de modelo, servicio de modelo (inferencia) mediante punto de acceso REST.

SAP AI Launchpad

SAP AI Launchpad es un servicio en SAP Business Technology Platform (SAP BTP) para gestionar de forma transparente los modelos de IA en toda la empresa. Conéctese a tiempos de ejecución habilitados por API de IA, incluyendo SAP AI Core, y centralice la gestión del ciclo de vida de IA para sus escenarios de IA con una interfaz de usuario conveniente. La aplicación actúa como el único punto de acceso para todo el contenido de IA en toda su infraestructura de SAP. Desde la perspectiva de MLOps, SAP AI Launchpad proporciona a los clientes las capacidades para capturar y analizar métricas creadas por tiempos de ejecución de IA admitidos, por ejemplo, SAP AI Core.

Los usuarios pueden comparar y visualizar esas métricas. La integración entre SAP AI Launchpad y los tiempos de ejecución de IA admitidos se facilita mediante una interfaz estandarizada llamada "API de IA". Además, la aplicación se centra en dar soporte a la gestión del ciclo de vida completo y las operaciones de los procesos de IA proporcionando una visión holística de todas las métricas, artefactos, etc. disponibles a través de los tiempos de ejecución de IA integrados y le permite analizar y evaluar los KPI de IA productivos críticos. Los clientes también pueden producir modelos de formación existentes de tiempos de ejecución de IA compatibles o desencadenar jobs e implementar modelos directamente mediante SAP AI Launchpad.

Descripción de SAP AI Launchpad, que es una aplicación web para operar y supervisar la plataforma central de SAP AI, así como otras plataformas de IA en la nube.

¿Cuál es el valor añadido de SAP AI Launchpad?

  • Centralice la gestión del ciclo de vida de IA

    Con SAP AI Launchpad, los clientes pueden conectarse a todos los servicios habilitados por IA API y optimizar la gestión del ciclo de vida de IA de sus escenarios de IA SAP AI Launchpad. Benefíciese de un estado de modelo uniforme, así como de una formación e implementación uniformes, independientemente de la tecnología subyacente. Como tal, SAP AI Launchpad no solo aumentará la transparencia, sino que también permitirá impulsar la innovación reutilizando el contenido de IA.

  • Supervisar y mejorar continuamente el rendimiento del modelo

    Los clientes se benefician de una nueva formación de modelo simplificada para mejorar continuamente el rendimiento de su modelo. También pueden producir modelos de formación existentes de tiempos de ejecución de IA admitidos o desencadenar jobs e implementar modelos directamente mediante SAP AI Launchpad. Los diferentes grupos de recursos (arrendatario) se visualizan en SAP AI Launchpad.

Configuración de AI Core

Vea el siguiente vídeo para obtener información sobre la configuración central de IA.

Grupos de recursos

El concepto de arrendatario de SAP proporciona una separación de datos y áreas de trabajo de clientes en un sistema SAP.

Como SAP AI Core se basa en un clúster de Kubernetes, la separación técnica se logra utilizando grupos de recursos de Kubernetes. Puede crear grupos de recursos para aislar cargas de trabajo ML, por ejemplo, para separar usuarios/arrendatarios.

Hay 2 casos de uso:

  • Una línea de negocio de SAP proporciona IA integrada para diferentes clientes: la línea de negocio administra el arrendatario de BTP para SAP AI Core. Para garantizar que los datos del cliente y los activos de IA, como modelos y flujos de trabajo de capacitación, estén seguros/protegidos, cada "subarrendatario", es decir, el cliente se gestiona en AI Core mediante un grupo de recursos independiente.

  • Un cliente utiliza SAP AI Core directamente: ya que el cliente utiliza su propia organización BTP (es decir, Arrendatario), los datos y los activos de IA son seguros y otros clientes no pueden acceder a ellos. El Cliente aún puede utilizar grupos de recursos para separar datos y activos de IA para diferentes departamentos asignando un grupo de recursos para cada departamento de la empresa.

https://help.sap.com/docs/AI_CORE/2d6c5984063c40a59eda62f4a9135bee/8aae6cbe2c0e4290954b8f61b4b355b7.html?locale=en-US

Conecte herramientas y gestione sus credenciales

Crear secretos para sus herramientas significa que puede conectar programas y herramientas externos sin comprometer su cuenta. Las herramientas se pueden utilizar para incorporar control de versiones, almacenamiento en la nube y contenedores portátiles.

El uso de SAP AI Core junto con herramientas externas como GitHub, Docker y el almacenamiento de Amazon Web Services S3 aprovecha los beneficios del control de versiones, la contenerización y el almacenamiento en la nube. Como resultado, su contenido se pone a disposición de forma remota, donde tiene una conexión a Internet estable.

Esta sección es un procedimiento único. Se trata de una configuración basada en operaciones de desarrollo que conecta estas herramientas con su SAP AI Core. Puede repetir los pasos, si es necesario, por ejemplo, para eliminar o sustituir el acceso a una herramienta externa.

Nota

Debe haber completado las tareas en Configuración inicial antes de configurar su instancia de SAP AI Core.

Prerrequisitos

Pasos

  1. Gestione su repositorio Git.

    Puede utilizar su propio repositorio Git para controlar la versión de sus plantillas SAP AI Core. La incorporación de GitOps a instancias de SAP AI Core implica configurar su repositorio Git y sincronizar su contenido.

    1. Gestionar su repositorio Git | SAP Help Portal

  2. Gestionar grupos de recursos.

    Un grupo de recursos representa un entorno de área de trabajo único en el que los usuarios pueden crear o añadir entidades, como configuraciones, ejecuciones, despliegues y artefactos.

    1. Gestión de grupos de recursos | SAP Help Portal

  3. Gestione sus credenciales de archivo de objetos.

    Conecte SAP AI Core a un almacén de objetos en la nube y gestione el acceso mediante un secreto de almacén de objetos. El almacenamiento conectado se utiliza como almacenamiento para su conjunto de datos, modelos y otros archivos de caché de Metaflow Library para SAP AI Core.

    1. Gestión de credenciales de almacén de objetos | SAP Help Portal

  4. Gestionar credenciales de docker.

    Docker facilita el embalaje y la ejecución de una aplicación en un contenedor remoto. Conecte SAP AI Core a un repositorio de Docker y gestione el acceso mediante un secreto de registro de Docker.

    1. Gestión de credenciales de Docker | SAP Help Portal