Intégration de SAP AI Core et de SAP AI Launchpad

Configuration de SAP AI Core et de SAP AI Launchpad

Objectives

After completing this lesson, you will be able to:
  • d'illustrer le processus impliqué dans l'utilisation de SAP AI Core et SAP AI Launchpad
  • Connectez SAP AI Core et SAP AI Launchpad aux référentiels Docker et GitHub de l'utilisateur.

SAP AI Core

Quelle est la valeur ajoutée de SAP AI Core ?

Remarque

Ce Learning Journey se concentre sur le cœur de l'IA de SAP.

Reportez-vous au parcours de formation Résolution de vos problèmes de gestion à l'aide de messages d'attente et de LLM dans Generative AI Hub de SAP pour utiliser le hub d'IA génératif de SAP pour résoudre vos problèmes de gestion à l'aide de LLM, de SAP AI Launchpad et de SDK pour concentrateur générique.

Vous serez également en mesure d'appliquer des techniques pour affiner et évaluer les messages d'attente à l'aide de différents modèles de langage volumineux dans le hub d'IA générative.

  • Gagnez en tranquillité d'esprit avec les déploiements gérés par SAP

    Avec SAP AI Core, les clients gagnent en tranquillité d'esprit car ils bénéficient d'un service complet qui regroupe toutes les dépendances et masque la complexité liée à la création de votre propre formation et au service d'un environnement de production. Au lieu de cela, SAP AI Core expose des points de terminaison API simples pour intégrer l'IA à vos applications d'entreprise.

  • Intégrer rapidement l'IA aux applications et processus métier SAP

    Les clients peuvent tirer parti de l'intégration standardisée aux applications SAP pour créer et intégrer rapidement leurs cas d'utilisation de l'IA dans leurs applications de gestion.

  • Trouver le juste équilibre entre les coûts et les performances

    D'une part, les clients bénéficient de performances accélérées grâce au support GPU pour exécuter leurs cas d'utilisation les plus gourmands en ressources à grande échelle. D'autre part, les clients fonctionnent efficacement tout en gardant le contrôle de leurs coûts en exploitant l'autoscaling intégré et la mise à l'échelle zéro ainsi qu'en choisissant parmi une large gamme de plans de services de stockage, CPU et GPU.

    SAP AI Core utilise des clusters Kubernetes qui fournissent des fonctionnalités éprouvées pour l'exécution d'applications basées sur des conteneurs pour l'entraînement et le service de modèles d'IA. Un tel cluster peut fournir différentes ressources en fonction des besoins actuels. Par exemple, les nœuds GPU pour les modèles d’IA lourds ou l’exécution de pipelines ML AI complexes qui nécessitent des ressources différentes par étape. L'infrastructure Kubernetes est très rapide et flexible (mise à l'échelle supérieure/descendante des conteneurs qui exécutent le code IA).

  • Modéliser une fois et servir plusieurs clients

    Les clients bénéficient d'une formation simplifiée et d'une inférence avec des schémas réutilisables et peuvent fournir des schémas de modèle pour leurs clients ou leurs équipes internes, afin d'entraîner le modèle sur leurs propres données.

Opérationnalisez l'IA avec SAP AI Core, c'est-à-dire intégrez l'IA à SAP et les applications personnalisées à l'aide de l'API d'IA. Les données peuvent être extraites de SAP HANA Cloud, stockage externe Cloud ou sur site.

Pour concrétiser ces valeurs ajoutées, SAP AI Core et SAP AI Launchpad offrent des fonctionnalités de niveau professionnel pour produire et exploiter vos modèles d'IA. Les principales fonctionnalités fournies par SAP AI Core sont l'orchestration des workflows d'IA, tels que les entraînements de modèles et l'inférence par lots, ainsi que l'inférence de modèle de service, afin que les modèles puissent faire des prévisions.

Pour faciliter l'envoi de nouveaux scénarios d'IA, le service offre des fonctionnalités de livraison continues et garantit l'isolation des locataires avec la multi-location. Pour protéger vos coûts et vous adapter à la demande, vous ne payez que les ressources que vous avez utilisées, mais vous pouvez profiter de l'évolutivité et des performances accrues optimisées par les GPU.

Toutes les fonctionnalités sont prêtes à l'emploi et sont gérées pour vous tout en conservant l'ouverture à n'importe quelle infrastructure d'IA afin que vous puissiez expédier facilement votre scénario d'IA.

Pour vous connecter à vos applications d'entreprise ainsi que pour utiliser vos scénarios d'IA dans AI Launchpad, SAP AI Core fournit l'interface d'IA standardisée, l'API d'IA, qui fournit une infrastructure commune pour la consommation et l'exploitation de vos scénarios d'IA.

Lors du développement de vos scénarios d'IA, vous êtes pris en charge avec des outils de développement, tels que le SDK principal de SAP AI, et une flexibilité totale dans le choix du stockage pour vos données et modèles.

Le processus de création d'un nouveau scénario d'IA sur SAP AI Core implique les étapes suivantes : une configuration initiale, l'entraînement du modèle et l'inférence. Vous trouverez ci-dessous le workflow d'apprentissage automatique de bout en bout dans SAP AI Core, qui affiche les différentes sous-étapes de chacune de ces étapes. Par la suite, nous commencerons par l'intégration et la configuration initiale de votre instance de SAP AI Core et SAP AI Launchpad.

Description du workflow d'apprentissage automatique de bout en bout dans SAP AI Core : intégration, chargement de données, entraînement, déploiement de modèle, service de modèle (inférence) via le point d'extrémité REST.

Barre de lancement SAP AI

SAP AI Launchpad est un service sur SAP Business Technology Platform (SAP BTP) qui permet de gérer de manière transparente les modèles d'IA dans toute l'entreprise. Connectez-vous aux exécutions basées sur les API d'IA, y compris SAP AI Core, et centralisez la gestion du cycle de vie de l'IA pour vos scénarios d'IA à l'aide d'une interface utilisateur pratique. L'application sert de point d'accès unique pour tous les contenus d'IA dans votre infrastructure SAP. Du point de vue des MLOps, SAP AI Launchpad fournit aux clients les fonctionnalités de capture et d'analyse des métriques qui ont été créées par des exécutions d'IA prises en charge, par exemple, SAP AI Core.

Les utilisateurs peuvent comparer et visualiser ces métriques. L'intégration entre SAP AI Launchpad et les exécutions AI prises en charge est facilitée par une interface standardisée appelée « API IA ». En outre, l'application se concentre sur la prise en charge de la gestion complète du cycle de vie et des opérations des processus d'IA en fournissant une vue holistique de toutes les métriques, artefacts, etc. mis à disposition via les exécutions intégrées de l'IA et vous permet d'analyser et d'évaluer les KPI d'IA productifs critiques. Les clients peuvent également productiser des modèles d'entraînement existants d'exécutions d'IA prises en charge ou déclencher des jobs et déployer des modèles directement à l'aide de SAP AI Launchpad.

Description de SAP AI Launchpad, une application Web permettant d'exploiter et de surveiller la plateforme SAP AI Core ainsi que d'autres plateformes d'IA Cloud.

Quelle est la valeur ajoutée de SAP AI Launchpad ?

  • Centralisez la gestion du cycle de vie de l'IA

    Avec SAP AI Launchpad, les clients peuvent se connecter à tous les services basés sur les API d'IA et rationaliser la gestion du cycle de vie de l'IA de leurs scénarios d'IA SAP AI Launchpad. Bénéficiez d'un statut de modèle uniforme ainsi que d'une formation et d'un déploiement uniformes, quelle que soit la technologie sous-jacente. En tant que tel, SAP AI Launchpad améliorera non seulement la transparence, mais permettra également de stimuler l'innovation en réutilisant le contenu de l'IA.

  • Surveillance et amélioration continue des performances du modèle

    Les clients bénéficient d'un nouvel entraînement simplifié du modèle pour améliorer continuellement leurs performances. Ils peuvent également productiser des modèles d'entraînement existants d'exécutions d'IA prises en charge ou déclencher des jobs et déployer des modèles directement à l'aide de SAP AI Launchpad. Les différents groupes de ressources (locataire) sont affichés dans la barre de lancement SAP AI.

Configuration centrale de l'IA

Regardez la vidéo suivante pour en savoir plus sur la configuration centrale de l'IA.

Groupes de ressources

Le concept de locataire SAP fournit une séparation des données et des espaces de travail des clients dans un système SAP.

Comme SAP AI Core est basé sur un cluster Kubernetes, la séparation technique est réalisée à l'aide des groupes de ressources Kubernetes. Vous pouvez créer des groupes de ressources pour isoler les charges de travail ML, par exemple, pour séparer les utilisateurs/locataires.

Il existe deux cas d'utilisation :

  • Un secteur d'activité SAP fournit une IA intégrée pour différents clients : le secteur d'activité administre le locataire BTP pour SAP AI Core. Afin de s’assurer que les données client et les ressources d’IA telles que les modèles et les workflows d’entraînement sont sécurisées, chaque « sous-locataire », c’est-à-dire que le client est géré dans AI Core à l’aide d’un groupe de ressources distinct.

  • Un client utilise SAP AI Core directement : étant donné que le client utilise sa propre organisation BTP (par ex. locataire), les données et les ressources d'IA sont sécurisées et ne sont pas accessibles aux autres clients. Le Client peut toujours utiliser des groupes de ressources pour séparer les données et les actifs d'IA pour différents services en affectant un groupe de ressources pour chaque service de l'entreprise.

https://help.sap.com/docs/AI_CORE/2d6c5984063c40a59eda62f4a9135bee/8aae6cbe2c0e4290954b8f61b4b355b7.html?locale=en-US

Connecter les outils et gérer vos identifiants

La création de secrets pour vos outils signifie que vous pouvez connecter des programmes et des outils externes sans compromettre votre compte. Les outils peuvent être utilisés pour intégrer le contrôle de version, le stockage cloud et les conteneurs portables.

L'utilisation de SAP AI Core avec des outils externes tels que le stockage GitHub, Docker et Amazon Web Services S3 exploite les avantages du contrôle de version, de la conteneurisation et du stockage cloud. Par conséquent, votre contenu est mis à disposition à distance, où vous avez une connexion Internet stable.

Cette section est une procédure unique. Il s'agit d'une configuration basée sur les opérations de développement qui connecte ces outils à votre SAP AI Core. Vous pouvez répéter les étapes, si nécessaire, par exemple pour supprimer ou remplacer l'accès à un outil externe.

Remarque

Vous devez avoir terminé les tâches dans la configuration initiale avant de configurer votre instance SAP AI Core.

Conditions requises

Étapes

  1. Gérez votre référentiel Git.

    Vous pouvez utiliser votre propre référentiel Git pour contrôler la version de vos modèles SAP AI Core. L'intégration de GitOps aux instances SAP AI Core implique la configuration de votre référentiel Git et la synchronisation de votre contenu.

    1. Gestion de votre référentiel Git | SAP Help Portal

  2. Gestion des groupes de ressources.

    Un groupe de ressources représente un environnement d'espace de travail unique dans lequel les utilisateurs peuvent créer ou ajouter des entités telles que des configurations, des exécutions, des déploiements et des artefacts.

    1. Gestion des groupes de ressources | SAP Help Portal

  3. Gérez vos identifiants pour l'archive des objets.

    Connectez SAP AI Core à un magasin d'objets Cloud et gérez l'accès à l'aide d'un secret d'archive objets. Le stockage connecté est utilisé comme stockage pour votre jeu de données, vos modèles et d'autres fichiers cache de la bibliothèque de métadonnées pour SAP AI Core.

    1. Gestion de vos identifiants d'archive objets | SAP Help Portal

  4. Gérez les identifiants Docker.

    Docker facilite l'emballage et l'exécution d'une application dans un conteneur distant. Connectez SAP AI Core à un référentiel Docker et gérez l'accès à l'aide d'un secret de registre Docker.

    1. Gestion des identifiants Docker | SAP Help Portal