Integração do SAP AI Core e do SAP AI Launchpad

Configuração do SAP AI Core e do SAP AI Launchpad

Objectives

After completing this lesson, you will be able to:
  • Ilustrar o processo envolvido no trabalho com o SAP AI Core e o SAP AI Launchpad
  • Conectar o SAP AI Core e o SAP AI Launchpad ao docker do usuário e aos repositórios do GitHub

SAP AI Core

Qual é o valor agregado do SAP AI Core?

Nota

Esta Learning Journey se concentra apenas no núcleo de IA da SAP.

Consulte a jornada de aprendizagem Resolvendo seus problemas de negócios Usando prompts e LLMs no SAP Generative AI Hub para usar o AI Hub generativo da SAP para resolver seus problemas de negócios usando LLMs, SAP AI Launchpad e SDK de ai-hub genérico.

Você também será capaz de aplicar técnicas para refinar e avaliar prompts usando diferentes modelos de linguagem grande no hub de IA generativa.

  • Tenha tranquilidade com as implementações gerenciadas pela SAP

    Com o SAP AI Core, os clientes ganham tranquilidade, pois se beneficiam de um serviço completo que agrupa todas as dependências e oculta a complexidade de criar seu próprio treinamento e servir o ambiente de produção. Em vez disso, o SAP AI Core expõe pontos de acesso de API simples para incorporar IA em seus aplicativos de negócios.

  • Integre rapidamente a IA em aplicativos e processos de negócios da SAP

    Os clientes podem aproveitar a integração padronizada com os aplicativos da SAP para criar e integrar rapidamente seus casos de uso de IA em seus aplicativos de negócios.

  • Alcançar o equilíbrio certo entre custos e desempenho

    Por um lado, os clientes se beneficiam do desempenho acelerado com o suporte de GPU para executar seus casos de uso com mais fome de recursos em escala. Por outro lado, os clientes são executados com eficiência, mantendo o controle de seus custos, aproveitando o escalonamento automático integrado e escalabilidade para zero, bem como escolhendo entre uma ampla gama de planos de serviço de armazenamento, CPU e GPU.

    O SAP AI Core usa clusters Kubernetes que fornecem recursos comprovados para execução de aplicativos baseados em contêiner para treinamento e atendimento de modelos de IA. Um cluster desse tipo pode fornecer diferentes recursos de acordo com as necessidades atuais. Por exemplo, nós de GPU para modelos de IA pesados ou executar pipelines complexos de IA ML que exigem recursos diferentes por etapa. A infraestrutura do Kubernetes é muito rápida e flexível (amplie/reduza os contêineres que executam o código AI).

  • Modelar uma vez e atender vários clientes

    Os clientes se beneficiam de treinamento e inferência simplificados com modelos reutilizáveis e podem fornecer esquemas de modelo para seus clientes ou equipes internas, para treinar o modelo com seus próprios dados.

Operacionalize a IA com o SAP AI Core, ou seja, integre a IA aos aplicativos da SAP e personalizados usando API de IA. Os dados podem ser extraídos do SAP HANA Cloud, do armazenamento externo na nuvem ou on-premise.

Para concretizar esses valores adicionados, o SAP AI Core e o SAP AI Launchpad oferecem recursos de nível empresarial para produzir e operar seus modelos de IA. Os principais recursos fornecidos pelo SAP AI Core são a orquestração de workflows de IA, como treinamentos de modelo e inferência em lote, além de servir a inferência de modelo, para que os modelos possam fazer previsões.

Para facilitar o envio de novos cenários de IA, o serviço oferece recursos de entrega contínua e garante o isolamento do locatário com multitenancy. Para salvaguardar seus custos e escalar sob demanda, você paga apenas pelos recursos que usou, mas pode aproveitar a escalabilidade e aumentar o desempenho com GPUs.

Todas as funcionalidades estão prontas para uso e são gerenciadas para você, mantendo a abertura a qualquer estrutura de IA para que você possa enviar seu cenário de IA facilmente.

Para se conectar a seus aplicativos de negócios e operar seus cenários de IA no AI Launchpad, o SAP AI Core fornece a interface de IA padronizada, a API de IA, que fornece uma estrutura comum para consumir e operar seus cenários de IA.

Durante o desenvolvimento de seus cenários de IA, você recebe suporte com ferramentas de desenvolvimento, como o SAP AI Core SDK, e total flexibilidade na escolha de armazenamento para seus dados e modelos.

O processo de criação de um novo cenário de IA no SAP AI Core envolve as seguintes etapas: uma configuração inicial, o treinamento do modelo e a inferência. Abaixo está o workflow de ML ponta a ponta no SAP AI Core, que mostra as várias subetapas em cada uma dessas etapas. Mais tarde, começaremos com a integração e a configuração inicial de sua instância do SAP AI Core e do SAP AI Launchpad.

Descrição do fluxo de trabalho de ML de ponta a ponta no SAP AI Core: integração, upload de dados, treinamento, implementação de modelo, atendimento de modelo (inferência) via ponto de acesso REST.

SAP AI Launchpad

O SAP AI Launchpad é um serviço no SAP Business Technology Platform (SAP BTP) para gerenciar modelos de IA com transparência em toda a empresa. Conecte-se a tempos de execução habilitados para IA API, incluindo o SAP AI Core, e centralize a gestão do ciclo de vida da IA para seus cenários de IA com uma interface de usuário conveniente. O aplicativo atua como o único ponto de acesso para todo o conteúdo de IA em toda a sua estrutura SAP. De uma perspectiva MLOps, o SAP AI Launchpad fornece aos clientes os recursos para capturar e analisar métricas que foram criadas pelos tempos de execução de IA suportados - por exemplo, SAP AI Core.

Os usuários podem comparar e visualizar essas métricas. A integração entre o SAP AI Launchpad e os tempos de execução de IA suportados é facilitada por uma interface padronizada chamada "AI API". Além disso, o aplicativo se concentra no suporte ao gerenciamento do ciclo de vida completo e às operações de processos de IA, fornecendo uma visão holística de todas as métricas, artefatos etc. disponibilizados por meio dos tempos de execução integrados da IA e permite que você analise e avalie KPIs críticos de IA produtivos. Os clientes também podem produzir modelos de treinamento existentes de tempos de execução de IA suportados ou acionar jobs e implementar modelos diretamente usando o SAP AI Launchpad.

Descrição do SAP AI Launchpad, que é um aplicativo da Web para operação e monitoramento da plataforma SAP AI Core, bem como de outras plataformas de IA na nuvem.

Qual é o valor agregado do SAP AI Launchpad?

  • Centralize a gestão do ciclo de vida da IA

    Com o SAP AI Launchpad, os clientes podem se conectar a todos os serviços habilitados por IA API e simplificar a gestão do ciclo de vida de IA de seus cenários de IA SAP AI Launchpad. Beneficie-se do status do modelo uniforme, bem como do treinamento e da implementação uniformes, independentemente da tecnologia subjacente. Assim, o SAP AI Launchpad não só aumentará a transparência, mas também possibilitará impulsionar a inovação reutilizando o conteúdo de IA.

  • Monitorar e melhorar continuamente o desempenho do modelo

    Os clientes se beneficiam da reciclagem simplificada do modelo para melhorar continuamente o desempenho do modelo. Eles também podem produzir modelos de treinamento existentes de tempos de execução de IA suportados ou acionar jobs e implementar modelos diretamente usando o SAP AI Launchpad. Os diferentes grupos de recursos (inquilino) são exibidos no SAP AI Launchpad.

Configuração principal AI

Assista ao vídeo a seguir para saber mais sobre a Configuração central de IA.

Grupos de recursos

O conceito de inquilino da SAP fornece uma separação de dados e áreas de trabalho de clientes em um sistema da SAP.

Como o SAP AI Core é baseado em um cluster Kubernetes, a separação técnica é alcançada usando Kubernetes Resource Groups. Você pode criar grupos de recursos para isolar cargas de trabalho de ML, por exemplo, para separar usuários/locatários.

Existem 2 casos de utilização:

  • Uma LoB da SAP fornece IA integrada para diferentes clientes: a LoB está administrando o locatário do BTP para o SAP AI Core. Para garantir que os dados do cliente e os ativos de IA, como modelos e fluxos de trabalho de treinamento, estejam seguros, cada "sublocatário", ou seja, o cliente é gerenciado no AI Core usando um grupo de recursos separado.

  • Um cliente está usando o SAP AI Core diretamente: como o cliente está usando sua própria organização BTP (ou seja, locatário), os dados e os ativos de IA são seguros e não podem ser acessados por outros clientes. O cliente ainda pode usar grupos de recursos para separar dados e ativos de IA para diferentes departamentos, atribuindo um grupo de recursos para cada departamento da empresa.

https://help.sap.com/docs/AI_CORE/2d6c5984063c40a59eda62f4a9135bee/8aae6cbe2c0e4290954b8f61b4b355b7.html?locale=en-US

Conectar ferramentas e gerenciar suas credenciais

Criar segredos para suas ferramentas significa que você pode conectar programas e ferramentas externas sem comprometer sua conta. As ferramentas podem ser usadas para incorporar controle de versão, armazenamento em nuvem e contêineres portáteis.

O uso do SAP AI Core junto com ferramentas externas, como armazenamento GitHub, Docker e Amazon Web Services S3, aproveita os benefícios do controle de versão, da conteinerização e do armazenamento em nuvem. Como resultado, seu conteúdo é disponibilizado remotamente, onde você tem uma conexão de internet estável.

Esta seção é um procedimento único. É uma configuração baseada em operações de desenvolvimento que conecta essas ferramentas ao SAP AI Core. Você pode repetir as etapas, se necessário, por exemplo, para remover ou substituir o acesso a uma ferramenta externa.

Nota

Você deve ter concluído tarefas na Configuração inicial antes de configurar sua instância SAP AI Core.

Pré-requisitos

Etapas

  1. Gerencie seu repositório Git.

    Você pode usar seu próprio repositório Git para controlar a versão de seus modelos SAP AI Core. A integração de GitOps em instâncias do SAP AI Core envolve a configuração de seu repositório Git e a sincronização de seu conteúdo.

    1. Gerenciando seu repositório Git | SAP Help Portal

  2. Administrar grupos de recursos.

    Um grupo de recursos representa um ambiente de área de trabalho único onde os usuários podem criar ou adicionar entidades, como configurações, execuções, implementações e artefatos.

    1. Gerenciamento de grupos de recursos | SAP Help Portal

  3. Gerencie suas credenciais de arquivo de objetos.

    Conecte o SAP AI Core a um armazenamento de objetos na nuvem e gerencie o acesso usando uma chave secreta do armazenamento de objetos. O armazenamento conectado é usado como armazenamento para seu conjunto de dados, modelos e outros arquivos de cache da biblioteca Metaflow para SAP AI Core.

    1. Gerenciando suas credenciais de arquivo de objetos | SAP Help Portal

  4. Gerencie as credenciais do docker.

    O Docker facilita a embalagem e a execução de uma aplicação em um container remoto. Conecte o SAP AI Core a um repositório Docker e gerencie o acesso usando uma chave secreta do registro Docker.

    1. Gerenciamento de credenciais Docker | SAP Help Portal