Descrição das opções de integração

Objective

After completing this lesson, you will be able to descreva as opções de integração no SAP Datasphere.

Integração de dados

Vamos explorar as opções de integração no SAP Datasphere relacionadas à aquisição de dados.

Importação de arquivos CSV

A figura mostra uma captura de tela da importação de um arquivo CSV no Gerador de dados.

No SAP Datasphere, o Gerador de dados fornece uma função de upload de arquivo CSV por padrão.

Você pode usar a opção Importar arquivo CSV para uploads manuais (em 25 MB). Para este recurso, não é necessário definir uma conexão.

Ele cria automaticamente uma tabela com colunas derivadas com base na estrutura do arquivo. Você pode aplicar várias regras de estruturação e transformação de dados, como concatenar, dividir, extrair, substituir, modificar ou filtrar.

Para carregar dados em uma tabela existente (sem transformações), use Carregar dados de arquivo CSV no editor de tabelas.

Nota

Para carregamentos maiores ou automatizados, uma conexão SFTP genérica deve ser configurada para se conectar e acessar arquivos em um servidor Secure File Transfer Protocol (SFTP).

Adquirir dados utilizando um arquivo CSV

Nesta simulação, os dados são adquiridos usando um arquivo CSV.

Integração de dados usando conexões

Esboço de visão geral com as opções para replicar ou federar dados. Tabelas remotas são usadas para federação, replicação de instantâneo ou replicação em tempo real. Uma tabela no SAP Datasphere pode ser preenchida usando um fluxo de dados ou um fluxo de replicação para atualizações 1:1, seguido de um fluxo de transformação.

Usando conexões com fontes, existem várias abordagens de integração de dados no SAP Datasphere:

  • Tabelas remotas

    Você pode usar tabelas remotas para:

    • acessar diretamente os dados na fonte (acesso remoto).

    • copiar o conjunto completo de dados (instantâneo ou replicação programada).

    • copiar alterações de dados em tempo real (replicação em tempo real).

  • Fluxos

    São oferecidos três tipos de movimentos:

    • Fluxo de dados: abordagem ETL tradicional: primeiro transforme os dados e depois armazene-os, seguindo o paradigma ETL estabelecido.

    • Fluxo de replicação: para cenários de TDR em que os dados são extraídos e carregados primeiro e, em seguida, transformados.

    • Fluxo de transformação: para transformações pós-carregamento em dados já carregados.

Arquitetura de integração de dados

Visão geral da conectividade de dados usando oData, dpAgent, Cloud Connector ou Amazon Athena ou Google Big Query.

O SAP Datasphere aproveita diferentes tecnologias para configurar conexões com fontes. Como resultado, cada conexão fornece diferentes funcionalidades, pré-requisitos e experiência do usuário.

Tabela remota

Principalmente, as fontes da SAP estão prontas para integrar seus dados como tabelas remotas. Para essa abordagem de integração de dados, o framework de federação do SAP HANA é atualmente baseado principalmente no SAP HANA Smart Data Integration (SDI) e em seu framework de provisionamento de dados (dpServer + dpAgent).

O dpAgent é um componente leve executado fora do ambiente SAP Datasphere. Ele hospeda adaptadores de provisionamento de dados para conectividade com fontes remotas, permitindo cenários de federação e replicação de dados. O dpAgent atua como um gateway para o SAP Datasphere, fornecendo conectividade segura entre o banco de dados do locatário do SAP Datasphere e as fontes remotas baseadas em adaptador.

O dpAgent é gerenciado pelo servidor de provisionamento de dados. Ele é necessário para todas as conexões SDI em geral. Por meio do agente de provisionamento de dados, os adaptadores de provisionamento de dados pré-instalados comunicam-se com o servidor de provisionamento de dados para conectividade, navegação de metadados e acesso aos dados. O agente de provisionamento de dados se conecta ao SAP Datasphere usando JDBC. Ele precisa ser instalado em um host local na sua rede e precisa ser configurado para uso com o SAP Datasphere.

Existem algumas fontes que podem configurar uma conexão direta (por exemplo, SAP SuccessFactors e SAP HANA Cloud). Para uma conexão direta com o SAP HANA on-premise, é usado o SAP HANA Smart Data Access (SDA) com o Cloud Connector.

Fluxo de replicação e fluxo de dados

O SAP Embedded Data Intelligence (DI) fornece a funcionalidade de fluxo de dados e fluxo de replicação. Neste cenário, os conectores DI são usados para alcançar fontes remotas. Para estabelecer uma conexão com essas fontes, o Cloud Connector é necessário para atuar como link entre o SAP Datasphere e a fonte. Antes de criar a conexão, o Cloud Connector requer uma configuração apropriada.

O Cloud Connector serve como um link entre o SAP Datasphere e suas fontes on-premise e é necessário para as conexões que você deseja usar nos seguintes casos de uso:

  • Fluxos de dados.

  • Fluxos de replicação.

  • Importação de modelo das conexões de transferência de modelo do SAP BW/4HANA (o Cloud Connector é necessário para a conexão de dados em tempo real do tipo túnel que você precisa para criar a conexão de importação de modelo).

  • Em casos raros, também para tabelas remotas: somente para SAP HANA on-premise via SDA.

Integração de modelagem

Vamos explorar as opções de integração no SAP Datasphere relacionadas à funcionalidade de modelagem.

Integração semântica

A figura mostra uma captura de tela da integração semântica (sistemas da SAP, rede de conteúdo e produtos de dados).

A integração semântica oferece um ponto de entrada central para importar objetos semanticamente ricos de seus sistemas SAP e da rede de conteúdo, bem como do Marketplace de dados públicos e de outros contextos de marketplace.

Importar objetos com semântica de sistemas da SAP

A figura mostra capturas de tela do assistente Importar entidades para metadados do SAP S/4HANA, SAP BW/4HANA e ponte do SAP BW.

Você pode usar o assistente Importar entidades para importar objetos semanticamente ricos de sistemas da SAP selecionados. O assistente cria entidades do Gerador de negócios e do Gerador de dados (juntamente com todos os objetos dos quais dependem) no SAP Datasphere.

Você pode importar objetos dos seguintes sistemas da SAP:

  • SAP S/4HANA Cloud
  • SAP S/4HANA on-premise
  • SAP BW/4HANA
  • SAP Datasphere, ponte do SAP BW
  • SAP HANA Cloud

Ao importar de sistemas SAP S/4HANA, recomendamos que, sempre que possível, você use o assistente Importar entidades para importar visões CDS desses tipos de conexão, pois ele é capaz de aproveitar sua semântica rica para importar objetos de nível superior e seguir associações a dimensões, hierarquias e entidades de texto e incluí-los na importação.

Somente conexões do SAP S/4HANA Cloud podem incluir entidades associadas na importação. As conexões on-premise do SAP S/4HANA não podem seguir associações, mas as informações são incluídas na definição de CSN de cada objeto importado e as associações serão recriadas automaticamente no SAP Datasphere se as entidades de destino já estiverem presentes ou forem importadas posteriormente.

Uso de containers HDI

A figura mostra como os dados de containers HDI e áreas podem ser trocados em cenários de modelagem, como descrito abaixo desta imagem.

É possível ativar o data warehousing SAP SQL no locatário do SAP Datasphere para trocar dados entre seus containers HDI e suas áreas do SAP Datasphere sem a necessidade de movimentação de dados.

Essa abordagem integrada do SAP SQL Data Warehousing permite que você adicione containers HDI à sua área e troque dados entre eles:

  1. Use visões de cálculo e outros objetos do SAP Business Application Studio como fontes para suas tabelas locais e fluxos de dados do SAP Datasphere.
  2. Use visões do SAP Datasphere expostas para consumo como fontes para suas visões de cálculo e fluxogramas do SAP Business Application Studio.

  3. Use tabelas do SAP Business Application Studio como destinos para seus fluxos de dados do SAP Datasphere.

Nota

Para uma configuração detalhada desses três cenários, você pode encontrar mais informações aqui: Uso de containers HDI com o SAP Datasphere

No SAP Datasphere, você também pode usar visões de cálculo do SAP HANA geradas a partir de objetos do SAP BW/4HANA, localizados no esquema _SYS_BIC.

Esquema SQL aberto

A figura mostra como ferramentas externas podem ser usadas com o SAP Datasphere usando o esquema Open SQL.

Um esquema Open SQL no SAP Datasphere fornece um ponto de acesso SQL flexível que permite recursos seguros de integração e modelagem de dados por meio de usuários do banco de dados. Ele cria um esquema dedicado no banco de dados SAP HANA subjacente que permite operações de leitura e escrita, facilitando o intercâmbio de dados perfeito entre o SAP Datasphere e sistemas externos.

Aqui estão alguns exemplos de como o esquema Open SQL pode ser usado:

  • Crie tabelas, visões e procedimentos armazenados usando instruções DDL e DML.
  • Escrever dados em tabelas.
  • Crie uma tabela para atuar como um destino para receber dados escritos de um fluxo de dados.
  • Servir como ponte para dados extraídos de sistemas de terceiros via middleware.
  • Aproveite os recursos integrados de machine learning do SAP HANA, incluindo APL, PAL, mecanismo espacial, processamento de texto e algoritmos gráficos para funções analíticas avançadas e modelagem preditiva.
  • Aproveite a anonimização e o mascaramento de dados
  • Ciência de dados: use ferramentas como cadernos Jupyter