Vamos explorar as opções de integração no SAP Datasphere relacionadas à aquisição de dados.
Importação de arquivos CSV

No SAP Datasphere, o Gerador de dados fornece uma função de upload de arquivo CSV por padrão.
Você pode usar a opção Importar arquivo CSV para uploads manuais (em 25 MB). Para este recurso, não é necessário definir uma conexão.
Ele cria automaticamente uma tabela com colunas derivadas com base na estrutura do arquivo. Você pode aplicar várias regras de estruturação e transformação de dados, como concatenar, dividir, extrair, substituir, modificar ou filtrar.
Para carregar dados em uma tabela existente (sem transformações), use Carregar dados de arquivo CSV no editor de tabelas.
Nota
Para carregamentos maiores ou automatizados, uma conexão SFTP genérica deve ser configurada para se conectar e acessar arquivos em um servidor Secure File Transfer Protocol (SFTP).
Integração de dados usando conexões

Usando conexões com fontes, existem várias abordagens de integração de dados no SAP Datasphere:
- Tabelas remotas
Você pode usar tabelas remotas para:
acessar diretamente os dados na fonte (acesso remoto).
copiar o conjunto completo de dados (instantâneo ou replicação programada).
copiar alterações de dados em tempo real (replicação em tempo real).
- Fluxos
São oferecidos três tipos de movimentos:
Fluxo de dados: abordagem ETL tradicional: primeiro transforme os dados e depois armazene-os, seguindo o paradigma ETL estabelecido.
Fluxo de replicação: para cenários de TDR em que os dados são extraídos e carregados primeiro e, em seguida, transformados.
Fluxo de transformação: para transformações pós-carregamento em dados já carregados.
Arquitetura de integração de dados

O SAP Datasphere aproveita diferentes tecnologias para configurar conexões com fontes. Como resultado, cada conexão fornece diferentes funcionalidades, pré-requisitos e experiência do usuário.
Tabela remota
Principalmente, as fontes da SAP estão prontas para integrar seus dados como tabelas remotas. Para essa abordagem de integração de dados, o framework de federação do SAP HANA é atualmente baseado principalmente no SAP HANA Smart Data Integration (SDI) e em seu framework de provisionamento de dados (dpServer + dpAgent).
O dpAgent é um componente leve executado fora do ambiente SAP Datasphere. Ele hospeda adaptadores de provisionamento de dados para conectividade com fontes remotas, permitindo cenários de federação e replicação de dados. O dpAgent atua como um gateway para o SAP Datasphere, fornecendo conectividade segura entre o banco de dados do locatário do SAP Datasphere e as fontes remotas baseadas em adaptador.
O dpAgent é gerenciado pelo servidor de provisionamento de dados. Ele é necessário para todas as conexões SDI em geral. Por meio do agente de provisionamento de dados, os adaptadores de provisionamento de dados pré-instalados comunicam-se com o servidor de provisionamento de dados para conectividade, navegação de metadados e acesso aos dados. O agente de provisionamento de dados se conecta ao SAP Datasphere usando JDBC. Ele precisa ser instalado em um host local na sua rede e precisa ser configurado para uso com o SAP Datasphere.
Existem algumas fontes que podem configurar uma conexão direta (por exemplo, SAP SuccessFactors e SAP HANA Cloud). Para uma conexão direta com o SAP HANA on-premise, é usado o SAP HANA Smart Data Access (SDA) com o Cloud Connector.
Fluxo de replicação e fluxo de dados
O SAP Embedded Data Intelligence (DI) fornece a funcionalidade de fluxo de dados e fluxo de replicação. Neste cenário, os conectores DI são usados para alcançar fontes remotas. Para estabelecer uma conexão com essas fontes, o Cloud Connector é necessário para atuar como link entre o SAP Datasphere e a fonte. Antes de criar a conexão, o Cloud Connector requer uma configuração apropriada.
O Cloud Connector serve como um link entre o SAP Datasphere e suas fontes on-premise e é necessário para as conexões que você deseja usar nos seguintes casos de uso:
Fluxos de dados.
Fluxos de replicação.
Importação de modelo das conexões de transferência de modelo do SAP BW/4HANA (o Cloud Connector é necessário para a conexão de dados em tempo real do tipo túnel que você precisa para criar a conexão de importação de modelo).
Em casos raros, também para tabelas remotas: somente para SAP HANA on-premise via SDA.



