O que é o Gerenciador de dados do Azure?

O Azure Data Explorer é uma plataforma de análise de Big Data totalmente gerenciada e de alto desempenho que facilita a análise de grandes volumes de dados quase em tempo real. A caixa de ferramentas do Azure Data Explorer fornece uma solução de ponta a ponta para ingestão, consulta, visualização e gerenciamento de dados.

Ao analisar dados estruturados, semi-estruturados e não estruturados em séries temporais e usando o aprendizado de máquina, Azure Data Explorer torna simples extrair insights importantes, detectar padrões e tendências e criar modelos de previsão. O Azure Data Explorer usa um modelo relacional tradicional, organizando dados em tabelas com esquemas fortemente tipadas. As tabelas são armazenadas em bancos de dados e um cluster pode gerenciar vários bancos de dados. Azure Data Explorer é escalonável, seguro, robusto e pronto para empresas. É útil para análise de log, análise de série temporal, IoT e análise exploratória de uso geral.

Outros serviços criados com base em sua linguagem de consulta, Kusto Query Language (KQL), estendem as funcionalidades do Azure Data Explorer. Esses serviços incluem Azure Monitor Logs, Application Insights e Microsoft Defender para Ponto de Extremidade.

Quando você deve usar o Azure Data Explorer?

Use as seguintes perguntas para decidir se o Azure Data Explorer é o certo para o seu caso de uso:

  • Análise interativa: a análise interativa faz parte da solução? Por exemplo, agregação, correlação ou detecção de anomalias.
  • Variedade, velocidade, volume: seu esquema é diverso? Você precisa ingerir grandes quantidades de dados quase em tempo real?
  • Organização de dados: deseja analisar dados brutos? Por exemplo, dados que não são um esquema de estrela totalmente coletado.
  • Simultaneidade da consulta: vários usuários ou processos usarão o Azure Data Explorer?
  • Build vs. buy: você planeja personalizar sua plataforma de dados?

Azure Data Explorer é ideal para habilitar recursos de análise interativa em dados brutos diversos e de alta velocidade. Use a árvore de decisão a seguir como auxílio para decidir se o Azure Data Explorer é o certo para você:

Diagrama de árvore de decisão que orienta você sobre quando usar Azure Data Explorer com base em suas necessidades de análise.

O que torna o Azure Data Explorer único?

Velocidade, variedade e volume de dados

Com o Azure Data Explorer, você pode importar terabytes de dados em minutos usando ingestão enfileirada ou ingestão por streaming. Você pode consultar petabytes de dados, com resultados retornados em um tempo que varia de milissegundos a segundos. O Azure Data Explorer fornece alta velocidade (milhões de eventos por segundo), baixa latência (segundos) e ingestão de dados brutos em escala linear. Ingira seus dados em diferentes formatos e estruturas, vindos de vários pipelines e fontes.

Linguagem de consulta amigável

Consulte o Azure Data Explorer usando Linguagem de Consulta Kusto (KQL), uma linguagem de código aberto criada pela equipe do Azure Data Explorer. A linguagem é simples de entender e aprender e altamente produtiva. Você pode usar operadores simples e análise avançada. O Azure Data Explorer também dá suporte ao T-SQL.

Análise avançada

Use Azure Data Explorer para análise de série temporal com um grande conjunto de funções, incluindo adição e subtração de série temporal, filtragem, regressão, detecção de sazonalidade, análise geoespacial, detecção de anomalias, verificação e previsão. As funções de série temporal são otimizadas para processar milhares de séries temporais em segundos. A detecção de padrões é fácil com plug-ins de cluster que podem diagnosticar anomalias e fazer análise de causa raiz. Você também pode estender as funcionalidades do Azure Data Explorer incorporando código Python em consultas KQL.

Assistente fácil de usar

A experiência de obtenção de dados torna o processo de ingestão de dados fácil, rápido e intuitivo. A interface do usuário da Web Azure Data Explorer fornece uma experiência intuitiva e guiada que ajuda você a começar rapidamente a ingerir dados, criar tabelas de banco de dados e estruturas de mapeamento. Ele habilita a ingestão única ou contínua de várias fontes e em vários formatos de dados. Mapeamentos de tabela e esquema são sugeridos automaticamente e fáceis de modificar.

Visualização de dados versátil

A visualização de dados ajuda você a obter insights importantes. O Azure Data Explorer oferece visualização integrada e painéis prontos para uso, com suporte para vários tipos de gráficos e visualizações. Ele tem integração nativa com Power BI, conectores nativos para Grafana, Kibana e Databricks e suporte ODBC para Tableau, Sisense, Qlik e muito mais.

Ingestão, processamento e exportação automáticos

Azure Data Explorer dá suporte a funções armazenadas do lado do servidor, ingestão contínua e exportação contínua para Azure Data Lake Storage. Ele também dá suporte a transformações de mapeamento de tempo de ingestão no lado do servidor, políticas de atualização e agregações agendadas pré-computadas com exibições materializadas.

Fluxo do Gerenciador de dados do Azure

O diagrama a seguir mostra os diferentes aspectos de como trabalhar com o Data Explorer do Azure.

Diagrama que mostra o fluxo de trabalho Azure Data Explorer, desde a criação de um banco de dados até a ingestão, consulta e visualização de dados.

Ao interagir com Azure Data Explorer, você normalmente segue este fluxo de trabalho:

Observação

Você pode acessar seus recursos do Azure Data Explorer na interface do usuário da Web do Azure Data Explorer ou usando SDKs.

  1. Criar um banco de dados: Crie um cluster e crie um ou mais bancos de dados nesse cluster. Cada Azure Data Explorer cluster pode conter até 10.000 bancos de dados e cada banco de dados pode conter até 10.000 tabelas. Os dados em cada tabela são armazenados em fragmentos de dados, também chamados de extensões. Todos os dados são indexados e particionados automaticamente com base no tempo de ingestão. Essa arquitetura de armazenamento significa que você pode armazenar uma grande quantidade de dados variados e obter acesso rápido ao consultá-los. Início rápido: Criar um cluster do Gerenciador de dados do Azure e o banco de dados

  2. Ingerir dados: Carregue dados em tabelas de banco de dados para que você possa executar consultas sobre ele. O Azure Data Explorer é compatível com vários métodos de ingestão, cada qual com cenários de destino próprios. Esses métodos incluem ferramentas de ingestão, conectores e plug-ins para diversos serviços, pipelines gerenciados, ingestão programática usando SDKs e acesso direto à ingestão. Comece a usar a experiência de obtenção de dados.

  3. Consultar um banco de dados: Azure Data Explorer usa a Linguagem de Consulta Kusto, que é uma linguagem de consulta expressiva, intuitiva e altamente produtiva. Ele oferece uma transição suave de linhas simples para scripts de processamento de dados complexos e dá suporte à consulta de dados estruturados, semiestruturados e não estruturados (pesquisa de texto). O idioma tem uma ampla variedade de funções e operadores de consulta, incluindo agregação, filtragem, funções de série temporal, funções geoespaciais, junções e uniões. O KQL dá suporte a consultas entre clusters e entre bancos de dados e é um recurso avançado para analisar formatos como JSON e XML. A linguagem também dá suporte nativo à análise avançada.

    Use o aplicativo Web para executar, examinar e compartilhar consultas e resultados. Você também pode enviar consultas programaticamente (usando um SDK) ou para um ponto de extremidade da API REST. Se você tem familiaridade com SQL, comece com a guia de referência de SQL para Kusto e o Início rápido: Consultar dados na interface web do Azure Data Explorer.

  4. Visualizar resultados: Use diferentes exibições visuais de seus dados nos painéis de Azure Data Explorer nativos. Você também pode exibir seus resultados usando conectores para alguns dos principais serviços de visualização, como Power BI e Grafana. Azure Data Explorer também tem suporte de conector ODBC e JDBC para ferramentas como Tableau e Sisense.

Fornecer comentários

Para compartilhar comentários sobre Azure Data Explorer e a Linguagem de Consulta Kusto, use os seguintes recursos: