Comment exposer les données du DataLake ?

Comment exposer les données du DataLake ?

Cet article fait partie d’une série d’articles co-rédigés par Emmanuel Manceau (Quantmetry), Olivier Denti (Quantmetry) et Magali Barreau-Combeau (OVH) sur le sujet « Architecture – De la BI au Big Data ».

Au sein de l’écosystème « BigData », une fois les données brutes recopiées dans le datalake, se posent les points suivants :

– comment améliorer la connaissance de mes données

– comment mes données sont-elles structurées

– comment les visualiser, les manipuler

– comment les mettre à disposition

Plusieurs types de solutions existent pour permettre aux utilisateurs d’accéder aux données.

Outils dédiés à une population d’utilisateurs :

Search Based Application (moteur de recherche)

Utilisé essentiellement par les Utilisateurs avancés, Utilisateurs Finaux ou DataAnalyst, il permet de rechercher de l’information dans de grandes quantités de données (indexées depuis un modèle dénormalisé) sans forcément devoir pré-agréger la donnée. Une analyse, via IHM, sur toutes les dimensions est donc possible, avec d’excellents temps de réponse.

Base SQL Relationnelle

Utilisée essentiellement par les Utilisateurs avancés ou DataAnalyst, elle leurs permet de pouvoir réaliser des requêtes ad-hoc et joindre des data set comme ils le faisaient précédemment avec un Datawarehouse. Les données proviennent d’un sous-ensemble du Lakeshore.

DataLab

Utilisé par les DataScientist ou DataAnalyst, c’est le lieu d’expérimentation par excellence et de POC. La liberté est laissée aux utilisateurs de réaliser tout type de traitements (dont Machine Learning).

Outils de DataViz / Data Analytics

Utilisé essentiellement par les Utilisateurs avancés, Utilisateurs Finaux ou DataAnalyst pour visualiser et manipuler les données. Plusieurs outils peuvent être mis à disposition en fonction des exigences du use case (visualisation des données en temps réel, temps de réponse à la sélection, profondeur de l’historique etc.).

Outils dédiés au Système d’Information (SI)

Le SI de l’Entreprise est un « client » comme un autre des données du DataLake. On peut distinguer :

Export de données

Cette technique, plutôt utilisée en mode « batch », permet d’alimenter des systèmes en une seule fois (une fois par jour par exemple, après les traitements de nuit).

API

Les systèmes récupèrent des données unitaires via une interface (type WebService). Cette technique est par exemple utilisée dans un centre d’appels, où les frontaux des téléconseillers affichent un « score » client récupéré en temps réel lors de la consultation du dossier client.

Outils communs pour tous les acteurs

Quels que soient les types d’acteurs (utilisateurs, SI), il est impératif de connaître quelles sont les données présentes et comprendre comment elles ont été constituées. Deux outils sont alors nécessaires :

Dictionnaire de données

Le dictionnaire de données permet à un utilisateur de :

  • retrouver une information nécessaire, comme un objet métier

  • avoir une définition claire et précise de l’objet

  • identifier la localisation (table, colonne, fichier…) de cette information

Cette recherche se fait généralement par une recherche en texte libre et/ou une navigation à travers des facettes de navigation, afin de converger rapidement vers le résultat escompté.

Pour être pertinent, le dictionnaire prend également en compte les définitions des objets métier de l’Entreprise ainsi que leur rattachement à des domaines fonctionnels. Par objet métier, j’entends par exemple le « payeur », « titulaire », « contrat », « compte de facturation »…

Référentiel des transformations

Le référentiel des transformations, que l’on appelle également Data Lineage, permet de comprendre comment est constituée la donnée (à partir de quoi et comment).

Par exemple, le calcul du chiffre d’affaire peut résultat d’un agrégat de tous les tickets de caisses en excluant les achats réalisés lors des ventes privées. Idéalement, l’outil doit tracer les cheminements et transformations des données, depuis la réception des données brutes (tickets de caisses) jusqu’à leur enrichissement (dans quel contexte la vente a été réalisée), le filtrage (exclure les ventes privées) et l’exposition (faire la somme des montants).

Ce type d’outil (très demandé !) n’existe pas vraiment. Des suites logicielles (à condition qu’elles soient utilisées de bout en bout de la chaîne) sont à même de proposer un « lineage » mais les informations restituées sont très techniques et ne peuvent actuellement pas être mises à disposition à des utilisateurs « finaux ». L’alternative serait de documenter manuellement chaque étape de la transformation mais c’est une charge importante et qui doit nécessairement être maintenue dans le temps.