Créer et lancer un process dans DQE One Standalone

Support DQE
Support DQE
  • Mise à jour

Un process est la manière de lancer une tâche de qualité de données ou de dédoublonnage dans DQE One Standalone. Chaque process est construit dans le même assistant à 4 onglets : Data Source, Input Mapping, Data Filter et Results.

Démarrer un nouveau process

Ouvrez l'écran "Choose a process kind" depuis l'icône + à côté de Processes dans la navigation de gauche, ou depuis la page d'accueil ("Start now and select the process you want to run"). Il existe 8 types de process, regroupés de la même façon sur les deux écrans :

GroupeType de processDescription affichée sur la carte
Data PreparationFind & ReplaceFind a word or a pattern and replace it by another one
FormatFormat your fields by using a regex formula
Data Quality CheckCheck EmailCheck the format and/or the existence of your email addresses
Check Postal AddressCheck the format and/or the existence of your postal addresses
Check B2BCheck the format and/or the existence of your B2B account
Check PhoneCheck the format and/or the existence of your phone numbers
DeduplicateUnify ProcessFind duplicate in your database and merge them if needed
Index RecordsIndex records from your database to enable the real time duplicate check APIs

Choisir une carte vous amène directement dans l'assistant correspondant à ce type. Un process exécute toujours un seul type — pour vérifier à la fois l'email et le téléphone par exemple, créez deux process (vous pouvez les enchaîner, voir Advanced Options ci-dessous).

1. Data Source

Connectez ou réutilisez une source de données, puis choisissez l'objet/ la table ou téléversez un fichier. Voir l'article séparé Connect a data source in DQE One Standalone — cette étape est identique quel que soit le type de process.

2. Input Mapping

Ce que vous voyez ici dépend entièrement du type de process.

Find & Replace et Format

Les deux types partagent le même écran. Ajoutez une ou plusieurs lignes, chacune avec :

  • Field to process
  • Value to find (Find & Replace) ou Format to find (Format) — avec une case à cocher : "Check the box if the value/format to find is a regex formula."
  • Value to replace by / Format to replace by

Cliquez pour ajouter d'autres lignes pour des champs supplémentaires.

Check Email

Choisissez le champ Email field à valider.

Check Phone

Choisissez le Phone field et le Country field, puis définissez :

  • Separator — Space, Point ou Dash.
  • Phone output format (obligatoire) — choisissez parmi : National format without spaces; National format with country-specific digit grouping; International format with country-specific digit grouping; International format with space between country code and subscriber number; International format with trunk prefix and compact subscriber number; International format without spaces; International format with trunk prefix and country-specific digit grouping; International format without spaces and without leading plus sign.

Check Postal Address

Choisissez les champs Street, Additional Address 1, Additional Address 2, City, State, Postal Code et Country, un Field Tag (ex. "CustomAddress") et une Default country value. Sous le mapping, choisissez les champs de résultat à recevoir dans le multisélecteur RNVP Output Mapping (une option "tout sélectionner" est disponible).

Check B2B

Choisissez SIRET Field et Company Name Field, plus les mêmes champs Street/City/State/Postal Code/ Country/Field Tag/Default country que Check Postal Address. Choisissez les champs de résultat dans le multisélecteur B2B Output Mapping.

Unify Process (détection de doublons)

Choisissez un Primary key field, puis attachez un Rules Set — voir "Attacher un RuleSet" ci-dessous. Si votre source est un connecteur en direct (Salesforce, Dynamics, Postgres, BigQuery ou Snowflake), une étape supplémentaire "Select Objects to reparent" vous permet de choisir quels champs de l'objet parent sont mis à jour lorsqu'un doublon lui est fusionné (non affichée pour les sources CSV/SFTP, ni pour Find & Replace/Format/Index Records).

Index Records

Choisissez un Primary key field et, optionnellement, un Parent Id field, puis attachez un Rules Set (règles de matching uniquement — aucune règle de fusion/ reparenting ne s'applique ici).

Attacher un RuleSet

Unify Process et Index Records nécessitent tous deux un Rules Set : sélectionnez-en un dans la liste (seuls les RuleSets déjà publiés correspondant à l'objet de votre source — ou, pour CSV/SFTP, correspondant exactement aux en-têtes de colonnes — sont proposés). Une fois sélectionné, vous verrez des aperçus en lecture seule de ses règles de Matching, de règles de Parent record et de règles de Merging (Merging/Parent uniquement pour Unify Process).

Un RuleSet doit déjà exister et être publié pour apparaître ici — vous ne pouvez pas configurer de règles de matching/merging directement ici. Si vous avez besoin d'un nouveau RuleSet, cliquez sur Create new set : cela ouvre l'éditeur de RuleSet dans un nouveau contexte déjà lié à ce process, afin que vous puissiez revenir terminer une fois celui-ci publié. Voir Create and configure a RuleSet in DQE One Standalone.

3. Output Source (optionnel)

Affiché pour tous les types sauf Find & Replace, Format et Index Records. Vous pouvez optionnellement envoyer les résultats vers une destination différente de celle d'où proviennent les données — cliquez sur l'un des boutons Connect to Salesforce, Connect to Dynamics, Connect to Postgres, Connect to SFTP, Connect to BigQuery ou Connect to Snowflake (même mécanisme de connexion que pour l'étape Data Source), puis choisissez l'objet/entrepôt cible, un champ Match Records On pour faire correspondre les enregistrements source et destination, et faites correspondre chaque champ source à un champ de destination. Pour une sortie SFTP, vous choisissez à la place un Output directory.

4. Data Filter et Advanced Options

La section Advanced Options ("Additional options to be set up if needed") regroupe la plupart des réglages de comportement. Les options visibles dépendent du type de process et de la source :

OptionCe qu'elle faitVisible pour
Set a data limit for each typeLimite le nombre de lignes traitéesTous les types
Auto-start the next step after completionEnchaîne un autre de vos process pour qu'il se lance juste après la fin de celui-ci (définit son "next process")Tous les types
Authorized Empty File"If checked, the process will finished even if the file is empty. Else it will failed."Sources non-CSV
Delete Input File"Delete input file after Process is Done."SFTP uniquement
Synchronized results"Synchronize result to {source}" — réécrit les résultats vers la source (ou la sortie configurée)Sources non-CSV/SFTP, ou si un Output Source a été configuré
Duplicate CertaintySeuil numérique (0–100) contrôlant la fusion automatiqueUnify Process uniquement
RNVP Merge Quality CodeChoisissez quels codes qualité d'adresse qualifient un enregistrement pour la fusion automatiqueCheck Postal Address uniquement
B2B Merge Status CodeChoisissez quels codes de statut B2B (A+/A/B+/B/C+/C) qualifient un enregistrement pour la fusion automatiqueCheck B2B uniquement
Merge results"Merge result using the Merging Rules defined in the selected Rules set."Unify Process, Check Postal Address, Check B2B — sources non-CSV/SFTP
Update Childs to Inactive"Update all the Childs that have been merge, to Inactive. It will prevent them to be reparent again." (affiché une fois Merge results activé)Unify Process uniquement
Generate relations backup file"Generate backup for reparenting rollback." (affiché une fois Merge results activé)Unify Process sur Salesforce/Dynamics uniquement

5. Confirmer et lancer

En bas de l'onglet Data Filter, vous avez deux boutons différents — ce ne sont pas la même chose :

  • Finish enregistre votre configuration sans la lancer, et vous ramène à la liste des process. Utilisez-le si vous voulez configurer un process maintenant et le lancer plus tard.
  • Start process (affiché la première fois) ou Results (une fois que le process a déjà été exécuté au moins une fois) le lance immédiatement. Une boîte de dialogue de confirmation apparaît ("Start process — You are about to start the process. Do you want to continue?") — confirmez pour lancer.

Que se passe-t-il après le lancement

Vous arrivez sur l'onglet Results, où l'exécution affiche immédiatement le statut Started. Elle passe ensuite par Reading → In Progress → Writing → Finished (ou Failed). Voir Monitor and manage a run in DQE One Standalone pour la suite — suivre la progression, synchroniser, fusionner, télécharger les résultats, ou arrêter une exécution en cours.

Associé à

Cet article vous a-t-il été utile ?

Utilisateurs qui ont trouvé cela utile : 0 sur 0