Intelligence artificielle de confiance
L’intelligence artificielle de confiance définit et implémente le contrôle qualité des IAs, en regard de référentiels opposables comme l’AI Act. Elle se caractérise par huit piliers clés, définis par la Commission européenne pour garantir le respect des droits fondamentaux. Chacun de ces piliers a des objectifs spécifiques et nécessite des actions précises pour être mis en œuvre.
Responsabilité
Le pilier de la responsabilité permet à l’entreprise de se porter garant des décisions prises assistées par IA. Il repose sur six concepts essentiels : transparence, traçabilité, contrôle des risques, respect de la vie privée, contrôle humain, et cybersécurité. Pour garantir la responsabilité, trois actions clés sont recommandées : anticiper les risques, documenter le projet en entier, et historiser les décisions et les modèles. Cette démarche peut inclure à la fois la correction des projets existants et la conception de nouveaux cas d’usage responsables.
Performance
La performance consiste à évaluer l’efficacité d’un algorithme pour résoudre une problématique métier spécifique. Pour activer la performance, il est essentiel d’aligner les exigences métier et techniques, d’évaluer l’algorithme sur des jeux de données représentatifs, et de comparer sa performance à d’autres modèles.
Robustesse
La robustesse vise à définir le domaine de validité d’un modèle et à le rendre résilient face aux perturbations. Pour cela, il faut contrôler son domaine de validité, quantifier l’incertitude des prédictions, et évaluer la résilience du modèle face à des perturbations.
Qualité des données
La qualité des données garantit que les données en entrée d’un modèle sont fiables et conformes aux besoins. Elle englobe la gouvernance des données, le contrôle de la pertinence, la cohérence, la complétude, et la précision des données.
Équité
L’équité vise à éviter la discrimination et les biais dans les systèmes d’IA. Elle implique de spécifier les groupes sensibles, de détecter les biais, et de les corriger.
Explicabilité
L’explicabilité rend les modèles d’IA compréhensibles et transparents pour les différents types d’utilisateurs finaux tout en expliquant comment les prédictions sont générées et comment prendre une décision optimale.
Frugalité
La frugalité réduit l’impact environnemental tout en maintenant les avantages de l’IA, en minimisant la fabrication d’équipements informatiques, en gérant efficacement les données, et en simplifiant les modèles.
Contrôle des dérives
Le contrôle des dérives surveille et maintient les performances des modèles d’IA en production, en garantissant qu’ils maintiennent leur comportement attendu et en surveillant leur impact opérationnel.
En somme, ces huit piliers constituent un cadre essentiel pour le développement et l’utilisation de l’intelligence artificielle de confiance.
