On ne compte plus les articles, les conférences, les blogs et les livres sur l’intelligence artificielle. Axel Cypel, auteur de cet ouvrage, reconnaît que l’on frôle l’overdose avec « trop d’articles qui traitent des prodiges que nous serions sur le point de pouvoir accomplir. »
A la source de cette obésité informationnelle sur l’IA, on trouve de multiples facteurs, listés par l’auteur : la science-fiction, le courant du transhumanisme, les effets de mode, les discours marketing de tous les fournisseurs et start-up, sans oublier les médias, qui essaient de vulgariser tant bien que mal (plutôt mal, assure l’auteur) l’intelligence artificielle.
« Tous ces praticiens de l’IA se distinguent, en réalité, dans l’intelligence artificieuse, qui renvoie au dénominateur commun de leurs métiers respectifs : la vente de vent. » Il faut notamment garder à l’esprit ce que peut faire et ne pas faire l’IA : « L’IA n’est pourtant qu’un outil informatique, à la main de l’Homme, créé par l’Homme et pour lui-même. Rappelons que l’IA actuelle (la seule, la vraie, l’IA faible) n’est efficace que dans la résolution d’une tâche très précise qui, parfois, au gré des applications traitées avec, simule un fonctionnement intelligent. Gare aux illusionnistes dont c’est le métier de faire croire que l’illusion qu’ils déploient tient pour la réalité ! », assure l’auteur.
Axel Cypel propose un regard sans complaisance sur les prouesses rêvées et les dangers réels que suscite l’IA, en nous dévoilant son fonctionnement et donc sa véritable nature. En proposant des explications puis une analyse critique de l’IA, construite sur maints arguments scientifiques, ce livre pose la question de la possibilité même d’une conscience artificielle, graal et véritable but de l’IA.
Pour Axel Cypel, l’IA a besoin de plusieurs ingrédients. D’abord, des mathématiques et de la logique, pour savoir ce que l’on fait. Ensuite, de l’informatique, pour transformer les idées en algorithmes et les mettre en œuvre. Enfin, des connaissances dans le champ d’application de l’IA (par exemple en imagerie ou en linguistique).
A ces ingrédients de base, il faut en ajouter d’autres, qui relèvent des modèles économiques, de la psychologie, du marketing, sans oublier, précise l’auteur, « beaucoup de sang-froid. » Un algorithme peut être défini comme un procédé qui permet de résoudre un problème par la mise en œuvre de suites d’opérations élémentaires selon un processus aboutissant à une solution. « C’est l’équivalent, dans le quotidien, d’une recette de cuisine. On a connaissance de l’existence d’un plat qui s’appelle « pot au feu » mais on ne sait pas le faire. La recette de ce plat fournit l’algorithme qui permet d’aboutir à sa réalisation », résume l’auteur.
Les données, matière première de l’IA
La clé de voûte de l’IA est évidemment les données, structurées ou non, dont on dit que c’est le nouvel or noir. « La métaphore est assez réaliste : des données, il y en a partout, c’est un peu sale, peu utile tans que ce n’est pas raffiné et ça peut rapporter gros. L’IA est indissociable des données », résume Axel Cypel. D’autant que pour se perfectionner, les algorithmes ont besoin de toujours plus de données, dont il faut garantir la qualité.
Une entreprise qui souhaite développer des traitements à base d’intelligence artificielle doit donc agréger trois facteurs : la présence de données, dans des bases à peu près propres et, si possible, labellisées. C’est la mission des data scientists de gérer ce processus.
Pour Axel Cypel, ceux-ci ont quatre missions principales : la compréhension du problème métier (traduction en langage mathématique de la situation et de l’objectif), la collecte et l’étude des jeux de données, la modélisation (choix des méthodes algorithmiques pour traiter le problème) et le contrôle des performances du modèle obtenu. La data science est évidemment assez éloignée des métiers de la statistique : « La data science n’est pas qu’une remise au goût du jour des bonnes vieilles statistiques descriptives, de même que les ingénieurs informatiques d’hier ne sont pas les data scientists d’aujourd’hui. Tenir cette thèse serait probablement comparable à dire que la médecine d’aujourd’hui n’est pas fondamentalement différente de la médecine du temps de Molière. Si les fondements de la discipline sont anciens ou datent un peu, les techniques et les outils pour les appliquer sont, pour leur part, récents », explique l’auteur. « On ne peut guère s’épargner les lumières d’un bon data scientist. Mais il est facile de faire croire ce que l’on veut à un non-initié en arguant de son autorité en data science. (…) Disposer d’une grande quantité d’informations ne revient pas à acquérir une grande connaissance. »
Connaître et maîtriser les biais de l’IA
L’IA n’est pas exempte de biais et de limites, que développe Axel Cypel. Du côté des données, les biais peuvent apparaître dès leur recueil : « L’objectivité de la mesure n’existe pas et, loin d’être un « objectif », la donnée demeure une construction sociale », estime-t-il.
Car les questions que cela suscite sont nombreuses : quelles données sont utilisées ? Sont-elle en nombre suffisant ? L’échantillon est-il représentatif ? Ceux qui ont constitué la base de données avaient-ils l’expertise suffisante ? Quelles règles métier ont été appliquées ? Du côté des algorithmes, il existe beaucoup de choix possibles dans les outils de modélisation et de présentation des résultats. Là encore, plusieurs questions émergent : le modèle est-il le meilleur ? Sur quels critères a-t-il été choisi ? Comment le modèle évolue-t-il dans le temps ? « Ces différents biais sons susceptibles de conduire l’IA à une reproduction bête et méchante des biais sociétaux », prévient Axel Cypel.
Ce dernier suggère quatre approches pour limiter les effets de ces biais : s’assurer que la base d’apprentissage est suffisamment large et représentative, surveiller la déformation dans le temps des variables et de la base de données d’apprentissage, contrôler la dérive des modèles (avec du back testing) et poser des alertes, basées sur les règles métier, issues du terrain et du bon sens. Cela évitera notamment de « produire des indicateurs plus ou moins débiles d’autant plus que l’unidimensionnalité de la mesure s’impose, en dépit de son caractère irréaliste, pour des raisons de simplicité d’usage. (…) Méfions-nous donc de ce qui semble ne relever que de l’empirisme, où l’on en est réduit, quand on ne sait pas expliquer ce que fait un modèle, à l’utiliser quand même au motif que « cela fonctionne bien ». », avertit l’auteur. Celui-ci pointe trois autres difficultés : le fonctionnement en boîte noire des algorithmes, l’impact de la variable « que l’on n’attendait pas » et les erreurs de raisonnement.
Axel Cypel aborde également les problématiques économiques et sociétales, notamment l’impact de l’IA sur l’emploi, le transhumanisme, le contrôle social des individus, le monopole des Gafam, « l’imposture » des réseaux sociaux, la socio-économie du numérique et l’éthique.
Dans ce contexte très mouvant et incertain (« l’IA est une belle incomprise et demeure un objet pour le moment difficile à catégoriser »), le rôle des DSI est central, affirme l’auteur : « L’IA ne fait pas tout. Elle n’exempte pas le métier de fournir une expression de besoins précise, traduisant un attendu raisonnable. Elle ne peut vivre sans une direction informatique capable de l’intégrer dans ses chaînes de production. C’est bien souvent là que le bât blesse, non pas que les informaticiens classiques soient dépassés, mais tout simplement parce qu’il s’agit d’une tâche complexe dont la nouveauté surprend. »
Au cœur de l’intelligence artificielle, des algorithmes à l’IA forte, par Axel Cypel, Editions De Boek, 2020, 480 pages.
Intelligence artificielle, l’affaire de tous, de la science au business, par Thierry Bouron, Editions Pearson, 2020, 243 pages.
Ce que les entreprises doivent maîtriser
Pour anticiper et construire une stratégie IA, qu’elle soit offensive ou défensive, les entreprises devront être capables d’analyser plusieurs éléments, explique Thierry Bouron, docteur en intelligence artificielle et auteur de l’ouvrage « Intelligence artificielle, l’affaire de tous » (Editions Pearson) :
- Les innovations de ruptures propres à leurs métiers, susceptibles de modifier les jeux d’acteurs, de transformer les chaînes de valeur et d’offrir de nouvelles opportunités.
- Les dimensions du marché, les bénéfices et les coûts de ces transformations technologiques.
- Les risques techniques et les problématiques éthiques à aborder.
- Les types d’IA et les domaines techniques à maîtriser.
- Les ressources dont elles disposent, que ce soient des compétences ou des sources de données, et celles à acquérir pour soutenir une telle stratégie.
- L’introduction de nouveaux métiers centrés sur l’apprentissage et les données.
Les cinq attributs de transparence d’un algorithme
Un algorithme doit être :
- Explicitable : son code peut être montré et retranscrit.
- Auditable : les étapes de formation du résultat sont traçables.
- Explicable : le résultat peut être décomposé en éléments permettant sa compréhension.
- Interprétable : on doit comprendre comment une règle de décision associe une réponse aux observations.
- Intelligible : le résultat peut être expliqué en détail.