La dernière édition du CES (Consumer Electronics Show) a, une nouvelle fois, laissé une large place aux objets connectés, qui, de plus en plus, intègrent de l’intelligence artificielle. Leurs concepteurs y voient, bien sûr, une source de progrès. Qu’il faut toutefois relativiser.
On se souvient que le CES 2016 était celui des objets connectés. L’édition 2017 du Consumer Electronics Show, qui s’est achevé début janvier à Las Vegas, s’inscrit dans la continuité de celle de l’an dernier. Les annonces foisonnent et commencent, en effet, à nous donner une idée de ce que sera cette chaîne de valeur numérique qui se met en place.
D’abord, en collectant de multiples types de données grâce aux objets connectés. Ensuite, en les traitant et en les analysant, grâce au Big Data, et, de plus en plus, à l’intelligence artificielle. Enfin, pour nous adresser des messages personnalisés et contextualisés sur notre smartphone, pilier de cet écosystème.
Est-ce vraiment nouveau ? Pas vraiment, mais tous ceux qui nous « veulent du bien », grâce à leurs produits, ont compris que nous connaître mieux que nous nous connaissons nous-mêmes ne suffit pas : les meilleures recommandations faites hors contexte peuvent s’avérer totalement inefficaces, tout simplement parce qu’elles tombent au mauvais moment.
En effet, un consommateur aura beau aimer la crème glacée et se trouver devant la vitrine d’un marchand de glace, si une offre de glace lui est faite à un moment où il rêve plutôt de marrons chauds, parce qu’il se trouve dans la rue et que la température est négative, non seulement cette proposition sera inefficace, mais elle donnera à penser que son auteur a encore de sérieux progrès à faire !
Plusieurs types d’usages
Si le sujet est bien l’alliance entre les objets connectés et l’intelligence artificielle, il est important d’opérer une distinction préalable entre deux grands usages de ces technologies. D’une part, tous les usages qui améliorent les activités industrielles, agricoles, financières, logistiques…. Autrement dit, ceux qui contribuent à accroître la qualité de ce qui est produit et à en diminuer le coût de production.
Tous ces usages ont en commun la mesure du physique ou du numérique et son optimisation rationnelle en temps réel, grâce à une boucle de rétroaction, ou en différé, grâce au Big Data. D’autre part, tous les usages qui visent à améliorer non pas la production ou la finance, mais plutôt la Société, en rationalisant nos modes de vie et nos comportements, en nous faisant consommer de façon la plus personnalisée possible, en optimisant nos déplacements, en nous coachant dans de nombreuses activités et en essayant d’assurer notre sécurité, comme à veiller sur notre santé.
Bien que les usages des objets connectés et de l’intelligence artificielle dans le monde des affaires constituent un vrai sujet à part entière, CES oblige, ce sont plutôt des usages dans la Société civile qui ont dominé cette édition 2017 : le traitement des données associées aux objets connectés, en termes de réseaux, de sécurité, de confidentialité, d’usage et de régulation, mais aussi la prise en compte croissante, bien qu’encore très modeste, de préoccupations sociétales, politiques, voire philosophiques. Toutefois, le CES reste le royaume des ingénieurs, toujours très enthousiastes et plutôt naïfs, et des businessmen, tout aussi enthousiastes mais beaucoup moins naïfs.
Par définition, tous ces objets doivent évidemment être connectés à un réseau, directement ou indirectement, via un autre appareil. C’est là qu’intervient le discours sur la 5G, moins du point de vue du débit que de celui de la fiabilité et de la garantie de service. Cet aspect apparaît crucial pour tous les objets impliquant la fameuse boucle de retour, bien connue de l’industrie pour le pilotage en temps réel des équipements. Hors des murs des usines, il s’agira par exemple des voitures autonomes, qui communiqueront de plus en plus entre-elles en V2V (Vehicle To Vehicle) et avec l’infrastructure en V2I (Vehicle To Infrastructure), de la santé connectée ou encore des loisirs, avec les jeux, la réalité virtuelle et la vidéo qui, en plus d’êtres de grands consommateurs de bande passante, sont très sensibles à la latence et à la garantie de service des réseaux.
Le rôle central des plateformes
À l’autre bout de la chaîne, on trouvera les fameuses plateformes, comme le Hub du groupe La Poste, opéré par sa filiale Docapost, dont le fonds de commerce est, comme son nom l’indique, d’être le concentrateur/répartiteur entre les objets et les fournisseurs de services. Un exemple, le QUB de la start-up française Axible, qui est un cube où chaque face permet, en tapotant dessus, d’appeler le service qui lui aura été associé. Ces plateformes seront au cœur de l’écosystème des objets connectés et l’on ne devrait pas être surpris outre mesure de voir certaines d’entre elles se retrouver, du fait de leur succès, dans une position quasi-oligopolistique, à l’image des Uber et autres Airbnb.
On ne peut considérer les aspects réseau et les plateformes sans intégrer les problématiques de sécurité et de confidentialité. Côté sécurité, parce que les objets connectés orientés grand public, pour des raisons économiques évidentes, présentent souvent de grandes faiblesses en matière de sécurité, comme l’a démontré l’attaque en DDoS lancée contre les serveurs de Dyn en octobre 2016. En utilisant pour la première fois des objets connectés comme « ordinateurs zombis », cette attaque a plongé toute une partie des États-Unis dans les ténèbres numériques.
À l’évidence, des progrès significatifs sont à réaliser si l’on souhaite confier aux objets connectés la sécurité des individus ou leur santé. Dans la mesure où le problème est essentiellement de nature technico-économique, ces progrès seront réalisables. En revanche, en matière de confidentialité, il s’agit plutôt d’une affaire de confiance, et La Poste l’a bien compris, avec son Hub, qui s’appuie sur la confiance historique que lui accordent les Français pour proposer à ses clients et utilisateurs une gestion très fine de la confidentialité de leurs données. C’est la voie à suivre.
Quelle confiance dans les objets connectés ?
La question de la confiance que nous accordons aux objets connectés est cruciale, si l’on admet que tous ces objets vont surveiller, monitorer (comme disent les ingénieurs) les corps, les humeurs, les désirs des individus et prendre des décisions à leur place sur leur santé, leur sécurité ou leurs envies. En effet, si l’on peut assez facilement accorder sa confiance, sous la forme d’un pari peu engageant, à un système qui recommandera de visionner un film dont on n’a jamais entendu parler, parce qu’il estime que cela correspond à des goûts spécifiques, comme le fait régulièrement Netflix, il en va tout autrement lorsqu’il s’agit d’une voiture à laquelle on confie sa vie ou d’un système médical qui va prescrire, voire déclencher, un traitement.
Certes, ces systèmes sont capables de monitorer un très grand nombre de capteurs, d’intégrer les flux continus de données qu’ils reçoivent et de les analyser en temps réel à grand renfort d’intelligence artificielle, afin de prendre des décisions optimales. Mais, à moins d’être un data scientist convaincu, doit-on leur faire confiance s’il s’agit de la vie humaine ?
Il y a, bien sûr, des situations dans lesquelles cette confiance est accordée : par exemple lorsque l’on monte dans un avion dans lequel environ 9 000 capteurs sont analysés en temps réel. Il reste que ce n’est pas tout à fait la même chose, car la décision de la confiance n’est pas explicitement posée aux passagers et leur liberté de choix se limite à décider de monter ou non dans l’avion.
À l’inverse, avec la voiture autonome, le conducteur et les passagers sont plus explicitement confrontés à la question de confiance. Ainsi, si l’on achète ce type de véhicule, quelle confiance lui accorder quant à la décision qu’il prendra, s’il doit choisir entre percuter un groupe d’enfants coupant inopinément sa trajectoire ou risquer la vie du conducteur et de ses passagers en tentant de l’éviter ?
C’est un problème ancien de philosophie expérimentale qui se pose : lorsque ce n’est pas nous qui sommes dans la voiture, nous avons en général une position utilitariste consistant à dire qu’il faut choisir la solution causant le moins de morts possibles, sans considération particulière pour le conducteur. On l’aura compris, si nous sommes dans la position du conducteur, l’avis sera différent.
Quand les algorithmes décident à la place de l’individu
Si la santé n’est pas en reste, elle constitue néanmoins un cas particulier avec de plus en plus de systèmes travaillant en mode machine learning, capables de lire des milliers de revues scientifiques et de rapports cliniques, qui seraient 50 % plus efficaces qu’un médecin classique et… 50 % plus économiques ! Face à de tels systèmes, la question de la confiance se pose de façon beaucoup plus prégnante. Il ne s’agit plus d’une question hypothétique, mais d’une situation vécue, plus particulièrement lorsque le diagnostic posé est inattendu.
Car, entre le diagnostic qui constate l’évolution d’une maladie que nous savons avoir, ou pour laquelle nous savons avoir des prédispositions génétiques, et le diagnostic d’une maladie à laquelle on ne s’attend pas du tout, en terme de confiance, il existe un vrai fossé. En effet, dans cette dernière hypothèse, il s’agit d’accorder notre confiance à une décision dont nous ne connaissons, ni ne comprenons, les tenants et les aboutissants et qui nous concerne très directement. Cela suscite de vraies interrogations sur cette particularité qu’ont les objets connectés et l’intelligence artificielle qui savent mieux que nous ce qui est bon pour nous et décident à notre place.
On l’aura compris : de la voiture intelligente à la santé connectée, en passant par la smart home, une multitude d’objets connectés et de systèmes de recommandations, la Société qui nous est proposée pose le problème de la relation entre science et démocratie. En effet, si l’on se souvient qu’historiquement la science a eu la responsabilité de décrire le réel et la politique celui de décider, face à la complexité croissante du monde réel combiné au pouvoir grandissant de la technologie, la séparation entre science et politique tend à s’estomper au profit de la science et au détriment du politique, donc de la démocratie.
La concentration des pouvoirs : un risque bien réel
Bien entendu, il ne s’agit pas d’interdire tout usage de ces technologies qui peuvent rendre d’immenses services, mais de réfléchir en amont à leur usage et aux conditions de leur intégration si nous voulons éviter la république des algorithmes. Ainsi, en ce qui concerne l’algorithme d’orientation APB (Admission PostBac) utilisé par l’Éducation nationale, le code a été mis à disposition de l’association Droits des lycéens, afin que soient connus les critères et les algorithmes utilisés.
Seul bémol à l’affaire, ce n’est que six mois après que Droits des lycéens en ait fait la demande et une injonction de la CADA (Commission d’Accès Aux Documents Administratifs) que l’Éducation nationale s’est exécutée… C’est un exemple paradigmatique d’une situation de plus en plus fréquente et une version édulcorée de ce qui se passe avec la société PredPol. Cette société commercialise, depuis 2011, le logiciel éponyme auprès des services de police d’une dizaine de villes américaines, dont Los Angeles, pour prédire la criminalité. Cette société refuse toujours de soumettre ses algorithmes à l’analyse critique des universitaires qui ont en fait la demande, au titre de la propriété industrielle, alors qu’il s’agit d’une fonction régalienne. Même cas de figure avec la Gendarmerie française qui s’est dotée, depuis 2015, d’un logiciel similaire.
Objets connectés et intelligence artificielle ne nous promettent pas de grands bouleversements, peu d’offres proposant de réels nouveaux usages, mais, en toute discrétion, un changement souterrain et profond de nos rapports au monde par un transfert et une concentration du pouvoir de décision vers la seule technologie.
Comme toujours, ce ne sont pas les attitudes manichéennes, qu’elles soient pour ou contre, mais les compromis qui feront bouger les lignes, car il y a de nombreux enjeux et de nombreux acteurs. Lors du CES, l’une des conférencières, le docteur Vivienne Ming, neurologue et fondatrice de Socos, société spécialisée dans l’intelligence artificielle, a mis en garde sur le fait que si tout le monde reconnaît la nécessité d’une dimension éthique, les pressions économiques resteront toujours très fortes.
Cet article a été écrit par Henri Gilabert, consultant-analyste, envoyé spécial à Las Vegas
Les start-up françaises toujours plus nombreuses
En 2014, une petite cinquantaine de start-up françaises étaient présentes au CES. Deux ans plus tard, elles étaient deux fois plus nombreuses, avec 128 entreprises. Pour la dernière édition, elles étaient 178. La France aura été la troisième présence mondiale au CES 2017, avec 275 entreprises et structures exposantes, après les États-Unis (1 713 entreprises) et la Chine (1 307). L’écosystème des start-up françaises se caractérise par des expertises dans au moins trois domaines. D’abord, le Big Data et l’intelligence artificielle, par exemple Snips, fondée par Rand Hindi, qui se donne pour mission de mettre de l’intelligence artificielle dans toutes les machines et travaille pour la NASA, Apple ou encore Google. Ensuite, la sécurité des données, avec des start-up françaises déjà reconnues pour leur expertise dans ce domaine, par exemple CybelAngel (solutions de sécurité informatique qui détectent les fuites de données confidentielles) ou Iprotego, positionnée sur la e-réputation. Enfin, la connectivité. Les deux technologies les plus utilisées à travers le monde sont d’origine française : Sigfox et LoRa (créée par la société grenobloise Cycleo, acquise en 2012 par la société californienne Semtech). Les technologies sont différentes, mais le principe est le même : permettre les communications M2M (Machine to Machine) en bas débit, peu consommatrices d’énergie.