USI 2021 : de la valeur de l’information au pouvoir des technologies

Les technologies associées aux croyances

Rahaf Harfoush, anthropologue digitale, membre du Conseil National du Numérique, du Oxford Internet Institute et professeure à Sciences Po, s’est intéressée aux espaces digitaux comme lieux d’expression humaine. Selon elle, chaque technologie repose sur un système de croyances. Elle conseille de réaliser un audit de ces croyances technologiques de nos plateformes. « Vous pourriez ainsi découvrir que votre messagerie interne d’entreprise privilégie l’interaction et l’interruption au détriment de la concentration des salariés. » Rahaf Harfoush a baptisé son approche FOPA (Future Oriented – Present Acting), autrement dit agir immédiatement pour un futur souhaitable. « Nous sommes tellement obsédés par le fait d’apprendre aux jeunes à coder, que nous avons délaissé les disciplines comme l’histoire ou la littérature. Nous avons ainsi créé une génération d’ingénieurs brillants qui savent coder, mais ne savent pas quoi, ni comment coder. »

Les rapports entre l’homme et la technologie ont fait l’objet d’une conférence de Kevin Kelly, rédacteur en chef du magazine Wired. Pour lui, l’humain ne pourrait pas exister comme on le connaît sans la technologie. Cette dernière est tellement présente dans notre histoire qu’il considère l’humain comme une « espèce technologique ». C’est donc grâce à la technologie que l’Homme a pu évoluer, mais, aujourd’hui, une question fondamentale apparaît : « Sommes-nous dirigés par la technologie, ou dirigeons-nous la technologie ? C’est la question qui nous hante depuis toujours », résume Kevin Kelly. Il ne tire évidemment pas un bilan 100 % positif de tout ce qu’a produit la technologie dans l’histoire de l’humanité. Kevin Kelly utilise le concept de Technium, principe selon lequel la technologie appartient à un système et toute technologie est interdépendante l’une de l’autre, une technologie sert à en créer une autre. Il illustre ce principe avec l’image du marteau et de la scie : pour fabriquer un marteau on a besoin d’une scie, et inversement…

La crise sanitaire : un stress test mondial

Aujourd’hui, la technologie est au cœur de la création de valeur. C’est la conviction que Peter Hinssen, professeur à la London Business School et au MIT, avait développé dans son livre, « Business IT Fusion ». Dans son dernier ouvrage (The Phoenix and the Unicorn), il explique, d’une part, que 2020 a marqué l’accomplissement de la révolution numérique en nous soumettant à un “digital stress test” à l’échelle mondiale. Pour Peter Hinssen, « la plupart des entreprises ont passé le test, mais certaines ont carrément reçu un A+, parce qu’elles ont su sortir de leur couloir de nage pour aller voir ailleurs si elles peuvent y être et se réinventer en profondeur. »

D’autre part, on ne reviendra pas à la normalité connue ces précédentes années : « Nous avons été changés de façon permanente par la technologie. Le changement constant est la nouvelle norme. Ces derniers mois ont été un teaser du « jamais-normal » » Dans cette ère du « jamais-normal », « le monde ne devient pas plus organisé, il se désorganise », résume Peter Hinssen. Mais s’adapter à un monde « jamais-normal » ne s’improvise pas, convient-il. Pour y parvenir, Peter Hinssen suggère de s’inspirer de la théorie de l’optionalité (theory of optionality) : « Dans le cycle traditionnel de « croissance – sommet – déclin » d’un business, il faut savoir se transformer au bon moment : pas au déclin, pas au sommet, mais dès le moment de la croissance. Pour survivre dans un tel environnement, être une licorne ne suffit pas : il faut être un phénix, capable de renaissance permanente. Un exercice qui ne s’improvise pas, et qui impose de regarder loin derrière l’horizon », explique Peter Hinssen. Ce dernier estime toutefois que c’est difficile pour la plupart des entreprises, car elles sont confrontées à deux difficultés qui les empêchent de se réinventer au bon moment. D’abord, la « corporate myopia », sorte d’aveuglement entre le moment où tout va bien et celui où c’est trop tard ; ensuite, l’illusion d’innover et d’avancer, alors que les organisations n’innovent pas. « Ces dix dernières années, nous n’avons parlé que de licornes, ces « new kids on the block ». Aujourd’hui, il est temps de penser les entreprises comme des phénix, capables de réinvention permanente. » Cette capacité exige d’avoir une vision à long terme.

Plus de technologies, plus d’ignorance

De son côté, Lawrence Lessing, professeur à la Harvard Law School, estime que la question des valeurs est au cœur des business models et des interactions entre trois éléments : les humains, les marchés et les lois. Pour lui, « le meilleur profit que les plateformes peuvent tirer, c’est lorsqu’elles nous rendent les plus ignorants possible. Le capitalisme de surveillance est un business model basé sur l’objectif de nous rendre stupides. » La logique de profit conduit à développer des plateformes qui se basent sur le principe du cerveau, sensible à la récompense aléatoire et aux flux de contenus ininterrompus. « Des robots suivent nos “crottes de souris” pour mieux comprendre ce que veulent les utilisateurs. Et ils ne se contentent pas de nous regarder passivement, ils manipulent aussi nos actions, en exploitant nos faiblesses émotionnelles. »

« Les entrepreneurs de la tech prétendent qu’il s’agit d’un arrangement gagnant-gagnant. Ce n’est pas le cas ! Si les plateformes sont bénéfiques pour le commerce, elles ont des effets secondaires graves pour les individus et surtout pour la société », explique Lawrence Lessing. Celui-ci considère qu’il faut séparer le domaine du commerce, où l’on peut autoriser la surveillance de façon encadrée, du domaine des citoyens, où il faut la proscrire. Comment mettre en œuvre cette séparation ? Lawrence Lessig craint que cela soit impossible, car les entreprises ne vont pas accepter de faire un peu moins et de perdre en rentabilité, tandis que les citoyens ne vont pas vouloir faire un peu plus et reconnaître la situation. « Et si vous pensez que ce problème concerne seulement les Etats-Unis, vous vous trompez », conclut-t-il.

Côté intelligence artificielle, Vanessa Evers, professeure d’informatique et directrice de l’Institute for Science and Technology for Humanity de la Nanyang Technological University à Singapour, a rappelé les limites de l’automatisation et de la robotisation : « Il est très difficile, pour un robot, de combiner deux tâches : par exemple marcher et ouvrir une porte. C’est parce que les robots excellent à la réalisation de tâches répétitives, à partir d’exemples fournis, dans un environnement prédéfini. Quand celui-ci change, l’apprentissage doit reprendre de zéro. » Selon Vanessa Evers, chez les humains, c’est le processus inverse qui s’applique : « Nous faisons très bien face à l’inconnu, car nous transférons les apprentissages que nous avons appris socialement. »

---

Les idées à retenir de l’USI 2021

Keren Elazari, chercheuse en cybersécurité :

• Les données sont le nouveau pétrole et l’information est la nouvelle monnaie d’échange. Si la donnée est le nouveau pétrole, alors les fuites de données sont les nouvelles marées noires.
• Si nous voulons contrôler notre futur, nous devons commencer par contrôler notre information.
• La vie privée est une espèce en voie de disparition.
• Les cybercriminels d’aujourd’hui parviennent à retourner nos informations contre nous avec des attaques toujours plus élaborées.

Rahaf Harfoush, anthropologue digitale :

• Les plateformes digitales sont fondées sur des systèmes de croyance qu’il faut décoder.
• Chaque plateforme est en effet le croisement des croyances (parfois opposées) des fondateurs, financeurs, utilisateurs et mauvais acteurs.
• La technologie est un reflet de qui nous sommes en tant qu’espèce, pour le meilleur et pour le pire.
• Les utilisateurs déclarent valoriser la vie privée, or ils utilisent des plateformes en sachant qu’elles vendent leurs données personnelles.

Christian Monjou, spécialiste de l’analyse managériale par le biais de l’art :

• L’ancienne et la nouvelle technologie peuvent coexister. Il faut repérer laquelle va disparaître.
• Quand on sait nommer quelque chose, quand on le reconnaît, on arrête de regarder. La technologie nous oblige à concentrer notre attention.
• La technologie n’a de légitimité que quand elle opère la réconciliation de l’utile et du beau.

Mehdi Moussaïd, chercheur pluridisciplinaire :

• En combinant des jugements individuels faux, on peut obtenir un jugement collectif précis.
• L’intelligence collective est capable de résoudre des problèmes éminemment complexes.
• Lorsque le collectif est bien organisé, il atteint des performances semblables à celles que pourrait produire un expert !
• Lorsqu’une personne prend trop de place dans un groupe, les performances collectives sont plus faibles.
• À la fin des années 1980, on a commencé à comprendre qu’un collectif était capable de prouesses cognitives que même le plus intelligent du groupe était incapable de réaliser…

Peter Hinssen, entrepreneur :

• La crise de 2020 marque la suite logique de la croissance du tout-numérique (le “nouveau-normal” des années 2010) mais elle représente aussi sa mise à l’épreuve.
• Le « nouveau-normal » est remplacé par un « jamais-normal », où tout change en permanence. Le changement constant est la nouvelle norme. Ces derniers mois ont été un teaser du « jamais-normal ».

Alister Cockburn, spécialiste des méthodologies agiles :

• Pour simplifier le développement agile, un principe en quatre mots : collaborer pour délivrer, réfléchir pour améliorer.
• La technologie n’a pas de volonté propre, mais elle est un reflet de nos désirs qui peuvent être résumés en cinq catégories : guerre, jeu, art, amour et sexe. Chaque créateur doit s’attendre à ce que son travail soit utilisé dans une de ses directions. Et ce, qu’il l’ait prévu ou non.
• Vos meilleures idées seront toujours mal utilisées. Quelqu’un trouvera une manière de l’adapter à son intérêt.
• L’approche agile commence seulement à remplacer la méthode en cascade.

Philippe Bihoux, ingénieur spécialiste de l’économie des matières premières et des métaux rares :

• Notre société n’est pas dématérialisée ou post-industrielle : elle est hyper-industrielle.
• On pourrait facilement diviser par 100 la facture énergétique du numérique.

Roland Lehoucq, astrophysicien :

• Ce qu’il nous manque pour égaler les ingénieurs de la science-fiction ? L’énergie et la puissance !

Vanessa Evers, directrice de l’Institute for Science and Technology for Humanity de la Nanyang Technological University à Singapour :

• Les robots excellent pour apprendre dans des contextes très spécifiques, mais c’est extrêmement difficile pour eux de s’adapter à différents contextes. Ils sont très bons pour gérer des tâches répétitives dans un contexte donné mais ne savent guère apprendre face à différents contextes. Alors que l’humain excelle à apprendre dans différents contextes.

Zita Cobb, aubergiste du Fogo Inn, considéré comme l’hôtel le plus isolé du monde :

• Quand on vit sur une île entourée de glace flottante, on n’a pas forcément la même définition de la rationalité et de l’efficacité qu’un bureaucrate.

Kevin Kelly, fondateur du magazine Wired :

• Si les plantes sont en recherche de lumière, la technologie, elle, est en recherche de pouvoir.
• On a tendance à opposer la nature et la technologie, alors que la deuxième est l’extension de la première.

Alberto Brandolini, consultant :

• La principale raison du non changement dans une organisation est la présence d’une culture de la peur et de la punition. Une organisation transparente est plus facile à changer.
• Lorsqu’ils cherchent une solution à un problème, les individus ont tendance malgré eux à choisir celle qui consiste à ajouter des éléments plutôt qu’à en retirer, même quand cette dernière option apparaît comme une évidence.

Lawrence Lessing, professeur à la Harvard Law School :

• Le meilleur profit que les plateformes peuvent tirer c’est lorsqu’elles nous rendent les plus ignorants possible. Le capitalisme de surveillance est un business model basé sur le fait de nous rendre stupides.

Henri Verdier, ambassadeur pour le numérique :

• Quand vous créez un service ou une app dans le cloud, vous êtes en train de cultiver la terre d’un autre. Comme un métayer, vous pouvez être exproprié.

Mark Curtis, directeur de l’innovation d’Accenture Digital :

• Le cycle de l’adaptation devient de plus en plus rapide, et les utilisateurs prennent en main la technologie pour l’adapter à leur vie, ce n’est plus l’inverse. On passe ainsi de l’innovation prescriptive à l’innovation suggestive : à l’entreprise d’offrir à ses clients des outils qu’ils pourront utiliser comme il est le plus pertinent pour eux.

---