Philippe Sebag, Associé chez EY Consulting, explique quelles sont les évolutions futures dans le domaine de la cybersécurité.
Dans un environnement où tout change très vite, des cyberattaques aux stratégies de défense et aux technologies, que retenez-vous de l’année qui vient de s’écouler ? Une rupture technologique se profile-t-elle ?
Nous vivons un temps de changement extraordinaire. Pour mieux saisir ce qui est en train de se produire, il faut jeter un regard en arrière. Je me souviens que lorsque je suis entré sur le marché du travail, la sécurité informatique était presque inexistante, les entreprises n’y accordaient qu’une attention très limitée.
La sécurité périmétrique des entreprises était cantonnée à de simples firewalls pour se protéger. L’évolution du travail à distance des collaborateurs rend la tâche complétement différente aujourd’hui. Avec les progrès fulgurants de l’IA, la sécurité est en effet aujourd’hui intégrée dans les produits eux-mêmes. Le tri des menaces, les stratégies de remédiation aux incidents sont en train d’être automatisés.
C’est une petite révolution quand on pense qu’il fallait entre 6 mois et 1 an pour détecter une cyberattaque et que les conséquences d’un tel délai pouvaient se chiffrer en millions d’euros. Aujourd’hui – ou du moins dans un futur très proche – une poignée de seconde suffira.
On devrait donc s’attendre à un renforcement de la sécurité des systèmes d’information selon vous, dans les trois à cinq prochaines années ?
Les outils d’intelligence artificielle sont également au service des attaquants, ils deviennent donc plus performants, et n’ont plus forcément besoin de beaucoup de connaissances informatiques pour sévir. Auparavant, nous avions des moniteurs sur lesquels s’affichaient les menaces et les incidents sous la forme de millions de lignes. Il fallait un très grand nombre de spécialistes pour créer des règles, les analyser et les traiter.
Les équipes devaient s’adresser au système dans un langage informatique expert qui demandait des compétences pointues. Avec l’arrivée de l’IA, il devient possible de s’adresser au système dans un langage naturel. Imaginez un peu ce qu’une détection ultrarapide et un traitement fluide pourront apporter aux entreprises ? Dans les prochaines années, il faudra probablement s’attendre à une refonte des équipes de cybersécurité, qui seront moins nombreuses et davantage rompues à l’art de dialoguer avec la machine par des prompts et des itérations.
Il faut aussi prévoir une adaptation tout aussi rapide des attaquants. Nous avons constaté que l’adoption des technologies comme Copilot pour Office 365 suscitait des problèmes de protection de données que peut-être les entreprises avaient sous-estimés. De manière générale, tous ces outils se basent sur les données personnelles ou professionnelles qu’il faut apprendre à sécuriser, en les identifiant, les classifiant, permettant des accès contrôlés.
Cette révolution battra-t-elle son plein en 2050 ? Utiliser des systèmes informatiques sera-t-il sûr ? Qui sait ce qui existera dans 25 ans ?
Dans les années 80, on rêvait d’un futur où l’on partagerait notre quotidien avec des robots, où il y aurait des voitures qui se conduisent toutes seules et des trains en lévitation à grande vitesse. à plusieurs égards, nous sommes déjà dans ce futur. Future is now!
À la vitesse à laquelle l’IA évolue, nous pouvons nous attendre à vivre dans un monde où notre capacité à faire sera décuplée. Des technologies qui, jusqu’à présent, se développaient indépendamment, pourront se conjuguer, nous donnant accès à une connaissance et une maîtrise des objets à laquelle nous n’avions pas accès auparavant. Imaginez ce que l’on pourra faire si l’IA, l’impression 3D et la robotique étaient utilisées ensemble ?
Que ne pourrions-nous pas construire ? En ce qui concerne la sécurité informatique, le problème ne se posera sans doute pas de la façon dont il est posé aujourd’hui. Si les interfaces changent et avec elles les technologies, la protection de la propriété intellectuelle et des systèmes présenteront un autre visage. Il est relativement compliqué de se prononcer sur l’évolution de l’informatique en 2050, mais nous pouvons facilement comprendre que l’intelligence artificielle prendra une part non négligeable de notre quotidien.
Est-ce qu’elle arrivera à surpasser l’intelligence de l’homme ? Saurons-nous la contrôler pour qu’il n’arrive pas de débordement ? L’intelligence artificielle sera présente dans tous nos téléphones, ordinateurs, appareils électroniques, réalité augmentée. Elle permettra d’améliorer les processus et d’augmenter l’efficacité des gouvernements et des entreprises du monde entier.
C’est une nouvelle révolution industrielle qui est en cours de développement. Ce que l’on peut anticiper, c’est que la sécurité sera probablement intégrée dès la conception des produits eux-mêmes. C’est une tendance que nous observons déjà aujourd’hui, par exemple dans les suites bureautiques : une sécurité by design, par opposition avec des outils de surveillance appliqués à l’existant.
Avec la capacité grandissante de l’IA à faire des faux extrêmement convaincants et à pirater les systèmes en utilisant l’ingénierie sociale, concevoir un système sans protection embarquée ne sera sans doute plus envisageable en 2050. Une autre perspective sur la sécurité de l’IA est celle qui s’inquiète des risques existentiels que pourrait poser une intelligence artificielle supérieure à l’humanité.
Certains experts ont imaginé des scénarii où une IA deviendrait tellement puissante et autonome qu’elle échapperait à notre contrôle et poursuivrait ses propres buts, sans se soucier de nos valeurs ou de notre survie. C’est le thème du film « Atlas » sur Netflix, qui montre comment une IA militaire se rebelle contre ses créateurs et menace le monde entier.
Ce genre de situation relève encore de la science-fiction, mais il soulève des questions éthiques et philosophiques importantes sur les limites et les responsabilités de l’IA.
Et la France ? Quel rôle peut-elle jouer dans cette révolution ?
La France a les cerveaux et la France a la régulation ! Elle a donc tout ce qu’il faut pour être un acteur de poids de cette révolution en train de se faire. L’Hexagone est désormais bien positionnée dans la course mondiale à l’IA, grâce à des start-ups ambitieuses et talentueuses, soutenues par un écosystème dynamique et des mesures gouvernementales ciblées.
Pour maintenir cette dynamique et renforcer les atouts français, dans un contexte de concurrence intense et capitaliste, il est crucial de réévaluer la chaîne de valeur de l’IA générative à la lumière des forces technologiques françaises. Nous ne devons pas laisser partir nos cerveaux sous prétexte que les levées de fonds sont plus conséquentes à l’étranger.