TOPIC:

Sécurité informatique : un monde submergé par l’IA

Written by:

Computer Security Office

—

Le monde est en train de changer. Avec l’essor de l’intelligence artificielle (IA), des gens comme moi, sans talent particulier, peuvent se mettre à la « musique » et atteindre le top 10 des artistes les plus écoutés sur Spotify, ou bien devenir, grâce à l’hypertrucage, les stars (les avatars ?) de films Netflix, ou encore, soyons plus réaliste, se transformer en geek et développer les dernières applications ou plateformes à la mode. Le monde de la créativité s’ouvre à tous ceux qui en étaient jusque-là exclus parce qu’ils n’avaient pas l’oreille musicale, ne savaient pas jouer la comédie ou étaient incapables développer des programmes logiques. Il suffit d’un « prompt ». C’est l’émergence d’un nouveau genre de démocratie, l’avènement d’un nouveau monde. Ce nouveau monde présente toutefois quelques inconvénients.

Avec l’IA, les œuvres créatives qui relevaient jusqu’ici de l’humain peuvent être produites plus rapidement et dans des quantités bien plus importantes que par le passé. Les quantités invraisemblables de mélodies sans âme, d’extraits de films plagiés, de vidéos de 30 secondes mal bricolées, de faux tweets (devrait-on dire Xeets ?) et d’autres contenus sans intérêt qui inondent Spotify, Netflix, Instagram, X et GitHub finiront peut-être par provoquer le déclin de ces plateformes si les utilisateurs perdent leurs marques, noyés sous les contenus produits par l’IA (avez-vous essayé récemment de chercher votre livre préféré sur Amazon ?). Résultat : internet est submergé de bouillie d’IA (AI slop). Le journaliste Cory Doctorow emploie même le terme « enshittification ». La cacophonie causée par les « faits » inventés par l’IA sature les réseaux sociaux et sape la démocratie. L’IA s’infiltre à toute vitesse dans les infrastructures de l’internet et du web que l’on considérait « sûres », les submergeant de vieux problèmes[1] et de nouveaux problèmes aussi.

Ne nous méprenons pas, internet n’a jamais été véritablement sûr, mais autrefois les bugs et les vulnérabilités étaient découverts et exploités par des humains à vitesse humaine (certains ayant peut-être recours à l’automatisation). Cette époque est révolue. Les chercheurs en sécurité et les hackeurs, qu’ils soient ou non bien intentionnés, se servent de l’IA pour leurs bonnes actions comme pour leurs forfaits, et ce, à une vitesse sans commune mesure. La hausse du nombre de vulnérabilités découvertes dans le noyau Linux depuis le début de l’année (Copy Fail était une première) n’est que le début. PHP2Shell, qui concerne de nombreux sites internet dans le monde entier, a déclenché la mise hors ligne de plusieurs de ces sites ; il est le dernier évènement en date. Le nombre de CVE (Common Vulnerabilities and Exposures) associées à des bugs détectés ou facilités par l’IA connaît une hausse très forte, si forte que les autorités chargées de l’enregistrement des CVE[2] ne peuvent pas garder la cadence et sont contraintes de ralentir pour ne se concentrer que sur les vulnérabilités les plus critiques. Quoique l’IA soit performante dans la détection de vulnérabilités, le taux de faux positifs (c’est-à-dire le nombre de vulnérabilités qui, en fait, n’en sont pas) ne peut pas être ignoré. Il est ainsi nécessaire de séparer les véritables vulnérabilités des fausses. Les spécialistes des CVE pourraient à terme cesser d’essayer de traiter les innombrables signalements de vulnérabilités, ce qui marquerait la fin d’un outil central, précieux et indispensable pour communiquer sur la sécurité informatique et l’améliorer. Le signalement des vulnérabilités est submergé par l’IA.

Même si le système des CVE réussissait à tenir la tête hors de l’eau (ce que nous espérons), les entreprises de logiciels, les experts de la sécurité et les gestionnaires de services peinent déjà à suivre le rythme de publication des vulnérabilités, car la mise en œuvre de « correctifs » (c’est-à-dire la conception et le déploiement de solutions adéquates) ne peut se faire qu’à vitesse humaine (du moins pour l’instant). Les programmeurs et les développeurs souffrent déjà d’avoir à relire de grandes quantités d’extraits de code (générés par l’IA). Et les entreprises de matériel informatique n’osent pas produire leurs propres correctifs sans contrôle humain, ni les faire intégrer directement à leurs produits. Certaines entreprises le font, j’en conviens… et leurs clients deviennent alors les cobayes d’un nouvel « internet un peu bête des objets pas très nets ». Les entreprises qui produisent des logiciels font preuve de prudence, elles aussi… à moins qu’elles ne se soucient pas des conséquences que pourrait avoir le déploiement de correctifs produits par l’IA si ceux-ci échouent, créent des nouvelles failles ou interrompent un service à cause de l’application de correctifs douteux. Après tout, on peut toujours publier ou mettre en œuvre une solution et le regretter ou s’en excuser plus tard. De fait, le processus des correctifs est submergé par l’IA.

Une fois que les correctifs sont prêts, il faut les déployer. Le déploiement avait normalement lieu une fois par mois : on parlait alors de « Patch Tuesday » (le mardi des correctifs). L’IA a cependant changé la donne. « Patch Tuesday » est devenu « Patch Midday » (le midi des correctifs), car il faut désormais déployer des correctifs une fois par jour, à midi. Il est urgent de corriger rapidement les vulnérabilités. Pour autant, quel gestionnaire d’un service internet essentiel oserait intégrer des correctifs produits par l’IA directement dans ses systèmes de production ? Sauf à être suffisamment rigoureux pour déployer ces correctifs dans un environnement de test ou de contrôle qualité, s’entend. Ainsi, les pipelines de déploiement des correctifs sont submergés par l’IA.

L’IA, qui a pour elle la vitesse, nous permet d’accélérer notre rythme de travail, mais elle crée de nouvelles problématiques en matière de sécurité, notamment dans les domaines du signalement des vulnérabilités et de l’élaboration et du déploiement des correctifs. Nous ne pouvons plus faire marche arrière. Il faut donc nous adapter et parvenir à corriger de plus en plus rapidement les bugs et les vulnérabilités afin de ne pas être submergés par les flots de l’IA.

[1] Comme les robots logiciels Google d’antan, certains systèmes d’IA s’infiltrent sur internet pour collecter des données et entraîner des modèles d’IA ; ils constituent une nuisance supplémentaire en ligne.

[2] Par exemple les fournisseurs de logiciels, qui sont des entités chargées d’attribuer régulièrement des identifiants CVE et de publier les dossiers CVE correspondants (voir ici).

_________

Pour en savoir plus sur les incidents et les problèmes en matière de sécurité informatique au CERN, lisez nos rapports mensuels(en anglais). Si vous souhaitez avoir plus d’informations, poser des questions ou obtenir de l’aide, visitez notre siteou contactez-nous à l’adresse suivante : Computer.Security@cern.ch.

Related Articles

No posts were found. Try to change the category or the date filters.