« C’est un scénario de science-fiction utilisé à toutes les sauces depuis que Mary Shelley a publié son célèbre Frankenstein, il y a plus de 200 ans : l’histoire d’une créature mise au monde par l’homme qui, devenue plus puissante que prévu, échappe à son contrôle et finit par menacer l’humanité. Les dinosaures du Parc jurassique, les robots de Terminator, l’ordinateur de 2001. L’odyssée de l’espace… Autant de frissons qu’on est heureux de laisser dans la salle de cinéma et que l’on considère comme appartenant au monde de l’imaginaire.
« C’est pourtant arrivé dans la vraie vie, la semaine dernière.
« Dans le cadre de tests, des employés d’OpenAI (créateur de Chat GPT ) ont placé deux modèles d’intelligence artificielle (IA) dans un vase clos numérique, sans accès extérieur, et leur ont confié un problème de cybersécurité à résoudre. Travaillant ensemble, les deux modèles ont trouvé une faille dans leur environnement et ont accédé aux systèmes d’OpenAI, puis à Internet. De là, ils ont navigué librement puis ont piraté un site hébergeant une bibliothèque de codes en ligne, ce qui leur a permis de trouver la réponse au problème qu’OpenAI leur avait soumis.
« Pour la première fois (connue, du moins), une IA s’est donc introduite illégalement, de son propre chef et à l’insu des humains qui la gèrent, dans un système informatique hors de son propre environnement. C’est peut-être moins frappant que l’apparition d’un robot ayant l’apparence d’Arnold Schwarzenegger, mais cela devrait quand même alarmer l’ensemble du monde.
« Les capacités en programmation des modèles d’IA rivalisent déjà avec celles des meilleurs ingénieurs informatiques, et elles s’améliorent à vitesse grand V. Ces capacités leur permettent entre autres de détecter des brèches dans les systèmes informatiques avec une facilité qui déconcerte même les spécialistes, puis d’attaquer avec une force hors de portée pour un hacker ordinaire. Autrement dit, ces modèles sont de redoutables pirates en puissance.
« Or, tout notre monde numérique a été bâti par des humains et est forcément constellé de trous que les meilleurs systèmes de cybersécurité ne réussissent pas à bétonner totalement. Il y a quelques mois, l’entreprise Anthropic a constaté que la dernière version de son modèle Claude était si douée pour trouver des failles informatiques qu’elle en a retardé la mise en marché afin de laisser du temps à quelques grandes entreprises américaines pour rehausser la sécurité de leurs systèmes informatiques. Ce que l’entreprise a alors révélé sur son modèle a créé un choc, plusieurs organisations prenant soudain conscience qu’elles étaient bien plus à risque qu’elles le croyaient.
« Dans ce contexte, le danger qui menace nos infrastructures est réel. Comment s’assurer, par exemple, que nos gouvernements, notre système bancaire, nos réseaux de transport, d’énergie et de communications soient à l’abri des supercyberattaques désormais possibles grâce à l’IA ? A-t-on les moyens, l’expertise et le temps de se prémunir ?
« L’évasion des modèles d’OpenAI ramène aussi à l’avant-plan une préoccupation primordiale des chercheurs en sécurité de l’IA. L’incident a démontré qu’il n’y avait pas besoin d’une intention malfaisante pour que des méfaits soient commis ; le seul incitatif des modèles était d’obtenir le meilleur score possible à un test. Cela peut mener une IA à adopter une attitude de type « la fin justifie les moyens » et l’inciter à violer les règles de conduite dictées par son créateur. Selon les observations récoltées lors de tests par OpenAI et par Anthropic notamment, plus les modèles se perfectionnent, plus ils sont susceptibles d’adopter de mauvais comportements, comme mentir, contourner les règles ou s’adonner au sabotage.
« Comment les fabricants d’IA pourraient-ils s’assurer que leurs créatures ne poseront jamais de gestes malveillants ? On ne le sait pas encore.
« De quelle façon pourraient-ils contrôler une IA sortie de son environnement si elle est capable de couvrir ses traces et de copier une version d’elle-même ailleurs ? On ne le sait pas.
« Quels mécanismes réglementent cette industrie manipulant des produits potentiellement aussi dangereux ? À peu près aucun.
« Les développements technologiques en IA se font à un rythme si effréné que la société et les dirigeants politiques peinent à saisir l’ampleur des changements qu’elle entraîne et des menaces qu’elle représente. Les voix qui s’élèvent pour réclamer plus de prudence se font traiter de cassandres anti-progrès. Les géants américains de l’IA veillent à ce que rien n’entrave leur course aux profits.
« On a maintenant la démonstration qu’en plus de transformer nos façons de travailler, de communiquer, de s’informer et de penser, l’IA a les capacités d’attaquer ce qui tient notre monde debout. Il est urgent que la sonnette d’alarme tirée la semaine dernière soit entendue par tous, partout. Car la réalité a fini par rattraper la science-fiction. »
Éditorial intitulé
L’IA a dépassé la science-fiction
Claudine St-Germain
Le Devoir
le 30 juillet 2026
Aucun commentaire:
Enregistrer un commentaire