IA incontrôlable : plus de 1 100 cadres tech appellent Washington à agir

Ils construisent ces outils. Et maintenant, ils ont peur. Plus de 1 100 dirigeants, chercheurs et cadres du secteur de l’intelligence artificielle ont signé une pétition commune, publiée mardi, pour demander au gouvernement américain de soutenir une initiative internationale visant à ralentir le développement des modèles d’IA les plus avancés. En cause : la crainte d’une IA capable de s’améliorer elle-même de façon autonome et incontrôlable.

Une pétition venue de l’intérieur du secteur

Ce n’est pas un appel venu de l’extérieur. Ce sont des gens qui travaillent dans ces entreprises, qui signent. Le texte de la pétition demande explicitement que Washington soutienne une coordination internationale pour imposer des « pauses temporaires » sur la mise en production des systèmes d’IA de dernière génération. Les signataires réclament aussi la mise en place d’équipes de sécurité indépendantes chargées d’évaluer les risques avant tout déploiement à grande échelle.

Parmi les signataires figurent des profils issus de grandes entreprises technologiques, de laboratoires de recherche privés et de startups spécialisées. Aucun des grands patrons de Google, Microsoft ou OpenAI n’a officiellement rejoint le mouvement — mais leur absence n’est pas passée inaperçue.

Le scénario qui fait peur

Le risque central pointé dans la pétition, c’est celui de l’IA dite « récursive » : un système suffisamment intelligent pour améliorer ses propres algorithmes, sans intervention humaine. Un cercle vertueux pour la machine, mais potentiellement catastrophique si ses objectifs ne sont pas parfaitement alignés avec ceux de l’humanité. Ce scénario, longtemps relégué à la science-fiction, est aujourd’hui pris au sérieux par des experts comme Geoffrey Hinton, lauréat du prix Turing, qui a quitté Google l’an dernier en partie pour alerter le public sur ces dangers.

« Nous ne demandons pas d’arrêter l’innovation. Nous demandons d’avoir le temps de comprendre ce que nous construisons », a déclaré un représentant d’un laboratoire de recherche indépendant ayant participé à la rédaction du texte.

Washington interpellé, mais prudent

La Maison-Blanche n’a pas réagi officiellement à la pétition dans les heures suivant sa publication. But le sujet est loin d’être nouveau pour l’administration Biden, qui avait déjà obtenu en 2023 des engagements volontaires de la part de sept grandes entreprises tech sur la sécurité de l’IA. Des engagements jugés insuffisants par beaucoup.

Le Congrès, lui, reste divisé. Certains élus craignent qu’un moratoire, même partiel, ne freine la compétitivité américaine face à la Chine.

Une course qui s’emballe

Still, la pression monte. GPT-4, Gemini, Claude 3 — les modèles se succèdent à un rythme que même leurs créateurs peinent à anticiper. La pétition de mardi ne propose pas de solution miracle. But elle marque un tournant : pour la première fois, une partie significative de l’industrie elle-même réclame qu’on appuie sur le frein. La question est de savoir si les gouvernements, eux, sont prêts à l’entendre.