Anthropic réclame un moratoire mondial sur l’IA avancée
Anthropic, l’une des principales entreprises d’intelligence artificielle, a lancé un appel surprise cette semaine en faveur d’un moratoire mondial sur le développement des systèmes d’IA les plus avancés. La société basée à San Francisco, créatrice de l’assistant conversationnel Claude, évoque un risque de « perte de contrôle » qui nécessiterait selon elle une pause coordonnée à l’échelle internationale.
Cette prise de position marque un tournant. Anthropic rejoint ainsi une poignée de voix dissidentes dans un secteur dominé par la course effrénée à l’innovation, où Google, OpenAI et Meta investissent des milliards de dollars chaque trimestre.
Des capacités qui dépassent les créateurs
L’entreprise s’inquiète de la vitesse à laquelle progressent les modèles de langage. Dans un document publié par ses équipes de recherche, Anthropic souligne que certaines capacités émergentes des systèmes d’IA ne sont plus prévisibles, même par leurs concepteurs. Les modèles développent des compétences que personne n’avait anticipées.
« Nous atteignons un point où la technologie évolue plus vite que notre capacité à en comprendre les implications », affirme un porte-parole de l’entreprise dans un communiqué officiel. « Un temps d’arrêt permettrait d’établir des garde-fous avant qu’il ne soit trop tard. »
Une proposition qui divise
La proposition d’Anthropic ne fait pas l’unanimité. Plusieurs experts estiment qu’un moratoire serait impossible à faire respecter et risquerait de favoriser les pays moins regardants sur les questions de sécurité. D’autres y voient une manœuvre stratégique de la part d’une entreprise qui chercherait à ralentir ses concurrents.
Still, l’appel résonne différemment venant d’Anthropic. L’entreprise, fondée par d’anciens cadres d’OpenAI précisément sur des préoccupations de sécurité, a toujours affiché une approche plus prudente que ses rivaux.
Vers une régulation internationale?
La question d’une gouvernance mondiale de l’IA refait surface. L’Union européenne a adopté en 2024 son AI Act, mais les États-Unis et la Chine n’ont pas suivi avec des mesures comparables. Un moratoire nécessiterait un accord entre ces puissances, ce qui paraît hautement improbable dans le climat géopolitique actuel.
Les prochains mois diront si cet appel restera isolé ou s’il catalyse un mouvement plus large. Mais une chose est certaine: le débat sur les limites du développement de l’IA n’a jamais été aussi pressant.
