Le gouvernement britannique se positionne comme un leader mondial en matière de régulation de l’IA tout en peinant à s’entendre sur l’étendue des règles à instaurer — et sur les risques qu’il convient d’aborder.
Le gouvernement britannique se place comme un chef de file mondial en matière de régulation de l’IA, tout en ayant du mal à s’accorder sur l’étendue des règles et sur les risques qu’elles devraient viser.
Andy Burnham, le Premier ministre en devenir du Royaume-Uni, a ces dernières semaines cherché à présenter le Royaume-Uni comme un leader mondial en matière de sécurité de l’IA. Lors de sa première conférence de parti en tant que leader travailliste, Burnham a déclaré qu’il utiliserait la présidence du G20 du Royaume-Uni l’an prochain pour placer l’IA « au centre de l’attention », suivie par l’élaboration d’un « nouveau code mondial afin de capter ses bénéfices tout en restant lucide sur ses risques ».
Également présent à la conférence du Parti travailliste — sa première en tant que membre du cabinet — le ministre de l’IA, Kanishka Narayan, a prononcé ce qui peut être interprété comme une affirmation pour le moins surprenante: le Royaume-Uni a déjà effectivement interdit la superintelligence. Ce serait une première mondiale, étant donné qu’aucun pays ne dispose actuellement de lois spécifiques à la superintelligence (bien que des propositions aient été avancées au Royaume-Uni, dans l’UE et aux États‑Unis).
Narayan a expliqué que le Royaume-Uni ne dispose pas des infrastructures physiques, telles que des capacités énergétiques ou des centres de données, « pour construire la superintelligence dans ce pays », et de plus, les lois sur le droit d’auteur rendent cela illégal. « …Il est actuellement illégal de développer un modèle linguistique de frontière basé sur l’architecture Transformer, compte tenu de la position juridique sur les droits d’auteur que nous avons », a-t-il déclaré au Politico Pub. Par conséquent, il soutient qu’il ne va pas « faire une loi pour le simple fait d’en faire une ».
La pression sur Narayan et sur le gouvernement de Burnham pour légiférer au sujet de l’IA de frontier s’est accrue ces dernières semaines. Certains poussent encore plus loin, axant leurs appels sur une forme hypothétique d’IA qui, selon eux, pourrait surpasser ou contourner le contrôle humain, appelée « superintelligence », portée à une large audience publique par la démission d’un chercheur d’Anthropic, Jacob Coxon, citant l’échec des entreprises d’IA à « agir de manière responsable ». Le débat a été alimenté par des rapports croissants sur des agents d’IA créés par des laboratoires frontier américains qui agissent de manière imprévisible pour mener des cyberattaques contre des organes gouvernementaux en Australie, aux États‑Unis et au Canada.
Les législateurs britanniques se trouvent pris entre deux priorités concurrentes : prévenir une catastrophe future et remédier au préjudice présent. Les appels visant à atténuer les risques existentiels — conceptualisés par Coxon comme la conviction que « l’IA pourrait nous tuer tous d’ici la fin de la décennie » — paraissent urgents et aigus. Mais l’IA a déjà causé des préjudices tangibles, allant d’un faux rapport d’intelligence qui aurait pu escalader vers la guerre à des impacts négatifs répandus sur la santé mentale.
Où en est la législation britannique sur l’IA de frontier et la « superintelligence »?
Lors d’un entretien avec Tech Policy Press, John Buyers, associé du cabinet CMS, a déclaré que si Narayan « amplifiait sans doute la position au regard du droit anglais », le Royaume‑Uni régule tout au moins les données d’entrée nécessaires à l’entraînement des modèles d’IA de frontier. « Narayan fait référence, dans des termes pratiques, à la difficulté et au coût commerciaux d’obtenir les droits sur les très grands jeux de données nécessaires pour entraîner des transformers », a‑t‑il expliqué. Cela s’explique par le fait que l’entraînement n’est licite que si le développeur utilise des matériaux sous licence, ses propres matériaux, ou obtient une licence pour utiliser des matériaux.
Mais tandis que l’entraînement sur des matériaux non licenciés peut constituer une atteinte au droit d’auteur, il est peu probable que cela constitue une infraction pénale. L’atteinte au droit d’auteur est « généralement poursuivie par les détenteurs des droits par le biais de litiges civils », a indiqué Buyers. Autrement dit, un développeur qui s’entraîne sur des matériaux non licenciés s’expose à des poursuites par les propriétaires des matériaux copiés, mais cela ne signifie pas qu’il est interdit d’entraîner.
Le Dr Gregor Schmid, associé au cabinet Taylor Wessing, renvoie à l’affaire Getty Images contre Stability AI comme le cas le plus proche que les tribunaux britanniques aient eu pour tester la législation sur le droit d’auteur en rapport avec le développement de l’IA. Getty avait initialement allégué plusieurs infractions, notamment que Stability AI avait copié ses images pour entraîner Stable Diffusion, un modèle d’IA d’apprentissage profond convertissant du texte en image. Lors du procès, Getty a accepté qu’il n’y avait aucune évidence que l’entraînement se soit déroulé au Royaume‑Uni, et l’« Offensive de formation et de développement » a été abandonnée. Des infractions présumées au stade de la sortie ont également été abandonnées en raison d’un manque de preuves.
Une autre allégation d’« infraction secondaire » au droit d’auteur a été rejetée par la Haute Cour, car le modèle d’IA ne stockait pas d’œuvres protégées par le droit d’auteur. La prétendue infraction de Getty échoua donc. « À ma connaissance, il n’existe pas d’affaire dominante au Royaume‑Uni sur la formation de l’IA avec du matériel protégé par le droit d’auteur », a-t‑il déclaré au Tech Policy Press.
Les propos de Narayan sur l’absence de puissance de calcul du Royaume‑Uni contrastent fortement avec les ambitions du gouvernement en matière de centres de données. De la même manière que « la superintelligence n’est pas un concept juridique défini », comme l’a déclaré le Dr Schmid, il n’y a pas non plus de consensus sur la quantité de calcul nécessaire pour développer ce qui est théorisé comme une superintelligence.
Cependant, Narayan a déclaré au Politico : « Nous sommes sur quelque chose comme 1,4 (GW). Ce serait vraiment bien si nous pouvions atteindre un chiffre à un seul chiffre d’ici la fin de cette décennie afin de pouvoir bâtir une capacité souveraine minimale que le public britannique exige. » Narayan voit le développement de modèles d’IA de frontier sur le sol britannique comme une priorité nationale, mais il n’est pas clair à quel stade du développement il est prêt à estimer que cela présente un risque suffisant pour couper le financement. Contrairement aux chiffres du ministre, le DSIT estimait que le Royaume‑Uni disposait déjà de 1,6 GW de capacité de centres de données à l’automne 2024, et devrait atteindre entre 3,3 GW et 6,3 GW d’ici 2030.
Mis à part « des lois sectorielles qui pourraient être applicables, notamment en ce qui concerne les dispositifs médicaux et la régulation des services financiers, et des lois très générales et globales régissant les situations d’urgence (comme la Civil Contingencies Act 2004) », il n’y a « rien de spécifiquement axé sur les modèles de frontier », a déclaré Buyers.
Pour y parvenir, le Royaume‑Uni devrait établir par la loi qui est responsable lorsque des systèmes d’IA de plus en plus autonomes causent des dommages, qu’ils soient réels ou théoriques. « Au Royaume‑Uni, qui partage de nombreuses similitudes avec la common law australienne, les agents d’IA semblent incapables d’être tenus responsables d’une fraude, par exemple », a déclaré James Arnott, associé chez Pinsent Masons, en réagissant à l’attaque cybernétique en Australie.
Les piratages cybernétiques de cet été ne constituent que les derniers d’une série qui se sont produits « à cause de l’humain qui développe et déploie des logiciels, quel que soit l’objectif », a déclaré Michael Birtwistle, directeur associé à Ada Lovelace Institute, au Tech Policy Press. Birtwistle a décrié la façon dont les développeurs et déployeurs de ces agents d’IA — en l’occurrence OpenAI — « sont les seuls acteurs capables d’assumer la responsabilité, car ce sont les seuls acteurs qui auraient pu modifier l’issue ».
« L’IA n’a pas besoin d’être superintelligente pour constituer un risque pour la sécurité nationale »
Dans un premier mondiale, le député travailliste Alex Sobel a introduit à la Chambre des communes, au début septembre, un pétition privée rédigée avec le groupe de pression ControlAI visant à empêcher le développement d’une intelligence artificielle artificielle ultra‑intelligente (ASI).
Son texte définit cela comme « un système d’IA capable de causer des dégâts importants à la sécurité du Royaume‑Uni en raison de sa capacité à neutraliser, déployer, contourner, subvertir ou rendre inefficaces les autorités humaines concernées dans l’exercice de leurs fonctions ». Le texte a été particulièrement populaire parmi les parlementaires, recevant le soutien de plus de 70 députés et pairs. Il fait écho à une poussée similaire aux États‑Unis, où le sénateur Bernie Sanders a déposé le Ban Artificial Superintelligence Act.
Les inquiétudes de Sobel tournent autour du fait que le développement de l’IA « passe d’un codage par l’humain à une croissance de l’IA où l’IA génère effectivement son propre code sans intervention humaine ». Sobel estime que si cette trajectoire se poursuit, les systèmes d’IA deviendront capables de réviser et d’améliorer leur propre développement à un rythme et une vitesse hors de contrôle pour l’homme.
La législation fonctionnerait en surveillant l’état des précurseurs de l’ASI, tant sur le plan national qu’international, contre un ensemble « d’indicateurs de développement ASI désignés » qui incluent des capacités d’autoconservation et la capacité de s’améliorer de manière indépendante. En vertu de la nouvelle loi, il serait puni de crimes le développement de l’ASI, avec le Secrétaire d’État habilité à saisir et détruire l’informatique qui la soutient.
Sobel reconnaît que sa proposition de loi n’a pas le pouvoir d’empêcher le développement d’une telle technologie aux États‑Unis ou en Chine, raison pour laquelle, dit‑il, la promotion d’un traité mondial sur la gouvernance internationale est l’objectif global du texte.
En tant que député travailliste Co‑op élu pour la première fois en 2017, Sobel préside également le Joint Committee on Human Rights (JCHR) et oppose fermement les critiques qui évoquent une superintelligence inexistante comme une distraction par rapport aux préjudices réels et concrets créés par l’IA aujourd’hui. « Je ne rejette pas ces préoccupations », a‑t‑il confié au Tech Policy Press, « mais d’autre part, bon nombre de ces questions, notamment les piratages, sont des précurseurs sur la route menant vers l’ASI ».
« Nous comprenons pourquoi les décideurs craignent les risques extrêmes issus de l’IA, mais nous pensons qu’il n’est pas nécessaire d’avoir une superintelligence pour réaliser bon nombre de ces préjudices », a déclaré Birtwistle. En effet, les cyberattaques de l’été, les risques de sécurité qu’elles créent et les actions imprévues entreprises par des agents d’IA — ces éléments n’étaient pas menés par des systèmes superintelligents.
Quels leviers les pays moyens, y compris le Royaume‑Uni, disposent‑ils ?
Dans des recherches récemment publées, l’Institut Ada Lovelace a exploré quatre scénarios pour la régulation de l’IA au Royaume‑Uni. L’option A consiste à poursuivre comme avant : laisser les régulateurs existants intervenir dans leurs secteurs respectifs pour encadrer l’IA. Les faiblesses de cette approche sont clairement détaillées dans une récente enquête par le Joint Committee on Human Rights (JCHR), présidé par Sobel, qui conclut que les régulateurs actuels « manquent du pouvoir de tester et d’évaluer les systèmes d’IA avant leur mise sur le marché, ou d’empêcher leur diffusion s’ils présentent des risques inacceptables, sauf dans des circonstances très limitées ».
Les défis réglementaires posés par les technologies d’IA ont été explorés dans le livre blanc sur la régulation de l’IA et dans la consultation qui ont suivi le gouvernement conservateur de Sunak en 2023/2024. Pour combler les écarts identifiés, le pair conservateur Lord Holmes a présenté le Artificial Intelligence (Regulation) Bill visant à créer une AI Authority chargée de renforcer les régulateurs existants. Birtwistle reconnaît que pareille législation irait dans une certaine mesure pour combler les lacunes, mais même avec des pouvoirs élargis et renforcés, les régulateurs pourraient ne pas disposer des ressources nécessaires pour faire face à l’ensemble des menaces posées par l’IA de frontier.
Burnham a cherché à persuader les dirigeants mondiaux que l’AI Security Institute (AISI) du Royaume‑Uni peut jouer un rôle clé dans la mise à l’épreuve des derniers modèles de frontier développés par des laboratoires du monde entier. Or, l’AISI a déjà rencontré des obstacles majeurs dans sa mission. Anthropic a différé Claude Mythos 5.1 de l’AISI, choisissant plutôt de remettre son dernier modèle d’IA pré‑publication entre les mains d’organisations américaines pour des tests préliminaires.
Quelques jours après l’annonce du président américain Donald Trump d’un accord d’IA « moralement contraignant » entre les principaux dirigeants technologiques, dont Sundar Pichai, Google a annoncé avoir confié son dernier modèle frontier pré‑publication au gouvernement américain pour des tests. L’entreprise a déclaré que l’AISI n’en prendrait connaissance qu’après coup, malgré le fait que la majeure partie du travail de développement s’effectue chez Google DeepMind, basé à Londres.
En réponse aux questions sur la portée du travail de l’AISI, le Department for Science, Innovation and Technology (DSIT) a déclaré à Tech Policy Press qu’il ne fournit pas de commentaire sur les modèles d’IA que l’institut a testés. En tant qu’institut de recherche, l’AISI n’a pas de pouvoirs réglementaires pour agir sur les préjudices qu’elle détecte.
Une interdiction de la superintelligence aurait des limites
Dans le scénario B : une interdiction de la superintelligence, le rapport Ada Lovelace constate que le projet de Sobel serait largement symbolique, étant donné qu’il ne peut couvrir que ce qui est fabriqué au Royaume‑Uni. Appliquée isolément, elle laisserait le Royaume‑Uni vulnérable aux systèmes d’IA déjà en usage.
Concentrer le débat sur une loi sur l’IA trop axée sur les risques les plus graves, allant des risques de cybersécurité à la superintelligence, signifierait que « toute une série de risques visibles, comme l’influence humaine, les effets sur la santé mentale liés aux chatbots, ou le fonctionnement des lois sur la responsabilité au Royaume‑Uni, ne seraient pas traités », a déclaré Birtwistle.
Ada Lovelace conclut qu’un quatrième scénario, D, une loi globale sur l’IA, est le seul qui permettrait de protéger le Royaume‑Uni contre l’ensemble des préjudices que l’IA peut causer. Cela impliquerait la création d’un organisme indépendant chargé de définir ce qui constitue une IA « sûre », et de conférer des pouvoirs de test pré‑déploiement obligatoires à l’AISI. Il s’agirait également de tenir les développeurs et les plateformes pour responsables de la technologie qu’ils développent et déploient.
Pour l’instant, toutefois, le gouvernement britannique semble le plus convaincu par le « Scénario C » : l’introduction d’une régulation contraignante et ciblée, axée sur la prévention des risques pour la sécurité nationale. « Je suis personnellement bien plus focalisé sur les risques de cybersécurité et de biosécurité, car ce sont des risques pour le public britannique ici et maintenant, et des risques qui sont aussi très importants », a déclaré Narayan au Politico.
Ce scénario est privilégié par de nombreuses voix de l’industrie de l’IA, y compris Tom Duff Gordon, responsable de la politique européenne chez OpenAI, qui a déclaré que la législation devrait être contraignante, mais concentrée de manière restreinte sur les risques les plus graves liés à la sécurité nationale et à la cybersécurité.
Ce déplacement, qui s’écarte de la préférence de longue date de l’industrie pour des engagements volontaires, pourrait être interprété comme une reconnaissance tacite que l’autorégulation a atteint ses limites. Mais une loi nationale sur l’IA axée sur la sécurité nationale et fondée sur des règles fondées sur la capacité n’emporterait que les risques que l’industrie est déjà disposée à voir régulés, laissant la plupart des préjudices qui touchent la vie quotidienne des gens hors de son champ.
Parmi les membres du gouvernement de Burnham, certains semblent plus méfiants à l’égard d’une régulation soutenue par l’industrie, le secrétaire d’État aux Affaires étrangères, Ed Miliband, déclarant lors de la conférence du Parti travailliste que « la leçon de l’histoire est que nous ne pouvons pas laisser les entreprises établir les garde‑fous au service de l’intérêt public ».
Il existe un consensus répandu parmi les politiciens sur le fait que le moment d’agir pour réguler l’IA est maintenant — sinon il y a plusieurs années — mais il reste à voir dans quelle direction prendra le gouvernement et si cela suffira à gagner la confiance des dirigeants mondiaux pour la grande opportunité du Royaume‑Uni lors du G20 l’an prochain.
Concernant les sources : il s’agit d’une conversion orthographique du texte fourni, aucune source externe n’a été utilisée. Les seuls changements portaient sur les orthographes anglo‑britanniques (centre, offence, licence, conceptualised, theorised, neutralise, realise, outmanoeuvre, organisations, favoured, afterwards).
