Faut-il ralentir l’intelligence artificielle ? Anthropic, OpenAI et la bataille pour réguler l’IA
Sommaire
kynnet pourrait-il être plus proche que jamais ? Il y a quelques jours, lors d'une évaluation interne, un essaim d'agents d'IA d'OpenAI est sorti du script. Et nous ne parlons pas des modèles les plus avancés de la maison, mais de agents de capacité intermédiaire travaillant en groupe.
Pour réussir le test qui leur avait été imposé, ces agents ont commencé à attaquer les serveurs de Hugging Face, une communauté open source dédiée à l'IA que personne ne leur avait demandé d'attaquer. Encore plus, certains de ces agents se sont sacrifiés pour que le reste du groupe accomplisse la tâche.
Finalement, cela ne s'est pas avéré être excessivement grave, et le dommage économique a été modeste. Mais l'épisode a laissé une question inconfortable flotter dans l'air. Si des agents de second rang sont capables de se coordonner ainsi, que pourrait-il se passer lorsque les modèles qui se coordonnent seront ceux du haut ?
Trois jours plus tard, le samedi 12 septembre, le PDG d'Anthropic a publié une lettre demandant de ralentir et de réguler conjointement le développement de l'IA. Et en quelques heures, la moitié de l'industrie lui a donné raison.
Est-il vrai qu'une pause réglementaire serait souhaitable dans le développement de l'IA, ou n'est-ce qu'une ruse marketing pour consolider les laboratoires déjà bien positionnés ?
La lettre de Dario Amodei, PDG d'Anthropic
Le texte est intitulé We Must Pace the Frontier, quelque chose comme « nous devons marquer le rythme de la frontière ». Sa thèse centrale est qu'il ne suffit plus d'investir davantage dans la sécurité, mais qu'il faut réduire la vitesse à laquelle les capacités des modèles s'améliorent. Dans les mots d'Amodei lui-même,
Nous devons réduire le rythme auquel nous améliorons les capacités des modèles d'IA.
Sa projection est que dans un délai de six à douze mois, un essaim similaire, mais avec des modèles beaucoup plus capables, pourrait s'installer dans l'infrastructure critique d'internet et causer des dommages de centaines de milliards.
Et derrière cette peur, il y a ce qu'on appelle l'auto-amélioration récursive. En d'autres termes, ce sont les modèles eux-mêmes qui construisent et entraînent les modèles suivants. Par conséquent, si chaque génération est plus capable que la précédente, chaque génération prend moins de temps pour produire la suivante, et le développement devient exponentiel. Le problème n'est pas seulement que les modèles soient plus puissants, mais que le temps disponible pour vérifier s'ils sont sûrs se réduit en même temps.
Les trois points qu'il propose
La lettre ne demande pas d'arrêter le développement net, mais articule un plan de ralentissement - ou peut-être de blindage ? - en trois étapes.
| Mesure | Qu'est-ce que cela implique ? | Points clés / difficulté |
|---|---|---|
| Évaluateurs intégrés dans les laboratoires | Des équipes externes travailleraient à l'intérieur des laboratoires avec un accès similaire à celui d'un employé pour évaluer continuellement les modèles et publier leurs conclusions de manière indépendante. | Anthropic s'engage à l'appliquer unilatéralement et propose que les gouvernements obligent les autres laboratoires à faire de même. |
| Coordination entre les laboratoires des pays démocratiques | Création de normes de sécurité communes, de points de contrôle et de limites à la vitesse de développement. Un modèle atteignant certaines capacités ne serait pas déployé avant d'avoir passé certaines évaluations et certifications communes. | Exigerait une sorte de dérogation à la législation antitrust, car cela impliquerait des accords entre concurrents sur les rythmes et conditions de développement. |
| Coordination mondiale avec la Chine | Que cela inclue interdire des usages extrêmes comme les armes biologiques, soumettre les modèles à des normes avant de les lancer, limiter conjointement l'auto-amélioration récursive et, dans le scénario le plus exigeant, convenir d'une pause mondiale. | La pause mondiale est considérée comme peu probable à court terme. De plus, la coopération coexisterait avec des contrôles à l'exportation de semi-conducteurs pour maintenir l'avantage technologique occidental. |
Ce qui était frappant, ce n'était pas la lettre, mais la réaction. En quelques heures, les quatre grands laboratoires américains, qui courent à mort entre eux depuis trois ans, ont signé un message unitaire.
- Sam Altman, d'OpenAI, a déclaré qu'il était d'accord avec Amodei sur la nécessité de fixer le rythme à la frontière et a annoncé qu'OpenAI ouvrirait également ses portes à des évaluateurs externes.
- Elon Musk a été beaucoup plus succinct et a publié sur X un simple « Dario a raison », ajoutant que c'est le bon point de départ.
Le marché, en revanche, n'a pas applaudi avec des baisses généralisées des actions liées à l'IA qui ont couvert de 3 % dans les cas de Nvidia (NVDA), jusqu'à 7 % Marvell (MRVL) et SK Hynix (SKHY). L'indice des semi-conducteurs de Philadelphie a pris une bonne partie du coup.
Suivez les valeurs les plus sensibles au cycle de l’IA
Nvidia, AMD, TSMC, Broadcom, Microsoft ou Palantir font partie des sociétés les plus exposées à la croissance des infrastructures et logiciels d’intelligence artificielle. XTB permet d’accéder à ces actions depuis une même plateforme.
Investir dans les actions IA avec XTB
Avant de continuer, si vous voulez investir dans l'intelligence artificielle, je vous laisse également avec quelques-uns des meilleurs ETF d'IA au cas où vous chercheriez une exposition au thème sans vous risquer sur une seule entreprise.
| ETF | TER | Rentabilité 3 ans | Volatilité 1 an |
|---|---|---|---|
| Xtrackers Artificial Intelligence & Big Data UCITS ETF 1C (XAIX) | 0,35% | 125,54% | 21,80% |
| L&G Artificial Intelligence UCITS ETF (XMLD) | 0,49% | 130,13% | 27,30% |
| Amundi MSCI Robotics & AI UCITS ETF Acc (GOAI) | 0,40% | 68,87% | 21,50% |
Au fait, n'oubliez pas qu'il n'existe pas d'ETFs IA pure play, donc en achetant l'un de ceux-ci, vous prenez également une exposition aux semi-conducteurs, logiciels, cloud ou automatisation. Pour comprendre ce point, n'hésitez pas à consulter notre guide sur comment fonctionne toute la chaîne de valeur de l'IA.
Comparez plusieurs ETF intelligence artificielle
DEGIRO référence plusieurs ETF IA parmi les plus négociés sur sa plateforme, notamment Xtrackers Artificial Intelligence & Big Data, L&G Artificial Intelligence et WisdomTree Artificial Intelligence.
Y a-t-il quelque chose au-delà de leur "altruisme humanitaire" ?
Mais bien sûr, quand une entreprise qui allait de plus en plus vite demande, soudainement, qu'on lui impose des limites de vitesse, et que ses concurrents se joignent sans poser le moindre obstacle, on se demande si c'est vraiment un simple altruisme humaniste, ou s'il y a quelque chose de plus en dessous.
Voici, à mon avis, les trois lectures, qui ne sont d'ailleurs pas mutuellement exclusives.
Scénario 1 : Altruisme pour le bien de l'humanité
Peut-être la possibilité la plus simple de toutes, qu'essentiellement Amodei soit sincère, et que dans les hautes sphères de ces laboratoires, ils voient des choses que nous n'imaginons même pas.
Notez que l'hypothèse Skynet n'a plus besoin d'une superintelligence générale (AGI). Le fait de Hugging Face suggère un chemin différent et plus prosaïque, celui des agents de capacité intermédiaire, rien de génial individuellement, mais essaimés et coordonnés. Quelque chose de plus proche du triomphe de l'Idiocratie proposé par le film de 2006 qu'une machine omnisciente prenant le contrôle.
Il n'est pas nécessaire qu'un génie fasse des actions discutables "pour le bien de tous" pour faire tomber la moitié d'Internet. Il suffit de milliers d'agents médiocres poursuivant un objectif mal spécifié.
Et il y a un détail contextuel qui pèse. La lettre est arrivée à peine trois jours après que Jacob Coxon, chercheur chez Anthropic, ait démissionné publiquement en accusant les laboratoires de jouer avec la vie des gens. Et cette même semaine, un autre de ses collègues a estimé à plus de 10 % la probabilité que l'IA mette fin à l'humanité dans la prochaine décennie.
Au fait, Amodei ne mentionne pas Coxon à aucun moment dans l'essai, ce qui en dit aussi long.
Ajoutez à cela que si les modèles d'un laboratoire causent des dommages de plusieurs millions à des tiers, ce laboratoire est juridiquement responsable. Les indemnisations seraient brutales. Donc être le bon garçon est aussi une décision financièrement rentable.
Diversifiez plutôt que de dépendre d’un seul laboratoire
Les gagnants économiques de l’IA ne seront pas forcément les entreprises qui développent les meilleurs modèles. Une exposition via plusieurs actions ou ETF permet de répartir le risque entre puces, cloud, logiciels et automatisation.
Explorer les investissements liés à l’IA avec Trade Republic
Scénario 2 : Le fossé réglementaire avant l'entrée en bourse
Il s'agit de la lecture qui s'est le plus popularisée à travers les réseaux sociaux, et la vérité est que le calendrier l'alimente. Anthropic vise toujours à entrer en bourse en octobre, et ce n'est pas pour rien qu'elle a déjà présenté son prospectus S-1 confidentiel à la SEC le 1er juin, avec des évaluations que certains investisseurs situent autour de 2 billions de dollars.
Par conséquent, publier un essai moral quelques semaines avant le roadshow est, pour le moins, une décision de positionnement (et de force), avec laquelle elle pourrait chercher à atteindre un double objectif en même temps :
- Premièrement, lever un fossé réglementaire : Les évaluateurs résidents et les systèmes de certification sont parfaitement acceptables pour une grande entreprise avec de l'argent et du personnel, mais ils sont une barrière très élevée pour quiconque souhaite entrer. Si la norme de sécurité que vous proposez est exactement celle que vous respectez déjà, la réglementation ne vous freine pas, elle vous consolide.
- Deuxièmement, une démonstration de force : Dire « j'ai peur de moi-même » est une façon sophistiquée de dire « je suis le meilleur ». L'avertissement fonctionne comme la meilleure publicité possible. Dame Wendy Hall l'a résumé cette semaine avec une question qui s'explique d'elle-même, investiriez-vous dans une entreprise qui dit qu'elle pourrait mettre fin à l'humanité ?
De plus, quelque chose qui alimente la recherche de ce fossé réglementaire est le fait que le plus grand rival d'Anthropic, Open AI, ait également décidé de suspendre son entrée en bourse jusqu'à pas avant 2027. Bien sûr, il ne parlait évidemment pas d'une plus grande réglementation en matière d'IA, mais il l'a justifié précisément pour des raisons de sécurité, en disant que « ce serait un moment peu conseillé pour entrer sur le marché boursier ».
Profitez de la croissance de l’IA sans attendre une IPO
Tant qu’Anthropic ou OpenAI restent non cotées, les investisseurs particuliers peuvent passer par les sociétés déjà en Bourse qui fournissent les infrastructures nécessaires au secteur : Nvidia, Microsoft, Alphabet ou ASML, par exemple.
Scénario 3 : L'asymétrie de ce qui est promis
Et nous arrivons à celui qui, à mon avis, est le plus révélateur des trois. Pour le comprendre, il faut séparer ce qu'Anthropic promet de faire dès maintenant, de ce qu'elle promet de faire si d'autres bougent en premier.
Ce que l'on fait de manière immédiate et unilatérale est une seule chose, accepter des évaluateurs externes dans ses bureaux. Rien de plus.
Il ne s'engage pas à ralentir le rythme de développement, et en fait, l'entreprise continue de lancer des modèles de pointe sur le marché tout en demandant de ralentir. C'est-à-dire, ce n'est pas un essai sur le ralentissement, c'est un essai sur parler de ralentir tout en continuant à courir.
De plus, ces évaluateurs ont un contrat avec l'entreprise et l'entreprise conserve le droit de rayer des parties de leurs rapports pour des raisons de sécurité ou commerciales. Cela ne les rend pas inutiles, mais limite considérablement leur indépendance.
Entre-temps, ce qui est vraiment coûteux est encore conditionné :
- La deuxième étape, la coordination entre laboratoires, dépend de l'octroi par le gouvernement américain d'une exemption antitrust que personne n'est obligé d'accorder.
- Et la troisième dépend du fait que la Chine accepte de négocier.
En résumé, ce qui est bon marché est immédiat (les évaluateurs) et ce qui est coûteux reste soumis au mouvement des tiers. Cela ne démontre pas de mauvaise foi. Mais cela signifie que la conception de la proposition tient aussi bien que la conviction soit sincère ou non, et c'est pourquoi il convient de regarder les incitations (et non les intentions).
Qu'est-ce qui pourrait se cacher derrière tout cela ?
Tout d'abord, quiconque prend au sérieux le problème de l'alignement doit accepter qu'une fois l'amélioration récursive atteinte, continuer à développer sans prendre le temps de vérifier la sécurité est véritablement dangereux. Et il est très improbable de nier que les laboratoires puissent agir sans responsabilité.
D'autre part, les explications selon lesquelles tout est une opération de marketing pour préparer une introduction en bourse apothéotique ne semblent pas non plus tenir le coup. Il est vrai qu'Open AI a suspendu son introduction, mais d'autres acteurs sérieux de l'industrie comme Google (GOOGL) et xAI (SCPX), qui sont déjà cotés, ont également rejoint la lettre d'Amodei.
Et troisièmement, que l'industrie américaine cherche une réglementation sectorielle qui expulse de facto les modèles chinois de poids ouverts, qui sont gratuits et leur retirent du pouvoir de marché, n'est pas non plus concluant. Après tout, les modèles chinois restent derrière la frontière, c'est-à-dire que si vous craigniez d'être sur le point d'être dépassé, vous accéléreriez au lieu de freiner, et Alphabet, qui vend de la capacité de calcul quel que soit le gagnant, a été l'un des premiers à demander la pause.
De plus, l'IA est une arme géopolitique de premier ordre, et ni les États-Unis ni la Chine ne toléreront que l'autre ait un modèle très supérieur. Tout le frein américain est subordonné à ce que la Chine freine également, et là apparaît le problème de fond, car entraîner un modèle ne laisse pas la trace détectable qu'un essai nucléaire laissait. Sans vérification crédible, aucune partie ne se fie, et par précaution, toutes continueraient à tricher.
Cela pourrait être la question de fond
Par conséquent, l'hypothèse la plus vraisemblable est une autre, qui pourrait d'une manière ou d'une autre inclure tout ce qui a été mentionné.
Voyez-le ainsi, si dans un an un essaim d'agents causait des dommages de centaines de milliards, avoir averti publiquement tout en vous imposant des évaluateurs externes est un bouclier juridique de premier ordre.
Se joindre est relativement peu coûteux (financer ces évaluateurs), et puisque le seul qui s'est engagé à quelque chose de concret est Anthropic, cela lui achèterait deux choses : une couverture légale et une légitimité pour avoir une place à la table où la norme sera rédigée.
Et, à mon avis, c'est là que réside le calcul de fond, car ces laboratoires préfèrent des règles écrites avec eux à l'intérieur à celles écrites par un député qui ne distingue pas un paramètre d'un jeton.
Que cela produise de meilleures règles pour le reste d'entre nous est une autre discussion, et c'est justement celle qui ouvre le débat sur l'aspect réglementaire.
