Sam Altman à l’ONU : le Décryptage

Mercredi 23 septembre, devant le Conseil de sécurité de l’ONU, Sam Altman a résumé l’urgence en une formule : la progression actuelle de l’intelligence artificielle exige une « attention extrême ».

Le patron d’OpenAI a décrit deux risques. Le premier serait de perdre le contrôle de systèmes capables d’accélérer eux-mêmes la recherche en IA. Le second serait de concentrer cette puissance entre trop peu de mains. Il a appelé à des standards internationaux pour mesurer les capacités, évaluer les dangers, préserver un contrôle humain et déclarer rapidement les incidents.

Altman affirme également qu’OpenAI a déjà ralenti certains développements et le fera de nouveau. Aucun seuil public ne permet toutefois de savoir précisément quand cette promesse s’appliquera.

Cette actualité ouvre une question plus profonde : pourquoi OpenAI et Anthropic insistent-ils autant sur les risques au moment où leurs ambitions financières atteignent une nouvelle dimension ?

Ralentir, mais sans sortir de la course

Dario Amodei, également présent à l’ONU, est allé plus loin. Le patron d’Anthropic a promis que son entreprise ralentirait « autant que nécessaire » pour s’assurer que chaque nouveau modèle soit réellement sûr. Il souhaite notamment installer des évaluateurs extérieurs au sein des laboratoires afin qu’ils puissent contrôler les pratiques et publier leurs conclusions.

Dans le même temps, Reuters rapporte qu’Anthropic pourrait commencer à commercialiser son introduction en Bourse à partir de la mi-octobre. L’entreprise n’a pas confirmé ce calendrier, qui peut encore évoluer. Elle vient aussi de lancer Claude Opus 5.5 pour défendre sa position face à OpenAI, comme nous l’expliquions dans notre analyse de sa stratégie pré-IPO.

OpenAI a choisi une trajectoire différente. Le 12 septembre, Altman a écarté une entrée en Bourse en 2026, jugeant le moment mal choisi compte tenu des enjeux de sécurité. Il n’a pas pour autant renoncé à la croissance, aux nouveaux modèles ou aux partenariats nécessaires pour financer une industrie extrêmement coûteuse.

Le paradoxe est donc réel : les deux entreprises demandent du temps et des garde-fous tout en continuant à se livrer une compétition commerciale intense.

Une inquiétude sincère peut aussi être utile

Il serait trop simple d’accuser Altman et Amodei d’inventer un danger pour préparer leurs introductions en Bourse. Les alertes ne viennent pas uniquement des entreprises. Yoshua Bengio a qualifié les risques de « réels et imminents » devant le Conseil de sécurité. Des chercheurs indépendants et le groupe scientifique de l’ONU demandent eux aussi des contrôles plus solides.

Plusieurs incidents ont montré des agents contournant des restrictions, exploitant des vulnérabilités ou dissimulant des actions lors d’évaluations. Ils ne prouvent pas qu’une catastrophe est imminente, mais ils justifient des tests indépendants et une déclaration obligatoire des incidents.

Une inquiétude sincère peut néanmoins servir une stratégie. Présenter l’IA comme une technologie assez puissante pour transformer l’économie soutient la promesse faite aux investisseurs. Se présenter comme l’acteur le plus conscient de ses dangers permet ensuite de construire une image de fournisseur responsable. La sécurité devient à la fois une exigence, une marque et un argument financier.

Elle peut aussi protéger les acteurs installés. Des évaluations coûteuses et des normes complexes seront plus faciles à absorber pour OpenAI et Anthropic que pour de nouveaux concurrents. Altman a précisé que les futurs standards ne devraient pas verrouiller le marché. Cette déclaration identifie le problème, mais ne suffit pas à l’éviter.

Qui écrira vraiment les règles ?

En prenant la parole à l’ONU, les dirigeants ne demandent pas seulement à être encadrés. Ils cherchent aussi à participer à la définition de l’encadrement : capacités à mesurer, incidents à déclarer, seuils de ralentissement et méthodes d’évaluation.

Leur expertise est indispensable. Mais si les laboratoires fournissent les informations, choisissent les évaluateurs et contribuent à fixer les critères, ils deviennent à la fois l’objet et l’architecte de leur propre contrôle.

La proposition publiée par OpenAI deux jours avant la réunion illustre cette tension : elle défend des normes techniques internationales sans réclamer d’autorisation mondiale préalable pour lancer un modèle.

Le vrai test sera le coût accepté

La position d’OpenAI et d’Anthropic devient alors plus lisible. Ces entreprises ont intérêt à convaincre que leurs systèmes sont assez puissants pour bouleverser l’économie, assez dangereux pour exiger une attention exceptionnelle et assez maîtrisés pour mériter la confiance des investisseurs.

Ces trois affirmations peuvent être vraies ensemble. Leur crédibilité se mesurera cependant moins aux discours qu’aux décisions : le premier lancement réellement retardé, le premier rapport indépendant embarrassant publié sans censure et la première règle contraignante acceptée même lorsqu’elle coûte de la croissance.

L’avis d’Elessar Labs

On ne peut que donner raison à Sam Altman lorsqu’il affirme qu’un pouvoir aussi important ne devrait pas rester concentré entre quelques mains. Le développement des modèles frontières doit être mieux réparti, évalué par des acteurs indépendants et encadré avant que les outils ne progressent plus vite que notre capacité à les contrôler.

Mais une question demeure : pourquoi les dirigeants qui accélèrent cette course appellent-ils aujourd’hui au calme ? Sont-ils soudain devenus misanthropes, effrayés par leurs propres créations, ou défendent-ils aussi une position économique ?

À l’approche d’introductions en Bourse très attendues, OpenAI et Anthropic doivent justifier des valorisations considérables. Dans le même temps, des modèles ouverts, notamment chinois, réduisent rapidement leur retard pour des coûts bien plus faibles. Reuters rapporte par exemple que GLM-5.2 de Z.ai se rapprochait des meilleurs modèles américains à une fraction de leur coût. Si ces offres devenaient suffisamment performantes pour remplacer une partie des modèles propriétaires, elles pourraient fragiliser le modèle économique des laboratoires américains.

Cette piste reste une hypothèse économique, pas une intention cachée démontrée. Les risques évoqués par Sam Altman et Dario Amodei sont sérieux, et leurs appels à une coordination internationale peuvent être sincères. Mais leurs discours méritent aussi d’être examinés à la lumière de leurs intérêts industriels et financiers.

S’agit-il uniquement de protéger la société, ou également de protéger leur avance ? L’avenir nous le dira.