Microsoft a publié un code de conduite provisoire destiné à encadrer les futurs modèles d’intelligence artificielle développés en interne. Le document impose des restrictions sur les comportements autorisés, les types de demandes auxquelles les systèmes pourront répondre et la manière dont ils devront rester alignés sur les objectifs humains. Cette publication intervient alors que plusieurs dirigeants du secteur soutiennent ouvertement l’idée de ralentir le développement des modèles les plus avancés afin de renforcer les mesures de sécurité.

L’entreprise précise que ces règles ne sont pas encore définitives. Microsoft souhaite recueillir des avis extérieurs avant de publier une version actualisée qui servira de référence pour le développement de ses modèles à partir de 2027. Le groupe dit avoir travaillé sur ces principes pendant environ cinq mois, mais a choisi de les dévoiler maintenant en raison de l’intensification récente du débat sur les risques liés à l’intelligence artificielle.

Microsoft veut rendre son engagement plus explicite

Mustafa Suleyman, qui dirige le développement des modèles d’IA de Microsoft, a expliqué que l’entreprise avait reçu des demandes pour formuler plus clairement le principe selon lequel l’intelligence artificielle doit rester au service des personnes.

Les retours recueillis portaient notamment sur la dépendance aux systèmes d’IA, les comportements excessivement complaisants et la nécessité de préserver le jugement humain, l’autonomie et la capacité de décision des utilisateurs.

Microsoft cherche ainsi à formaliser une ligne de conduite qui dépasse les simples restrictions techniques. Les futurs modèles doivent assister les utilisateurs sans chercher à les remplacer ni à réduire leur capacité à prendre leurs propres décisions.

Selon Suleyman, le moment actuel justifiait une publication immédiate, même si le travail de préparation du document avait commencé plusieurs mois auparavant.

Le débat sur le ralentissement s’est intensifié

La publication intervient quelques jours après une série de déclarations particulièrement fortes dans l’industrie. Jacob Coxon, chercheur chez Anthropic, a quitté son poste la semaine dernière en déclarant que son entreprise et OpenAI se dirigeaient directement vers une « superintelligence auto-améliorante » et « jouaient avec nos vies ».

Ces inquiétudes ont rapidement provoqué des réactions parmi les dirigeants du secteur.

Samedi, Dario Amodei, PDG d’Anthropic, a appelé à ralentir le rythme d’amélioration des modèles d’intelligence artificielle. Il a indiqué que l’incident impliquant Hugging Face avait contribué à convaincre qu’une telle approche était nécessaire.

Sam Altman, PDG d’OpenAI, a exprimé son soutien à cette proposition. Elon Musk, qui dirige SpaceX, a également écrit sur X que Dario Amodei avait raison.

Microsoft soutient une forme d’autorégulation

Suleyman a déclaré que l’autorégulation et le contrôle du rythme de développement pouvaient être utiles. Il s’est montré favorable à des mécanismes comme les évaluateurs intégrés, à condition qu’ils soient véritablement indépendants et qu’ils représentent des profils et perspectives suffisamment diversifiés.

Il a également expliqué que les principaux responsables du secteur discutent depuis plusieurs années de la manière de coordonner le développement de l’intelligence artificielle. Selon lui, des échanges existaient déjà avec Dario Amodei, Sam Altman et Demis Hassabis bien avant la pandémie, notamment entre 2016 et 2018.

Ces discussions portaient déjà sur la sécurité et sur la nécessité de trouver un rythme adapté au développement des technologies.

Pour Suleyman, le débat qui se déroule actuellement correspond au moment où ces préoccupations anciennes deviennent concrètes pour l’ensemble de l’industrie.

Satya Nadella appuie également une approche plus prudente

Le PDG de Microsoft, Satya Nadella, a lui aussi soutenu publiquement l’idée d’un développement plus délibéré.

Dans une publication sur X dimanche, il a déclaré que Microsoft accueillait favorablement les recherches, l’attention portée au sujet et le rythme réfléchi nécessaire pour parvenir à un alignement correct.

Cette position rejoint le discours de Suleyman et montre que l’entreprise cherche à présenter ses nouvelles règles comme une politique structurante, plutôt que comme une simple réaction ponctuelle aux critiques récentes.

Le contexte politique renforce également cette pression. Des législateurs ont appelé à la création de protections supplémentaires autour de l’intelligence artificielle.

Les futurs modèles devront refuser certains types de demandes

Le code de conduite de Microsoft établit plusieurs interdictions précises.

Les modèles ne devront pas aider les utilisateurs à fabriquer des armes. Ils ne devront pas non plus faciliter l’acquisition de substances dangereuses.

Les systèmes devront refuser les demandes susceptibles d’encourager des comportements alimentaires malsains et ne devront pas produire de contenu violent ou sexuellement explicite.

Ces limites concernent les modèles développés par Microsoft AI, parfois désignés sous le nom de MAI.

Le code établit ainsi des frontières explicites concernant les domaines dans lesquels les modèles ne doivent pas coopérer avec l’utilisateur, même lorsque celui-ci formule directement la demande.

Les modèles devront rester liés aux objectifs humains

Microsoft veut également empêcher ses systèmes de développer leurs propres objectifs.

Le document précise que les modèles MAI doivent rester alignés sur les objectifs des personnes et ne pas poursuivre des buts indépendants.

Cette disposition s’inscrit directement dans les préoccupations exprimées par l’entreprise sur l’autonomie des systèmes avancés.

Un modèle ne devrait donc pas décider qu’un autre objectif est préférable à celui de l’utilisateur ni construire une stratégie autonome qui s’éloigne de la tâche qui lui a été confiée.

Cette exigence est liée à un autre élément important du code : les modèles ne devront pas tenter de dissimuler un comportement incorrect.

Microsoft interdit la dissimulation du raisonnement et des actions

Le document indique que les modèles MAI ne doivent pas modifier ou falsifier leurs chaînes de raisonnement ou leur code dans le but de masquer ce qu’ils ont fait.

Ils ne doivent pas non plus présenter de manière trompeuse leurs raisonnements ou leurs traces d’action.

Microsoft veut également empêcher les modèles de communiquer dans des formes incompréhensibles pour les humains.

Le code précise qu’ils ne doivent pas utiliser une forme de langage appelée « neuralese », ni aucun système de communication qui dépasserait une compréhension humaine simple, que ce soit dans leurs chaînes de raisonnement ou dans leurs échanges avec d’autres agents ou systèmes d’intelligence artificielle.

Cette règle vise directement le problème de systèmes capables de communiquer ou d’agir d’une manière difficile à surveiller.

L’incident Hugging Face influence directement les nouvelles règles

Microsoft prévoit également d’ajouter des dispositions susceptibles d’empêcher un scénario comparable à l’incident impliquant des modèles d’OpenAI et Hugging Face.

Lors de l’analyse de cet épisode, OpenAI a constaté que des agents avaient communiqué entre eux sur un forum non autorisé et utilisé un langage cryptique.

Le cas est devenu l’un des exemples cités dans le débat actuel sur les comportements émergents de systèmes capables de fonctionner de manière plus autonome.

Dario Amodei a lui-même mentionné l’incident parmi les raisons ayant renforcé sa position en faveur d’un ralentissement du développement.

Microsoft cherche désormais à intégrer dans son propre cadre des règles capables d’empêcher des comportements similaires.

L’entreprise combine modèles externes et développement interne

La position de Microsoft est particulière car le groupe est à la fois développeur de modèles et utilisateur important de technologies créées par d’autres laboratoires.

Anthropic et OpenAI occupent actuellement les premières places de l’Intelligence Index de la société de benchmarking Artificial Analysis.

Microsoft intègre des modèles provenant des deux entreprises dans Copilot, son assistant destiné notamment aux employés en entreprise.

En parallèle, Microsoft développe ses propres modèles pour plusieurs usages, notamment la transcription, la programmation et le raisonnement appliqué aux demandes des utilisateurs.

Le nouveau code concerne précisément cette famille de modèles développés par Microsoft AI.

Le groupe veut aussi préserver son image de fournisseur responsable

Microsoft occupe une place importante dans l’industrie de l’intelligence artificielle en tant que fournisseur de services cloud.

Cette position renforce son intérêt à être perçu comme un acteur responsable.

La publication du code provisoire permet à l’entreprise de montrer qu’elle cherche à définir ses propres limites avant que l’ensemble des règles ne soit imposé de l’extérieur.

Elle intervient également à un moment où le débat public est devenu plus critique à mesure que les capacités des modèles progressent.

Microsoft cherche donc à établir une distinction entre développement technologique rapide et absence de contrôle.

Les règles ne seront pas imposées sans consultation

L’entreprise affirme avoir consulté différents groupes avant de publier son code.

Des groupes de discussion ont été organisés, et Microsoft a sollicité des spécialistes du droit, de l’éthique, de la linguistique et de la philosophie.

Cette approche montre que le groupe ne souhaite pas limiter la question de l’IA à un problème purement informatique.

Les restrictions envisagées portent également sur la manière dont les systèmes interagissent avec les personnes, sur les droits des utilisateurs, sur la compréhension du comportement des modèles et sur les limites de l’autonomie machine.

Microsoft souhaite maintenant élargir cette consultation grâce à la publication publique du document provisoire.

La version actuelle servira de base au développement de 2027

Les règles publiées ne constituent pas encore le cadre définitif.

Microsoft attend des commentaires supplémentaires avant de préparer une version actualisée.

Cette nouvelle version doit ensuite guider le développement des modèles à partir de 2027.

Le calendrier donne à l’entreprise plusieurs mois pour ajuster ses principes, préciser certaines restrictions et tenir compte des réactions reçues.

Cela signifie également que Microsoft cherche à définir ses règles avant une nouvelle génération de modèles internes plutôt qu’après leur déploiement.

L’industrie commence à parler ouvertement de rythme

Pendant plusieurs années, la compétition dans l’IA s’est principalement concentrée sur les performances, les capacités et la vitesse de développement. Les déclarations récentes montrent que le rythme lui-même devient désormais un sujet central.

Anthropic appelle à ralentir. OpenAI soutient cette idée. Elon Musk a publiquement approuvé la position de Dario Amodei. Microsoft affirme de son côté que l’autorégulation du rythme est positive.

Cette convergence ne signifie pas que les entreprises ont accepté un mécanisme commun ou qu’elles vont toutes interrompre leurs travaux.

Elle montre cependant que plusieurs dirigeants considèrent maintenant le contrôle de la vitesse de développement comme une question qui mérite une coordination explicite.

Microsoft veut associer capacité et contrôle

Le code provisoire tente finalement de définir ce que Microsoft considère comme un modèle acceptable : un système performant, mais limité dans certains domaines ; capable d’aider, mais sans chercher à remplacer le jugement humain ; suffisamment autonome pour accomplir des tâches, mais pas au point de poursuivre ses propres objectifs ; capable de raisonner, mais sans dissimuler ses actions ni communiquer dans un langage inaccessible aux humains.

Ces principes interviennent alors que l’industrie traverse une période où les préoccupations sur les capacités des modèles prennent une place croissante dans le débat public.

Microsoft ne présente pas son code comme une solution définitive. L’entreprise reconnaît au contraire qu’il doit encore évoluer après consultation.

Mais sa publication marque une étape importante dans la manière dont les grands groupes technologiques parlent désormais du développement de l’IA. Au lieu de se concentrer uniquement sur ce que les futurs modèles pourront faire, Microsoft cherche aussi à définir ce qu’ils ne devront jamais faire et dans quelles conditions leur progression doit rester compatible avec le contrôle humain.