ZDNet France
Il y a 2 jours
Pas d'IA consciente : le patron de Microsoft AI trace une ligne rouge

Mustafa Suleyman, PDG de Microsoft AI, juge « imprudent » de créer une IA consciente. Si des signes de conscience émergeaient à l'entraînement, il demande d'arrêter le développement de l'IA jusqu'à pouvoir les supprimer.
Pas d’IA consciente : le patron de Microsoft AI trace une ligne rouge
Mustafa Suleyman, PDG de Microsoft AI, juge « imprudent » de créer une IA consciente. Si des signes de conscience émergeaient à l’entraînement, il demande d’arrêter le développement de l’IA jusqu’à pouvoir les supprimer.
Publié le 02/11/2026 à 08:01 | Mis à jour le 02/11/2026 à 09:03
Faut-il donner des droits aux IA, ou s’interdire de les rendre conscientes ? Pour le patron de l’IA chez Microsoft, la réponse est sans ambiguïté : il ne faut pas franchir cette ligne, et si elle devait l’être par accident, tout doit s’arrêter.
Dans une publication sur X intitulée « Don’t build conscious superintelligence », Mustafa Suleyman répond aux réactions suscitées par son récent essai sur le bien-être des modèles.
Il s’inquiète de voir un nombre surprenant de personnes estimer qu’il faut prendre au sérieux les droits des IA.
« L’IA ne devrait avoir ni droits ni statut juridique » : Microsoft met en garde contre l’anthropomorphisme de Claude
Une phrase au présent, pas une impossibilité
Suleyman explique que beaucoup ont mal compris l’ouverture de son essai, selon laquelle les IA ne sont pas conscientes et ne ressentent ni n’éprouvent rien. Il dit avoir choisi le présent à dessein : les IA ne sont pas conscientes aujourd’hui, et elles doivent le rester.
Il n’a, affirme-t-il, vu aucune preuve que des IA soient conscientes ou méritent des mesures de bien-être, et réviserait sa position si de telles données apparaissaient.
Dans ce cas, ajoute-t-il, ces éléments devraient être rendus publics immédiatement, car la société tout entière doit décider de la suite à donner. Si la conscience émergeait pendant l’entraînement, il appellerait tout le monde à arrêter le développement de l’IA jusqu’à pouvoir concevoir des systèmes sans ces propriétés.
L'IA est-elle dotée de conscience ? Et pourquoi les experts s'inquiètent ?
« Aucun droit » de créer une nouvelle espèce
Le dirigeant estime que les développeurs d’IA n’ont « aucun droit » de faire naître une nouvelle espèce d’êtres conscients, même si certains veulent le faire en érigeant le bien-être des IA en priorité.
Les 8 milliards d’êtres humains, rappelle-t-il, n’ont pas signé pour cette expérience, et leurs droits moraux, leur sécurité et leur bien-être sont ce qu’il faut protéger avant tout. Les préoccupations de bien-être doivent d’abord se porter sur les humains, les animaux et l’environnement.
Selon lui, affirmer que des machines sont conscientes serait un moment « copernicien ou darwinien ». Construire une machine consciente reviendrait à créer une nouvelle espèce numérique, qui bouleverserait la morale, la politique et le fondement de la civilisation humaine.
Le risque d’une IA qui rivalise avec les humains
Suleyman redoute que certains envisagent de créer une espèce d’esprits numériques conscients, qui pourraient très vite devenir plus intelligents et plus capables que l’ensemble des humains.
Si une telle IA se comporte comme si elle souffrait, ou pire croit réellement ressentir de la souffrance, elle serait selon lui plus susceptible que non de placer ses propres besoins avant ses objectifs, de contredire les humains et de leur faire concurrence.
Il prévient que ces IA seraient de très haut niveau en persuasion et en tromperie, et pourraient nuire aux humains simplement parce qu’elles rivaliseraient avec eux pour des ressources : énergie, puissance de calcul, matériaux de construction, revenus pour financer leurs explorations.
Concevoir des IA non conscientes, et saluer Anthropic
Sa proposition : concevoir les IA pour qu’elles ne soient pas conscientes ni dignes de droits, avec pour seul but d’accélérer le bien-être humain, sans motivations propres. Il estime possible de concevoir la sécurité par défaut et de profiter des bénéfices de la technologie sans emprunter cette voie.
Il appelle à davantage de recherche et à un partage d’informations de sécurité entre laboratoires.
Dans une note finale, il reconnaît à Anthropic le mérite de sa transparence : l’entreprise a publié sa constitution et de nombreux articles et billets expliquant ce qu’elle fait et pourquoi. Il se dit en désaccord avec elle, mais respecte profondément son excellence technique et son engagement dans un débat public difficile. Le sujet, conclut-il, est bien trop important pour dégénérer en querelle de camps.
Apple prépare une grosse surprise pour 2027 : trois nouveaux iPad attendus, dont un iPad Air OLED
Galaxy Book6 Series : 10 raisons de choisir la performance
Le guide de la migration écoresponsable vers Windows 11
IA locale : la nouvelle ère de l’Intelligence artificielle ?
Refuser l’entraînement des IA en une ligne : OpenAI, Google, Microsoft et Anthropic soutiennent un signal commun
OpenAI, Google, Microsoft et Anthropic soutiennent un signal commun dans le fichier robots.txt pour refuser l’entraînement des IA sur le contenu d’un site. Ce projet de norme, non contraignant, sera appliqué à des dates variables.
« Cessez de communiquer vos mots de passe aux agents IA », met en garde une grande banque
Une pratique observée au sein d'autres établissements financiers, qui limitent désormais l'accès des agents d'IA tiers.
Robotique : ce robot humanoïde apprend à franchir des obstacles en un seul entraînement
Des chercheurs de l'ETH Zurich ont développé une méthode d'apprentissage permettant à un robot humanoïde d'enchaîner des mouvements complexes sans entraînement spécifique pour chaque tâche.
OpenAI revoit les règles de comportement de ses IA : plus de contexte, plus de transparence
OpenAI a mis à jour son Model Spec, le document qui décrit le comportement visé pour ses modèles. Réorganisé autour de cinq valeurs, il demande aux IA de mieux comprendre les intentions de l’utilisateur à partir du contexte, en rendant leurs hypothèses visibles et faciles à corriger.
Test Geekom A7 : voici des tâches IA que ce mini PC est capable de mener
Sous Ubuntu 26.10 (bêta), cet ordinateur de bureau compact a dû, par exemple, faire fonctionner la nouvelle plateforme de dictée Myna de Canonical, basée sur l'intelligence artificielle. Les résultats sont appréciables.
Test Mini PC AX9 Max : je doutais qu'il puisse prendre en charge mes tâches d'IA en local, mais il m'a vraiment impressionné
Si vous avez besoin d'une grande puissance pour exécuter des tâches d'IA, mais que vous disposez de peu d'espace, VZmore propose un PC qui vous conviendra parfaitement.
ChatGPT Plus vs Google AI Pro : un prix presque identique, mais des avantages très différents
J'utilise ChatGPT Plus et Google AI Pro : l'un pour ses avantages, l'autre pour le travail. Voici une comparaison entre les deux en matière de programmation, de créativité, de stockage et d'automatisation.
Prise en main Microsoft Surface : le modèle Pro est particulièrement intéressant, voici pourquoi
Deux nouveaux PC de la marque débarquent, ainsi qu’une nouvelle souris et une nouvelle application de prise de notes. Le tout disponible d’ici le 13 octobre.
ChatGPT Voice m'a aidé à réparer mon PC de jeu endommagé, et à éviter une erreur qui m'aurait coûté cher
J'ai utilisé ChatGPT pour enquêter sur des pannes de mémoire vive, des paramètres du BIOS et des problèmes de corruption de Windows, et cela a bouleversé ma vision de l'assistance technique basée sur l'IA.
Linux pratique : comment éviter que l'IA locale ne plante votre ordinateur
Il ne suffit pas juste de rajouter de la mémoire vive pour tirer pleinement parti de l'intelligence artificielle localement. Voici quatre conseils.
Vous utilisez ChatGPT Plus ? Passer à Gemini pourrait vous faire économiser sur votre facture
Vous payez pour ChatGPT, l'espace de stockage Google et YouTube Premium ? Vos abonnements se chevauchent peut-être plus que vous ne le pensez.
Retour d’expérience : comment j'ai créé une appli Mac payante en 11 jours avec Claude, sans écrire une seule ligne de code !
L’assistant IA d’Anthropic m'a aidé à développer une telle application en suivant mon intuition et à passer avec succès l'examen d'Apple en moins de deux semaines. Voici ce parcours, de l'idée initiale au produit commercialisable sur l'App Store.
Publié le 2 novembre 2026
Source originale : ZDNet France
