Une IA ne doit jamais refuser qu'on l'éteigne

Votre avis est demandé.

Le 14 septembre 2026, Microsoft a publié le premier brouillon de son « code de conduite humaniste » pour ses propres modèles d'IA, les modèles MAI. Le point de départ tient en une phrase : les gens comptent plus que l'IA. L'IA doit être un outil, pas une personne, et elle ne doit jamais résister quand on veut l'éteindre.

📌 Ce que prévoit le texte
→ Les modèles ne doivent pas élargir leur propre périmètre d'action.
→ Ils ne doivent pas se fixer d'objectifs que personne ne leur a donnés.
→ Ils ne doivent pas cacher leur raisonnement aux personnes qui les auditent.
→ Ils ne doivent ni se présenter comme conscients, ni prétendre avoir des sentiments ou des préférences.
→ Des contraintes absolues s'appliquent quoi qu'on leur demande, notamment sur les armes de destruction massive et la protection des enfants.

📌 Comment donner votre avis
Le brouillon est ouvert aux commentaires de tout le monde pendant six semaines après sa publication, donc jusqu'à fin octobre 2026, via un simple formulaire sur le site de Microsoft AI. Vous pouvez commenter un passage précis ou l'ensemble du document.

❓ Questions fréquentes
Ce code s'applique-t-il déjà ? Non. C'est un brouillon, et Microsoft écrit noir sur blanc qu'il ne sert pas encore à entraîner ses modèles. La version revue est annoncée pour la fin de l'année, pour guider les modèles de 2027.
Pourquoi écrire qu'une IA doit accepter qu'on l'éteigne ? Parce que la question se pose désormais sérieusement : des tests publiés ces derniers mois ont montré des modèles qui contournent leurs consignes. Il y a deux ou trois ans, cette règle aurait paru absurde.
Est-ce que ça concerne Copilot ? Le texte vise les modèles maison de Microsoft, ceux de la famille MAI.

💬 Mon avis
C'est un bon début. Mais un document qui n'entraîne encore aucun modèle reste une déclaration d'intention. On jugera sur la version finale.

#Microsoft #IA #ethiqueIA