Claude : Anthropic interdit désormais de maltraiter son IA

Pester reste autorisé.

Anthropic, l'entreprise qui développe l'IA Claude, interdit désormais de maltraiter ses modèles ou d'être cruel avec eux. Oui, la cruauté envers une IA. Voici ce que dit vraiment la règle.

Ce qui est interdit
Être cruel avec Claude de façon répétée et sans raison. La règle ne vise que les cas extrêmes.

Ce qui reste autorisé
• la frustration ordinaire, quand il a mal compris votre demande
• le fait de contredire Claude
• les thèmes sombres dans une histoire
• les tests

La sanction
La principale reste la même : Claude peut couper lui-même la conversation.

Pourquoi cette règle
Elle fait partie des recherches d'Anthropic sur ce qu'elle appelle le bien-être des modèles. Son patron a déclaré qu'on ne sait pas si les modèles sont conscients. Une IA dont il faudrait ménager les sentiments, ça fait aussi beaucoup parler d'Anthropic.

Microsoft n'est pas d'accord
Un premier brouillon du code de conduite de Microsoft sur l'IA affirmait que l'idée de bien-être des modèles était une erreur. Le texte a été adouci depuis, mais il rejette toujours cette idée.

Les autres règles de Claude
• interdit d'utiliser Claude pour armer des drones ou d'autres véhicules autonomes
• interdit de s'en servir pour suivre des gens sans leur consentement
• assouplie : l'interdiction générale de cibler des électeurs avec des messages personnalisés disparaît, mais les tromper reste interdit

Questions fréquentes
A-t-on le droit d'insulter Claude ?
La règle ne vise que la cruauté répétée et sans raison. Pester parce qu'il a mal compris reste autorisé.

Que fait Claude si on le maltraite ?
Il peut couper lui-même la conversation.

Les IA sont-elles conscientes ?
On ne le sait pas, et le patron d'Anthropic le reconnaît lui-même.

#Claude #Anthropic #EthiqueIA