50 m*rts pour bloquer une IA ? 🤔

Un seuil très haut.

À partir de quand devrait-on pouvoir arrêter une IA ? Anthropic, le créateur de Claude, propose sa réponse au Congrès américain dans un brouillon de loi confidentiel. Un porte-parole confirme qu'il reprend les propositions que l'entreprise défend auprès des élus.

Ce que dit le texte
Le gouvernement pourrait bloquer la sortie d'un modèle s'il présente un risque prévisible et imminent :
• de tuer ou blesser sévèrement plus de 50 personnes
• ou de faire plus d'un milliard de dollars de dégâts
Ce risque doit venir d'une arme biologique, d'une cyberattaque ou d'une IA qui échappe au contrôle de son développeur.

Qui contrôle ?
Des évaluateurs indépendants. S'ils repèrent un tel risque, ils auraient 72 heures pour prévenir le ministère, qui devrait alors demander à un juge de bloquer la sortie du modèle. Mais ces évaluateurs pourraient être payés par les entreprises qu'ils contrôlent, tant que leur rémunération ne dépend pas de leurs conclusions : un risque de conflit d'intérêt.

Les réactions
Anthropic parle de mesures sensées que le Congrès devrait adopter. Pour d'autres, le texte limite surtout les cas où Washington pourrait intervenir. Certains défenseurs de la sécurité de l'IA, tout comme la sénatrice Maria Cantwell, veulent un contrôle fédéral plus strict. Pour l'instant, ce n'est qu'un brouillon.

Questions fréquentes
Que propose Anthropic pour bloquer une IA ?
Un brouillon de loi qui permettrait au gouvernement américain de bloquer la sortie d'un modèle présentant un risque grave, prévisible et imminent.

Quel est le seuil proposé ?
Un risque de tuer ou blesser sévèrement plus de 50 personnes, ou de faire plus d'un milliard de dollars de dégâts.

Qui déciderait de bloquer une IA ?
Un juge, saisi par le ministère après l'alerte d'évaluateurs indépendants.

#Anthropic #Claude #SecuriteIA