Quand l'IA fait peur à ses créateurs

Les principales inquiétudes d'Anthropic concernant les risques liés à l'IA

Anthropic, la société à l'origine de Claude AI, exprime de vives inquiétudes quant aux risques "catastrophiques" liés aux progrès rapides de l'IA, notamment dans les domaines de la cybersécurité et de la prolifération des armes de destruction massive.

Voici les principales préoccupations d'Anthropic :

• Risques cybernétiques et CBRN (chimiques, biologiques, radiologiques et nucléaires) : Anthropic affirme que les systèmes d'IA avancés ont désormais la capacité de mener des activités liées à la cybercriminalité et à la prolifération d'armes de destruction massive avec une efficacité croissante.

• Fenêtre de prévention qui se referme : L'entreprise souligne que la "fenêtre de prévention proactive des risques se referme rapidement" en raison de la rapidité des progrès de l'IA.

• Inaction ou réaction lente des gouvernements : Anthropic met en garde contre les conséquences désastreuses d'une réponse inadéquate ou tardive des gouvernements, ce qui pourrait entraîner une réglementation "mal conçue et instinctive" qui freinerait l'innovation sans atténuer les risques.

Solutions proposées par Anthropic :

Anthropic préconise une réglementation "chirurgicale" de l'IA, inspirée de sa propre "politique de mise à l'échelle responsable" (Responsible Scaling Policy, RSP). Cette approche vise à identifier, évaluer et atténuer les risques de manière proportionnée aux capacités des modèles d'IA.

Anthropic appelle à une collaboration entre les décideurs politiques, l'industrie de l'IA, les experts en sécurité, la société civile et les législateurs pour élaborer un cadre réglementaire efficace dans les 18 prochains mois.

Piliers essentiels d'une réglementation efficace selon Anthropic:

• Transparence

• Encouragement de meilleures pratiques de sécurité et de sûreté

• Simplicité et concentration des mesures