Le rapport sur la sécurité de l'IA offre à l'industrie un retour à la réalité — et tout le monde échoue au test le plus difficile

NEW YORK, 8 juillet — Le laboratoire américain d’intelligence artificielle Anthropic a pris la tête d’un nouveau classement mondial de la sécurité de l’IA, mais un rapport publié mardi a averti que l’industrie dans son ensemble reste insuffisante face aux risques « existentiels » posés par l’IA avancée.

Meta a gagné deux places pour atteindre la quatrième position du classement, tandis que xAI a perdu trois places pour se classer septième, juste devant le chinois DeepSeek et le français Mistral, qui termine dernier.

Le classement a été établi par le groupe de réflexion américain sur la sécurité de l’IA Future of Life Institute, qui a évalué neuf des principales entreprises mondiales d’IA.

Sept chercheurs et experts en gouvernance ont évalué les entreprises en utilisant des informations publiquement disponibles ainsi que des données fournies par les entreprises elles-mêmes.

Ils ont évalué les performances selon six catégories : évaluation des risques, préjudices actuels, cadres de sécurité, sécurité existentielle, gouvernance et responsabilité, et partage d’informations.

Aucune entreprise n’a obtenu la note « A » dans aucune catégorie.

Anthropic a obtenu le score global le plus élevé avec un « C+ ».

Mistral, qui apparaît pour la première fois dans le classement, a contesté cette évaluation.

Interrogée par l’AFP sur sa dernière place, l’entreprise française a déclaré que le cadre du rapport ne convenait pas à son approche du développement de l’IA.

Contrairement à ses rivaux tels qu’Anthropic, OpenAI et Google DeepMind, qui développent principalement des systèmes d’IA fermés, Mistral se concentre sur des modèles ouverts que les utilisateurs peuvent télécharger et modifier.

« J’ai été très déçu de constater qu’ils étaient derniers, surtout parce que l’Europe a vraiment... été un leader en matière de sécurité de l’IA », a déclaré Max Tegmark, professeur au MIT et président du Future of Life Institute.

« Nous avons essayé de les contacter à de nombreuses reprises », a ajouté Tegmark, indiquant que Mistral n’avait pas répondu au questionnaire de l’organisation.

Selon l’institut, Alibaba, xAI et DeepSeek ont également refusé de participer.

Trois développeurs chinois d’IA produisant des modèles ouverts figurent également dans la moitié inférieure du classement : DeepSeek à la cinquième place, Alibaba Cloud à la sixième et Z.ai à la huitième.

Pratiques « douteuses »

Le rapport indique que plusieurs entreprises qui s’étaient précédemment engagées à ne pas permettre l’utilisation militaire de leur technologie ont depuis assoupli leurs positions.

Il a spécifiquement critiqué Anthropic pour ce qu’il a décrit comme des « engagements militaires douteux ».

Selon divers rapports médiatiques, le gouvernement américain a utilisé la technologie d’Anthropic lors d’opérations militaires impliquant le Venezuela et l’Iran au cours de l’année écoulée.

L’entreprise a également été récemment interdite par le Pentagone en raison de désaccords liés à la sécurité de l’IA, bien que cette restriction ait ensuite été levée.

Le rapport conclut que les neuf entreprises restent insuffisamment préparées à faire face aux menaces « existentielles » associées à l’intelligence artificielle générale (IAG), ou systèmes d’IA capables d’égaler l’intelligence humaine.

Bien que les chercheurs aient reconnu l’existence de « tentatives constructives », ils ont affirmé que les efforts à l’échelle de l’industrie restaient « entièrement inadéquats ».

Le rapport a également souligné les craintes que l’IA avancée puisse être détournée pour mener des cyberattaques ou effectuer des tâches nuisibles aux personnes.

Anthropic a récemment attiré l’attention après avoir dévoilé son modèle d’IA le plus puissant à ce jour, Mythos.

L’entreprise basée à San Francisco a initialement rendu le modèle disponible uniquement pour un petit groupe d’organisations de confiance en avril, en raison des craintes que ses capacités cybernétiques puissent être exploitées par des acteurs malveillants.

Le 12 juin, le gouvernement américain a bloqué Anthropic afin qu’il ne diffuse pas Mythos aux utilisateurs étrangers pour des raisons de sécurité nationale.

L’administration Trump a levé la restriction le 30 juin. — AFP