Comment un deepfake de Marco Rubio a exposé la facilité alarmante des arnaques vocales par IA

Bienvenue dans Eye on AI ! Dans cette édition... xAI lance Grok 4 au milieu des critiques liées à des publications antisémites… Perplexity lance un navigateur IA pour concurrencer Google, en commençant par ses utilisateurs avancés… OpenAI se préparerait à lancer son propre navigateur web.

Un deepfake audio imitant le secrétaire d'État Marco Rubio a contacté des ministres des Affaires étrangères, un gouverneur américain et un membre du Congrès avec des messages vocaux générés par l'IA imitant sa voix, selon un haut responsable américain et un câble du Département d'État daté du 3 juillet. 

Aucune preuve publique n'indique que l'un des destinataires des messages, conçus pour extraire des informations sensibles ou obtenir l'accès à des comptes, ait été trompé par l'escroquerie. Mais l'incident est le dernier exemple médiatisé de la facilité — et de la capacité de conviction alarmante — qu'ont acquises les escroqueries vocales par IA.

Avec seulement 15 à 30 secondes de discours d'une personne téléchargées sur des services comme Eleven Labs, Speechify et Respeecher, il est désormais possible de taper n'importe quel message et de le faire lire à voix haute avec sa voix. Gardez à l'esprit que ces outils sont utilisés de manière tout à fait légitime pour de nombreuses choses, de l'accessibilité à la création de contenu — mais comme beaucoup de technologies IA, ils peuvent être détournés par des acteurs malveillants.

La menace des deepfakes s'est intensifiée

Les deepfakes générés par l'IA ne sont pas nouveaux, notamment ceux ciblant les dirigeants d'entreprise et les responsables publics, mais ils deviennent un problème de plus en plus grave. Il y a huit mois, j'ai rapporté que plus de la moitié des responsables de la sécurité des systèmes d'information (RSSI) interrogés classaient les deepfakes vidéo et audio parmi leurs préoccupations croissantes. Cette menace n'a fait que s'intensifier. Une nouvelle étude de Surfshark a révélé que rien que dans le premier semestre 2025, les incidents liés aux deepfakes ont bondi à 580 — soit près de quatre fois plus que sur l'ensemble de l'année 2024 (150 incidents), et nettement plus que les 64 incidents signalés entre 2017 et 2023. Les pertes liées à la fraude par deepfake ont également explosé, atteignant 897 millions de dollars cumulés, dont 410 millions rien que pour le premier semestre 2025. Le schéma le plus courant : usurper l'identité de personnalités publiques pour promouvoir des investissements frauduleux, ce qui a déjà entraîné 401 millions de dollars de pertes.

« Les deepfakes ont évolué pour devenir de véritables menaces actives en matière de cybersécurité », m'a déclaré par e-mail Aviad Mizrachi, Directeur de la technologie (CTO) et cofondateur de la société de sécurité logicielle Frontegg. « Nous voyons déjà des appels vidéo générés par l'IA réussir à tromper des employés pour qu'ils autorisent des paiements de plusieurs millions de dollars. Ces attaques se produisent maintenant, et c'est une escroquerie qu'il devient alarmamment facile pour un hacker de déployer. »

Une partie du problème, a ajouté Mizrachi, est que les méthodes d'authentification traditionnelles — noms d'utilisateur, mots de passe, codes à usage unique et Application d'authentification — n'ont pas été conçues pour un monde où un escroc peut cloner votre voix ou votre visage en quelques secondes. C'est parce que ces escroqueries n'impliquent pas nécessairement de pirater un compte — elles reposent sur la manipulation d'une vraie personne pour qu'elle remette ses identifiants ou autorise elle-même des actions.

« Ces mesures de sécurité traditionnelles pour vérifier l'identité d'un individu ne fonctionnent évidemment plus », a-t-il déclaré, ajoutant que la plupart des équipes de cybersécurité négligent encore les deepfakes — et c'est la vulnérabilité qu'exploitent les attaquants. Une fausse voix convaincante dans un message vocal ou un appel vidéo peut persuader quelqu'un de contourner les procédures normales ou d'approuver un virement bancaire, même si tous les outils d'authentification sont techniquement en place.

Pour se prémunir contre ce type de tromperie, Mizrachi a déclaré que les organisations doivent déployer des outils de sécurité plus robustes qui s'appuient sur des appareils physiques — comme un smartphone ou une clé de sécurité matérielle — pour prouver l'identité d'une personne. Ces outils, connus sous le nom de Clé d'identification FIDO2 ou WebAuthn, sont bien plus difficiles à falsifier ou à hameçonner pour les hackers. Et au-delà des vérifications d'appareils, les systèmes de Vérification de la sécurité intelligents peuvent également surveiller des signaux comportementaux — comme la vitesse de frappe, la localisation ou les habitudes de connexion — pour détecter des anomalies qu'une voix clonée ne peut pas imiter. Ces couches supplémentaires rendent une attaque par deepfake bien plus difficile à réussir.

Margaret Cunningham, directrice de la stratégie en matière de sécurité et d'IA chez la société de sécurité Darktrace, a déclaré que la tentative d'usurpation d'identité de Rubio démontre à quel point l'IA générative peut facilement être utilisée pour lancer des attaques d'ingénierie sociale convaincantes et ciblées.

« Cette menace n'a pas échoué parce qu'elle était mal conçue — elle a échoué parce qu'elle a manqué le bon moment de vulnérabilité humaine », a-t-elle déclaré. « Les gens ne prennent souvent pas de décisions dans des conditions calmes et concentrées. Ils répondent en faisant plusieurs choses à la fois, sous pression, et guidés par ce qui leur semble familier. Dans ces moments-là, une voix de confiance ou un message d'apparence officielle peut facilement contourner la prudence. »

Les deepfakes ont impacté les démocraties du monde entier

L'IA générative a également considérablement abaissé la barrière à l'entrée en matière de manipulation des médias — la rendant plus rapide, moins coûteuse et plus évolutive que jamais. Et elle impacte les démocraties du monde entier : un récent rapport du New York Times a révélé que les deepfakes alimentés par l'IA ont transformé les élections dans au moins 50 pays à travers le monde, en les utilisant pour dénigrer ou diffamer des adversaires. 

« C'est la nouvelle frontière des opérations d'influence », m'a déclaré Leah Siskind, chercheuse en IA à la Foundation for Defense of Democracies. « Nous avons vu d'autres cas de deepfakes de hauts responsables gouvernementaux utilisés pour accéder à des comptes personnels, mais exploiter l'IA pour influencer les relations diplomatiques et la prise de décision est une escalade dangereuse. Il s'agit d'un problème urgent de sécurité nationale avec de graves répercussions diplomatiques. »

Pour l'instant, Siskind recommande aux responsables gouvernementaux d'éviter les plateformes chiffrées populaires comme Signal, qui, bien que sécurisées en termes de contenu, manquent de mécanismes de Vérification d'identité (KYC). « Compte tenu de la facilité avec laquelle il est possible de créer des deepfakes audio et de créer des comptes d'apparence réaliste sur n'importe quelle application de messagerie grand public, les hauts responsables gouvernementaux devraient s'en tenir à des canaux de communication sécurisés », a-t-elle déclaré.

Note : Découvrez cette nouvelle vidéo de Fortune sur ma visite du laboratoire de test d'informatique quantique d'IBM. J'ai passé un moment formidable sur le campus d'IBM à Yorktown Heights (un chef-d'œuvre du modernisme du milieu du siècle conçu par Eero Saarinen, le même architecte que l'Arc de Saint-Louis et le classique TWA Flight Center à l'aéroport JFK) à New York. La vidéo faisait partie de ma couverture pour le numéro Fortune 500 de cette année, qui comprenait un article approfondissant la récente remontée d'IBM.

Comme je l'ai dit dans mon article, « parcourir le centre de recherche d'IBM, c'est comme entrer dans deux mondes à la fois. Il y a les courbes d'acier et de verre du design de Saarinen, ponctuées de massifs murs en pierres collectées dans les champs environnants, avec des chaises Eames originales disséminées dans des coins de discussion. Mais ce modernisme du XXe siècle contraste fortement avec l'ordinateur quantique élégant, massif, semblable à un réfrigérateur — parmi les plus avancés au monde — qui ancre l'espace de collaboration et le laboratoire de travail, où il bourdonne du ronronnement régulier de son système de refroidissement. »

Sur ce, voici le reste des actualités IA.

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

Cet article a été initialement publié sur Fortune.com