Les outils d'IA comme ChatGPT, Microsoft Copilot et Google Bard peuvent être très utiles, mais cette technologie émergente présente également un côté plus sombre dont vous devez désormais vous soucier.

Si les entreprises et les citoyens ordinaires ont commencé à utiliser l’IA pour rendre les choses plus faciles, les escrocs aussi. En plus d'écrire des e-mails de phishing plus convaincants, les escrocs utilisent désormais l'IA pour créer des deepfakes des voix de leurs proches afin de les utiliser dans leurs attaques.

En plus des appels frauduleux réguliers, vous devez désormais être à l’affût des appels qui semblent provenir d’un ami ou d’un membre de votre famille. Bien que remettre en question la légitimité d'un appel téléphonique en cas d'urgence puisse sembler impoli, cela pourrait vous éviter d'être victime d'une nouvelle série d'escroqueries du type « J'ai été victime d'un accident » qui deviennent de plus en plus populaires en raison des progrès de l'IA.

Une meilleure IA permet des contrefaçons plus convaincantes

Dans un nouveau billet de blog, Malwarebytes donne plus de détails sur une histoire parue dans le San Francisco Chronicle à propos d'une famille qui a failli être emmenée au pressing par l'une de ces escroqueries basées sur l'IA.

La famille a reçu un appel téléphonique qui semblait provenir de leur fils dans lequel il disait qu'il avait eu un accident de voiture et blessé une femme enceinte. Comme le souligne Malwarebytes, ces types d'escroqueries sont de plus en plus courantes et, outre un accident de voiture, la voix familière à l'autre bout du fil pourrait se retrouver inopinément à l'hôpital ou subir un autre type de tragédie.

Tout comme pour les escroqueries en ligne, cette stratégie est utilisée pour créer un sentiment d’urgence afin que les victimes potentielles agissent rapidement avant d’avoir l’occasion de trop réfléchir à ce qui se passe réellement. Il y a des années, ces types d'escroqueries étaient faciles à repérer, mais ce n'est plus le cas, car l'IA est rapidement devenue beaucoup plus avancée.

Désormais, il est assez facile pour les escrocs de prendre un extrait d'une vidéo sur les réseaux sociaux et de simuler de manière convaincante la voix d'un être cher. Pour aggraver les choses, les outils d’IA utilisés pour simuler les voix « sont disponibles soit dans le domaine public gratuitement, soit à un coût très faible », selon l’agent spécial du FBI Robert Tripp qui s’est entretenu avec le San Francisco Chronicle.

Après ce premier appel au sujet de l'accident, il y a eu un deuxième appel au cours duquel une personne se faisant passer pour le représentant légal du fils en question a demandé une caution. Heureusement, la famille a commencé à se méfier lorsque ce soi-disant avocat leur a annoncé qu'il enverrait un coursier pour récupérer l'argent de la caution.

Comment se protéger des escroqueries téléphoniques

Un couple choqué réalisant qu'ils ont été victimes d'une arnaque

Les appels frauduleux basés sur l’IA ne vont nulle part de si tôt. En tant que tel, vous devez apprendre à reconnaître tout en rendant plus difficile l’usurpation d’identité par les fraudeurs afin d’éviter que vos propres amis et votre famille ne tombent dans le piège de ces escroqueries.

Pour commencer, vous ne devez pas répondre aux appels téléphoniques provenant de numéros que vous ne reconnaissez pas ou aux appels provenant de numéros privés. Si vous attendez un appel important et que vous répondez à un appel provenant d'un tel numéro, prenez ce que dit la personne à l'autre bout du fil avec des pincettes. De même, vous ne devez jamais fournir d’informations personnelles ou financières par téléphone à une personne que vous ne connaissez pas.

Si vous recevez l'un de ces appels, c'est une bonne idée de contacter le membre de la famille ou l'être cher en question pour vérifier qu'il se trouve réellement dans une situation d'urgence. Cependant, si vous ne pouvez pas les joindre directement, vous devriez alors essayer d'appeler quelqu'un d'autre qui pourrait savoir où ils se trouvent.

Pour éviter que d'autres personnes ne soient victimes de ce type d'escroquerie, vous devrez également en informer immédiatement la police. Pour ceux qui résident aux États-Unis, vous pouvez contacter directement le FBI pour signaler des activités suspectes au Internet Crime Complaint Center (IC3) du bureau. Ici, vous pouvez déposer une plainte et consulter la FAQ du FBI pour plus d'informations sur tous les différents types d'escroqueries actuellement disponibles.

Comme d’autres outils, l’IA peut être utilisée à la fois pour le meilleur et pour le pire. Espérons cependant que les entreprises et les gouvernements trouveront un moyen d’utiliser leurs propres outils d’IA pour lutter contre les cybercriminels à l’origine de ces escroqueries.