Une voix générée par une intelligence artificielle simule une tentative d'enlèvement

Aux Etats-Unis, une mère a reçu un appel clonant la voix de sa fille. Les auteurs ont simulé une tentative d'enlèvement.

Plus de peur que de mal. En Arizona, des malfaiteurs ont réussi à cloner la voix d'une adolescente à partir de l'intelligence artificielle (IA) et à réclamer une rançon à sa mère en simulant un enlèvement, rapporte NBC.

La mère de l'adolescente, Jennifer DeStefano assure avoir reçu un appel d'un numéro de téléphone inconnu alors que sa fille de 15 ans était sur les pistes de ski. Au bout du fil, sa fille en pleurs qui s'excuse auprès de sa mère. Puis un homme s'adresse à elle: "Écoutez-moi bien. J'ai votre fille. Voilà comment ça va se passer. Si vous appelez la police, je la drogue. Je vais faire ce qui me chante et l'emmener au Mexique", raconte Jennifer DeStefano auprès du média américain. Elle entendait sa fille hurler derrière: "Aide-moi, maman!"

L'homme lui a ensuite demandé une rançon d'un million d'euros puis de 500.000 euros. Par réflexe, Jennifer DeStefano contacte alors la police qui lui confirme que sa fille n'a pas du tout été enlevée et qu'elle va bien.

Des outils de plus en plus avancés

Pourtant, la maman a été choquée par la ressemblance avec la voix de sa fille: "C'était complètement sa voix et son intonation, la même manière de pleurer".

La technologie de copie des voix s'est accélérée et son utilisation devient désormais accessible à tous. Quelques secondes d'une vidéo publiée sur les réseaux sociaux suffisent à l'IA pour cloner la voix, les intonations et les émotions et ce, à moindre coût.

En 2022, les escroqueries étaient l'un des délits les plus commis aux Etats-Unis avec plus de 36.000 signalements, selon les données de la Federal Trade Commission dont 5000 ont eu lieu par téléphone, précise le Washington Post.

Les forces de l'ordre et les tribunaux restent mal équipés pour punir ce type d'arnaque pourtant en plein boom. La plupart des victimes disposent de peu d'éléments pour identifier l'auteur et il est toujours difficile pour la police de retracer les appels.

Margaux Vulliet