Sur Telegram, le business des deepfakes pédopornographiques alarme la Corée du sud

Après la découverte d'un groupe rassemblant plus de 220.000 membres s'échangeant des deepfakes, les autorités déclarent la guerre à ce type de procédé.

Les deepfakes au cœur d'une nouvelle affaire sordide. En Corée du Sud, les autorités ont découvert la présence, sur la plateforme Telegram, d'un groupe privé rassemblant plus de 220.000 membres. Au sein de celui-ci s'échangeaient vidéos et images truquées, mettant en scène, via des deepfakes, des étudiants, enseignants et membres des forces de l'ordre.

Une affaire prise très au sérieux par le président sud-coréen Yoon Suk-yeol, qui a ordonné à la police de traquer "agressivement" les auteurs de ces deepfakes, en particulier ceux qui réalisent des montages à caractère pédopornographiques.

En Corée du Sud, les auteurs risquent jusqu'à cinq ans de prison et 50 millions de wons d'amende (environ 35.000 euros).

Une réponse tardive des autorités

Une prise de conscience alors que la tendance aux deepfakes est à la hausse. Entre 2021 et 2024, le nombre de "crimes sexuels fictifs" est en augmentation de près de 100%.

Principal lieu où les abus sont constatés: les écoles. Selon le quotidien Hankyoreh, sur Telegram, on trouve de nombreux deepfakes d'élèves - souvent mineurs - ce qui a fait réagir les syndicats des enseignants.

Selon le Wall Street Journal, plus de 500 écoles seraient touchées par le phénomène qui ne se limite pas qu'aux photos: les membres de ces groupes Telegram se partagent aussi les numéros de téléphone, les adresses et les identifiants des écoliers et étudiants qu'ils mettent en scène.

Interrogé par les médias locaux, Telegram a expliqué procéder à la suppression de "millions de contenus préjudiciables chaque jour", utilisant notamment l'IA pour les détecter ou des modérateurs humains.

La réponse jugée tardive des autorités a fait d'autant plus réagir la population que la Corée du Sud sort tout juste d'une lutte, là aussi après des années d'abus, contre le "molka", des vidéos prises en secret, par exemple sous les jupes de jeunes femmes, voire d'enfants, dans les transports, ou dans des chambres d'hôtels, et ensuite diffusées en ligne.

Face à l'ampleur du problème des deepfakes, les syndicats appellent le gouvernement à la création d'un comité dédié afin de mieux traquer les créateurs de contenus interdits.

Sylvain Trinel