Google utilise l'IA pour détecter si ses utilisateurs sont mineurs

Le géant américain va bloquer certaines fonctionnalités de ses applications aux mineurs. Il va utiliser l'IA pour détecter si l'utilisateur est oui ou non âgé de plus de 18 ans.

Dans un communiqué publié le 30 juillet, Google annonce étendre son dispositif d'identification de l'âge. Comme noté par The Verge, la firme analysera automatiquement les contenus consommés par chaque utilisateur pour estimer leur âge. Cela comprend les recherches internet et les vidéos regardées sur Youtube.

La mesure sera progressivement déployée aux États-Unis "dans les semaines qui suivent". Aucune date n'a été donnée pour une implémentation européenne du dispositif, Google veut d'abord surveiller sa mise en place aux États-Unis "avant de le déployer à plus grande échelle".

"Ces mesures, que nous avons déjà mises en œuvre sur certains marchés où elles ont donné de bons résultats, visent à identifier les utilisateurs âgés de plus ou moins de 18 ans afin de pouvoir offrir une expérience plus adaptée à l'âge des moins de 18 ans", explique Google sur son site.

Des fonctionnalités restreintes

Les utilisateurs identifiés comme potentiellement mineurs par l'algorithme de Google recevront un mail de l'entreprise. Il leur sera expliqué les nouvelles restrictions auxquelles ils sont désormais contraints.

Parce que l'algorithme peut se tromper, il peut arriver qu'un usager soit involontairement identifié comme ayant moins de 18 ans. Il faudra alors justifier à Google, via une carte d'identité ou un selfie, que l'on est bien majeur.

Quelles seront ces restrictions appliquées aux mineurs? Pour ce qui est des États-Unis, Google prévoit de limiter l'accès à certains de ses services, à la manière de Youtube Kids. Les premières mesures annoncées sont les suivantes:

• Youtube rappellera fréquemment de prendre des pauses, et d'aller se coucher aux heures définies, la plateforme ajustera également son algorithme de recommandation pour qu'il soit moins addictif
• La fonction "Vos trajets" de Maps (qui correspond à l'historique) sera bloquée
• Les publicités personnalisées seront désactivées

Enfin, Google bloquera l'accès à ses applications pour adultes sur son magasin Google Play. Un revirement complet, puisque pas plus tard qu'en juin 2025, l'entreprise était fermement opposée à la vérification d'âge depuis son magasin d'application.

Une première victoire pour le groupe Meta (Facebook, instagram, Whatsapp) ainsi que Snapchat, qui poussaient pour la mise en place d'un tel dispositif. Ils militaient pour que la vérification d'âge devienne la responsabilité des magasins d'applications (comme le Google Store ou l'App Store), et ne soit plus celle des applications.

La vérification d'âge se démocratise

Comme Google, plusieurs entreprises de la tech ont été contraints de mettre en place un système d'authentification pour confirmer si leurs utilisateurs sont adultes ou non. Un processus qui répond à la volonté de certains gouvernements, de limiter l'exposition des mineurs aux contenus pour adultes.

Sur ce sujet, le Royaume-Uni donne le la, avec la mise en application de l'Online Safety Act, le 25 juillet dernier. D'après le Guardian, l'ensemble des sites pour adultes enregistrent quotidiennement près de 5 millions de vérifications d'âge depuis l'application du texte. En parallèle, des VPN comme Proton ont vu leur nombre de téléchargements multiplié par 19.

Toujours sous le coup de l'Online Safety Act, les plateformes de streaming musical comme Spotify ont dû mettre en place un système d'analyse biométrique faciale pour déterminer l'âge de leurs clients britanniques, comme l'explique le média 404. L'entreprise prend la loi britannique au sérieux, allant jusqu'à supprimer les comptes qui consomment des contenus interdits aux plus de 18 ans, mais qui refuseront de se soumettre à cette vérification d'âge.

D'autres plateformes comme Discord ou Reddit ont elles aussi dû se contraindre à ces nouvelles règles d'authentification. Mais certains utilisateurs ont réussi à tromper l'IA et à passer l'analyse biométrique en fournissant des images du protagoniste du jeu Death Stranding.

Théotim Raguet