Des enquêtes récentes révèlent que les classifications d'âge des applications varient considérablement entre les différentes boutiques d'applications, soulevant des inquiétudes quant à la sécurité des jeunes utilisateurs. Ces différences peuvent influencer l'accès des enfants à des contenus inappropriés.
Plus de 200 organisations et experts en sécurité des enfants ont appelé Google à interdire les vidéos générées par l'intelligence artificielle, connues sous le nom de déchets numériques, sur YouTube et YouTube Kids, en raison de leurs effets néfastes sur la santé mentale des enfants.
Des groupes de défense des droits des enfants demandent à YouTube de prendre des mesures immédiates pour protéger les enfants des vidéos générées par l'IA, jugées inappropriées et manquant de contenu éducatif. Ces appels interviennent alors que l'utilisation de l'IA dans la production de contenu numérique augmente.
Meta a annoncé qu'elle restreindra l'utilisation de la classification PG-13 pour les comptes d'adolescents, suite à un accord avec l'Association du cinéma américain. Cette décision vise à protéger les jeunes des contenus inappropriés sur ses plateformes.