TikTok met en œuvre des mesures supplémentaires de transparence de l'IA générative, notamment de nouvelles étiquettes sur le contenu modifié par l'IA via des outils externes, et de nouvelles ressources d'éducation aux médias pour aider les utilisateurs à mieux comprendre comment l'IA générative est utilisée et mal utilisée sur le Web.
Tout d’abord, sur ses nouveaux labels IA. TikTok travaille avec le Coalition pour la provenance et l'authenticité du contenu (C2PA) établir un nouveau processus d'identification L'IA dans le contenu téléchargé à partir d'autres sources, qui sera désormais étiqueté comme tel dans le flux.
Comme vous pouvez le voir dans cet exemple de séquence, désormais, les vidéos téléchargées sur TikTok seront analysées à la recherche de marqueurs IA, dans le cadre du projet C2PA, et seront mises en évidence comme telles dans le flux lorsqu'elles seront détectées.
Comme l'explique TikTok :
« (Le projet C2PA) associe des métadonnées au contenu, que nous pouvons utiliser pour reconnaître et étiqueter instantanément générés par l'IA. Cette fonctionnalité a commencé à être déployée aujourd'hui sur les images et les vidéos, et sera bientôt disponible sur le contenu uniquement audio. Au cours des prochains mois, nous commencerons également à apposer des étiquettes C2PA sur le contenu TikTok, qui restera sur le contenu une fois téléchargé. Cela signifie que n'importe qui pourra utiliser l'outil Verify de C2PA pour aider identifier AIGC qui a été créé sur TikTok et découvrez même quand, où et comment le contenu a été créé ou modifié.
TikTok a déjà mis en place des étiquettes obligatoires pour le contenu créé avec ses propres outils d'IA générative intégrés, afin d'assurer une transparence directe sur les clips.
Les nouvelles mesures donneront aux utilisateurs encore plus de contrôle sur l’utilisation d’autres outils d’IA, ce qui devrait contribuer à limiter la désinformation et les malentendus à ce sujet.
Bien sûr, ce n’est pas infaillible. Diverses plateformes technologiques participent au projet C2PA, notamment Google, OpenAI, Microsoft et Adobe, mais tous les projets d'IA générative ne sont pas inscrits et n'incluront donc pas nécessairement les marqueurs de métadonnées requis.
Mais il s’agit d’une nouvelle étape vers l’amélioration de la transparence de l’IA, et compte tenu de la marée croissante d’images d’IA infiltrant le Web, il est important que tous les efforts soient déployés pour accroître la transparence de l’IA et la sensibilisation aux contrefaçons générées.
TikTok dit que c'est le première plateforme de partage de vidéos mettre en pratique ces nouvelles mesures.
En plus de cela, TikTok travaille également avec MédiasWise à développer de nouvelles campagnes d’éducation aux médias génératives sur l’IA, afin d’aider les utilisateurs à comprendre et à identifier le contenu de l’IA.
«Nous publierons 12 vidéos tout au long de l'année qui mettront en valeur les compétences universelles en matière d'éducation aux médias tout en expliquant comment les outils TikTok comme les étiquettes AIGC peuvent contextualiser davantage le contenu. Nous lancerons également une campagne de sensibilisation à l’étiquetage de l’IA et aux AIGC potentiellement trompeurs, avec une série de vidéos.
Encore une fois, compte tenu du flux croissant de contenus d'IA circulant sur le Web, il est important que toutes les mesures soient prises pour améliorer la sensibilisation aux contrefaçons et mettre en évidence leur utilisation abusive potentielle, afin d'éviter toute confusion. C'est particulièrement important à l'approche des élections, où les fausses IA devraient être utilisées pour attiser les peurs et inciter les électeurs à agir, sur la base de générations d'IA trompeuses mais convaincantes.
En tant que tel, il s’agit d’une étape importante, et il est bon de voir TikTok prendre des mesures supplémentaires pour améliorer les connaissances en IA.
