Snapchat cherche à assurer une plus grande transparence sur le contenu créé par ses outils d'IA générative, avec de nouvelles balises et indicateurs qui seront désormais ajoutés aux images générées.
Comme vous pouvez le voir sur cette image, Snapchat ajoute une nouvelle icône fantôme personnalisée aux images générées dans l'application, qui sera incluse sur tout contenu que vous téléchargez via les fonctionnalités gen AI de Snap.
Comme expliqué par Snap :
« Certaines fonctionnalités génératives basées sur l'IA, comme Rêves et Snaps IA, vous permettent de créer ou de modifier des images. Lorsque vous exportez ou enregistrez une image générée sur Camera Roll, un filigrane d'un Snap Ghost avec des étincelles peut être ajouté à ces images. Le but de ces filigranes est de fournir une transparence sur le fait que l'image a été créée avec une IA générative et qu'elle n'est pas réelle ou basée sur des événements réels, même s'il s'agit d'un style réaliste.»
Snapchat note également qu'il utilise déjà divers indicateurs au sein de l'application pour signaler les outils d'IA, y compris les balises « IA » sur les Lenses :
« Par exemple, lorsqu'un Snapchatter partage une image Dreams générée par l'IA, le destinataire voit une carte contextuelle contenant plus d'informations. D'autres fonctionnalités, comme l'outil d'extension qui exploite l'IA pour faire apparaître un Snap avec un zoom arrière, sont délimitées comme une fonctionnalité d'IA avec une icône scintillante pour le Snapchatter créant le Snap.
Les nouveaux indicateurs fourniront également des marqueurs externes, qui aideront à mieux informer les téléspectateurs qu'il ne s'agit pas d'images réelles.
En plus des nouvelles balises, Snap a également publié un aperçu de ses fonctionnalités et règles d'IA, qui comprend des conseils sur comment et où les créations d'IA peuvent être partagées.
Ce qui comprend des notes intéressantes comme :
« DNe présumez pas que les résultats de l’IA générative sont vrais ou ne représentent pas des événements réels. L’IA générative peut commettre et fera des erreurs et, par conséquent, les résultats peuvent être incorrects, inappropriés ou erronés.
Cela ressemble à un fourre-tout assez large pour couvrir Snap en cas de problème.
Snap note également que la suppression de son nouveau « filigrane Ghost with sparkles » constitue une violation de ses conditions, une autre mesure qui pourrait aider Snap à se distancier des problèmes futurs.
Snap, comme toutes les entreprises qui mettent en œuvre des éléments d’IA générative, a dû faire face à divers problèmes liés à ses résultats, les jeunes pouvant initialement obtenir des conseils sur la façon de fabriquer des drogues, de dissimuler l’alcool, et bien plus encore, via son chatbot MyAI.
Snap a depuis travaillé pour mettre à jour l'outil, avec plus de garanties et de protections. Mais à mesure que cette technologie évolue, il y aura des abus et des erreurs, et les gens vont essayer d’utiliser ces éléments pour induire en erreur et désinformer, à diverses fins.
C'est pourquoi la transparence est essentielle, et ces nouvelles mesures fournissent des outils d'affichage et d'application supplémentaires à l'équipe de Snap.
Elles ne résoudront pas tous les problèmes qui en découlent, mais elles constituent une autre manière d’assurer une plus grande transparence.
