Récemment sur son blog, YouTube a annoncé la mise en place de mesures spécifiques pour l’IA, afin d’assurer un juste équilibre entre créativité et respect des règles communautaires.

Récemment dans le blog de YouTube, Jennifer Flannery O’Connor et Emily Moxley, ont fait part des différentes mesures prises concernant l’IA générative, dans le but de trouver un équilibre entre créativité et le respect du règlement de la communauté.

Nous introduirons des mises à jour qui informeront les spectateurs lorsque le contenu qu’ils voient est synthétique.

Extrait du blog de YouTube

Les nouvelles étiquettes

La firme de San Bruno ajoute diverses étiquettes d’information, y compris une sur la communication commerciale affichée lors d’une vidéo. Ces panneaux afficheront un message indiquant que le contenu a été généré par une IA. Les employés de la filiale de Google expliquent ce choix par la volonté de maintenir un écosystème d’informations fiable sur la plateforme. Ils ajoutent que celle-ci dispose de plusieurs politiques interdisant des contenus techniquement manipulés, qui pourraient induire en erreur les spectateurs et présenter un risque de préjudice flagrant. En effet, l’intelligence artificielle peut être utilisée à ces fins.

La plateforme ajoute également que des mises à jour seront introduites afin d’informer le spectateur qu’une vidéo est produite entièrement par une IA, avec le consentement du créateur de contenu, comme pour l’étiquette ‘inclus une communication commerciale’.

Cependant, les créateurs qui ne signalent pas, par exemple, que le contenu a été généré par Midjourney pourront faire face à des mesures punitives telles que la suppression de contenu ou la suspension du YouTube Partner Program. La plateforme vidéo précise qu’elle collaborera avec les créateurs avant le déploiement pour assurer la compréhension de ces exigences.

Comme indiqué dans les images ci-dessus, la plateforme informera les spectateurs de deux manières, contrairement au contenu sponsorisé qui n’en utilise qu’une. La première méthode consiste à ajouter au descriptif de la vidéo une mention indiquant qu’une partie du contenu a été modifiée ou synthétisée. Pour les sujets sensibles, tels que la situation au Proche-Orient, une étiquette spécifique sera également visible sur le lecteur vidéo.

Malgré ces étiquettes, la plateforme supprimera les contenus dans certains domaines, notamment ceux visant à choquer ou à dégoûter les spectateurs, en cas de non-respect du règlement de la communauté. Elle cite comme exemple une vidéo synthétiquement créée montrant une violence réaliste.

L’ajout d’options pour les utilisateurs

Le géant américain du streaming de vidéo a entendu différents commentaires provenant des créateurs, des spectateurs, voir même des artistes, sur la manière dont ils sont affectés par les technologies émergentes, par le biais d’une modification de la voix ou du visage d’un individu sans sa permission afin de déformer son point de vue.

Dans le but de lutter contre ce qui est appelé un deepfake la plateforme va ajouter un système permettant de demander la suppression d’un contenu généré par IA, ou d’autres contenus synthétiques voir modifiés afin de simuler quiconque par le biais du processus de demande de confidentialité. Avant de préciser que tout les contenus ne seront pas supprimé de YouTube et différents facteurs (tels que de savoir si c’est parodique ou encore une satire) seront pris en compte par l’équipe de modération.

Dorénavant les partenaires musicaux de la plateforme pourront demander la suppression d’un contenu musical créé par une IA qui imite la voix d’une personnalité musicale. Attention cependant la modération devra prendre en compte si c’est pour une analyse ou une critique des voix synthétisées. Cette fonctionnalité sera dans un premier temps disponible uniquement pour les labels ou les distributeurs qui représentent des artistes participant aux premières expériences musicales de l’IA de la plateforme, avant d’être déployé dans les prochains mois pour les autres ayants droits.

L’IA au service de la plateforme

Depuis des années, la plateforme tient à préciser qu’elle a utilisé une combinaison de technologies de gestion des ressources humaines et de Deep Learning pour faire respecter le règlement de la communauté, tout en ayant plus de 20 000 employés dans le monde entier. Avant d’ajouter que les classificateurs d’IA aident à la détection des contenus potentiellement non conformes à grande échelle, et les examinateurs humains s’efforcent de confirmer si le contenu a franchi les lignes de la politique. L’Intelligence Artificielle continue sans cesse à améliorer la vitesse ainsi que la précision des systèmes de modération de contenu.

À l’avenir, la plateforme utilisera l’IA générative pour identifier les nouvelles formes de menaces afin d’aider les classificateurs d’IA à se former, signifiant ainsi que la plateforme sera en mesure d’identifier et de capturer beaucoup plus rapidement ces menaces inconnues. Avant d’indiquer que l’amélioration de la vitesse et de la précision de ses systèmes permettrait de grandement réduire la quantité de contenu préjudiciable auquel les modérateurs humains sont exposés.

Dans un but de développer de nouveaux outils basés sur l’IA pour les créateurs, le géant au logo rouge et blanc garde une approche cohérente même si cela signifie de prendre son temps pour avoir un produit mature. Avant de préciser également qu’elle réfléchit à ajouter des garde-fous pour empêcher ses outils basés sur l’intelligence artificielle de générer un contenu qui n’a pas sa place sur la plateforme. Avant de préciser que des individus malveillants tenteront de contourner les sécurités mises en place, la plateforme prendra en compte des commentaires et des enseignements des usagers afin d’améliorer continuellement ses protections. Des équipes dédiées, telles que le service de renseignement, se concentreront sur des tests contradictoires et la détection de menaces afin de vérifier que la technologie de la plateforme répondra aux futurs nouveaux défis.

Un avenir tracé pour la plateforme

Malgré ces ambitions, les membres de l’équipe de la firme tiennent à préciser que celle-ci n’en est qu’au début de son parcours pour débloquer de nouvelles formes d’innovation et de créativité sur la plateforme grâce à l’IA génératrice. Ils expriment leur enthousiasme quant au fort potentiel de cette technologie et partagent leur vision sur l’avenir pour les industries créatives. Ils rappellent également leur engagement à trouver un équilibre entre les avantages et la sécurité continue de la communauté en ce moment charnière. Enfin, ils indiquent travailler avec les créateurs, les artistes ainsi que d’autres acteurs pour forger un avenir bénéfique à tous.