L’utilisation croissante de l’intelligence artificielle (IA) dans la création d’images a ouvert la porte à de nouvelles possibilités mais aussi à de nombreux défis. Depuis son lancement en mars dernier, le générateur d’images Bing de Microsoft a permis aux utilisateurs de créer des images basées sur les termes entrés. Cependant, des abus notables ont été remarqués, notamment avec des images suggérant des actes de terreur impliquant des personnages populaires comme Kirby.
Sommaire
Des dérapages malgré des restrictions en place
404 Media a récemment révélé que des utilisateurs ont détourné le générateur d’images Bing pour illustrer le célèbre personnage de Nintendo, Kirby, dans des scénarios rappelant tragiquement les attentats du 11 septembre 2001. Ce, malgré le fait que Microsoft ait intégré une liste d’expressions et de mots interdits tels que « 9/11 », « Twin Towers » ou « terrorisme ». Mais la réalité montre que ces outils d’IA et leurs filtres peuvent être facilement contournés.
Les réponses des géants de l’industrie
Face à cette situation, un porte-parole de Microsoft a déclaré qu’ils travaillaient constamment à améliorer leurs outils, techniques et systèmes de sécurité en accord avec leurs principes d’une IA responsable. L’objectif étant de garantir une expérience positive aux utilisateurs tout en évitant la création de contenus nuisibles. De son côté, Nintendo n’a pas encore réagi face à l’utilisation inappropriée de son personnage Kirby.
Le défi de la modération dans l’ère de l’IA
L’une des principales difficultés avec l’IA est qu’elle ne pense pas comme les humains. Elle ne comprend pas le contexte ni les implications émotionnelles ou historiques d’une image. Par conséquent, des images qui pourraient sembler inoffensives pour une machine peuvent avoir un impact dévastateur pour un public humain.
Alors que l’ère des contenus générés par l’IA ne fait que commencer, il est probable que de nombreuses entreprises s’apprêtent à défendre leurs marques et leurs droits de propriété intellectuelle face à ces enjeux.
Un avenir incertain pour la modération des contenus
Depuis l’avènement des plateformes de partage de contenu en ligne, la modération est devenue une nécessité. Avec l’évolution rapide de l’IA, la situation ne fait que se compliquer. Les humains ont toujours démontré une habileté à déjouer les systèmes et les règles, rendant la tâche de modération encore plus ardue à l’avenir.
