Internet & securité

Le logiciel Facebook AI capable de déterrer les origines des images Deepfake


Les scientifiques de Facebook ont ​​déclaré mercredi avoir développé un logiciel d’intelligence artificielle non seulement pour identifier les images « deepfake », mais aussi pour comprendre d’où elles venaient.

contrefaçons profondes sont des photos, des vidéos ou des clips audio modifiés à l’aide de l’intelligence artificielle pour paraître authentiques, ce qui, selon les experts, peut induire en erreur ou être complètement faux.

Facebook Les chercheurs Tal Hassner et Xi Yin ont déclaré que leur équipe avait travaillé avec l’Université d’État du Michigan pour créer un logiciel d’ingénierie inverse des images en profondeur pour comprendre comment elles ont été fabriquées et d’où elles proviennent.

« Notre méthode facilitera la détection et le traçage des deepfakes dans le monde réel, où l’image deepfake elle-même est souvent la seule information avec laquelle les détecteurs doivent travailler », ont déclaré les scientifiques dans un article de blog.

« Ce travail donnera aux chercheurs et aux praticiens des outils pour mieux enquêter sur les incidents de désinformation coordonnée à l’aide de deepfakes, ainsi qu’ouvrir de nouvelles directions pour la recherche future », ont-ils ajouté.

Le nouveau logiciel de Facebook exécute des deepfakes via un réseau pour rechercher les imperfections laissées pendant le processus de fabrication, qui, selon les scientifiques, modifient l’« empreinte digitale » numérique d’une image.

« En photographie numérique, les empreintes digitales sont utilisées pour identifier l’appareil photo numérique utilisé pour produire une image », ont déclaré les scientifiques.

« Semblable aux empreintes digitales des appareils, les empreintes digitales des images sont des motifs uniques laissés sur les images… qui peuvent également être utilisés pour identifier le modèle génératif d’où provient l’image. »

« Notre recherche repousse les limites de la compréhension de la détection des deepfakes », ont-ils déclaré.

Microsoft à la fin de l’année dernière logiciel dévoilé qui peuvent aider à repérer des photos ou des vidéos deepfake, s’ajoutant à un arsenal de programmes conçus pour lutter contre les images difficiles à détecter avant l’élection présidentielle américaine.

Le logiciel Video Authenticator de la société analyse une image ou chaque trame d’une vidéo, à la recherche de preuves de manipulation qui pourraient être invisibles à l’œil nu.


.



Source link

You may also like

Leave a reply

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *