Les collections

Google publie un ensemble de données effrayant Deepfake pour aider les développeurs à créer des méthodes de détection

Google publie un ensemble de données effrayant Deepfake pour aider les développeurs à créer des méthodes de détection

Les deepfakes sont une préoccupation croissante pour la société. Cette année, la voix profonde d'un PDG a été utilisée pour voler $250,000 d'une entreprise.

La technologie permet des clips étranges et réalistes de politiciens disant des choses qu'ils n'ont pas vraiment dites. Il n'est pas difficile d'imaginer comment cela pourrait être utilisé pour déstabiliser les masses.

C'est pourquoi Google a publié une mine de vidéos deepfake pour aider les chercheurs à trouver des méthodes de détection.

CONNEXION: LE NOUVEAU LOGICIEL DEEPFAKE NE BESOIN D'UNE SEULE IMAGE POUR VOUS FAIRE CHANTER

Nocif pour la société

Comme Google le souligne dans un nouveau billet de blog, "si de nombreuses [vidéos deepfake] sont probablement destinées à être humoristiques, d'autres pourraient nuire aux individus et à la société".

"Google prend ces problèmes au sérieux. Comme nous l'avons publié dans nos principes d'IA l'année dernière, nous nous engageons à développer les meilleures pratiques en matière d'IA pour atténuer les risques de dommages et d'abus", poursuit le message.

L'année dernière, la société a publié un ensemble de données de discours synthétique pour un défi international qui demandait aux développeurs de concevoir de faux détecteurs audio capables de capturer des clips audio deepfake.

Cette fois, en collaboration avec Jigsaw, Google a annoncé la sortie d'un vaste ensemble de données de vidéos deepfake. L'ensemble de données, indique la société dans son article de blog, a été ajouté à la nouvelle référence FaceForensics de l'Université technique de Munich et de l'Université Federico II de Naples - une initiative co-sponsorisée par Google.

Lequel est réel?

Les nouvelles données ont été créées avec l'aide d'acteurs consentants. Au cours de l'année écoulée, Google a payé les acteurs pour enregistrer des centaines de vidéos. Comme le dit Google, "les vidéos qui en résultent, réelles et fausses, constituent notre contribution, que nous avons créée pour soutenir directement les efforts de détection de deepfake."

Quelques exemples de vidéos côte à côte - où nous ne pouvons pas vraiment dire laquelle est réelle - peuvent être vus ci-dessous.

L'intégration des données dans le benchmark vidéo FaceForensics a été réalisée avec l'aide d'éminents chercheurs, dont le professeur Matthias Niessner, le professeur Luisa Verdoliva et l'équipe FaceForensics.

Les données vidéo deepfake peuvent être téléchargées gratuitement sur la page FaceForensics GitHub.


Voir la vidéo: DEEPFAKE Tutorial: A Beginners Guide using DeepFace Lab (Décembre 2021).