De tous les pouvoirs effrayants d'Internet, sa capacité à tromper les sans méfiance pourrait être la plus effrayante. Clickbait, photos photoshopées et fausses nouvelles sont parmi les pires contrevenants, mais ces dernières années ont également vu la montée d'un nouvel outil potentiellement dangereux connu sous le nom d'intelligence artificielle (AI).
Le terme deepfake fait référence à de la vidéo et de l'audio de contrefaçon générés par ordinateur qui sont difficiles à distinguer du contenu authentique et inchangé. C'est filmer ce que Photoshop est pour les images.
Comment fonctionne l'IA deepfake?
L'outil repose sur ce que l'on appelle les réseaux génératifs contradictoires (GAN), une technique inventée en 2014 par Ian Goodfellow, un doctorat. étudiant qui travaille maintenant chez Apple, a rapporté Popular Mechanics.
L'algorithme GAN implique deux IA distinctes, une qui génère du contenu - disons, des photos de personnes - et un adversaire qui essaie de deviner si les images sont réelles ou fausses, selon Vox. L'IA générante commence avec presque aucune idée de l'apparence des gens, ce qui signifie que son partenaire peut facilement distinguer les vraies photos des fausses. Mais au fil du temps, chaque type d'IA s'améliore progressivement, et finalement l'IA génératrice commence à produire un contenu qui ressemble parfaitement à la vie.
Exemples Deepfake
Les GAN sont des outils impressionnants et ne sont pas toujours utilisés à des fins malveillantes. En 2018, une peinture générée par le GAN imitant le style hollandais "Old Master" d'artistes comme le Rembrandt van Rijn du 17ème siècle a été vendue à la maison de vente aux enchères Christie's pour un prix incroyable de 432500 $.
La même année, les deepfakes ont pris de l'importance, principalement grâce à un utilisateur de Reddit qui s'appelait `` deepfakes '', a rapporté Vice. La technique du GAN était souvent utilisée pour placer les visages de célébrités célèbres - dont Gal Gadot, Maisie Williams et Taylor Swift - sur le corps des actrices de films pornographiques.
D'autres GAN ont appris à prendre une seule image d'une personne et à créer des photos ou des vidéos alternatives assez réalistes de cette personne. En 2019, un deepfake pourrait générer des films effrayants mais réalistes de la Joconde parlant, se déplaçant et souriant dans différentes positions.
Les Deepfakes peuvent également modifier le contenu audio. Comme rapporté par The Verge plus tôt cette année, la technique peut épisser de nouveaux mots dans une vidéo d'une personne qui parle, faisant croire qu'ils ont dit quelque chose qu'ils n'avaient jamais voulu.
La facilité avec laquelle le nouvel outil peut être déployé a des ramifications potentiellement effrayantes. Si quelqu'un, n'importe où, peut réaliser des films réalistes montrant une célébrité ou un politicien parlant, bougeant et disant des mots qu'ils n'ont jamais prononcés, les téléspectateurs sont obligés de se méfier davantage du contenu sur Internet. À titre d'exemple, il suffit d'écouter l'avertissement du président Obama contre un avenir dystopique "effacé" dans cette vidéo de Buzzfeed, créée à l'aide de deepfake par le cinéaste Jordan Peele.
