Les deepfakes sont en augmentation, entraînant davantage de mésinformation et de désinformation sur les réseaux sociaux. Il est ainsi de plus en plus difficile de séparer les faits de la fiction, notamment à cause des contenus multimédia générés par l’intelligence artificielle (IA).
Les auteurs de deepfakes cherchent à avoir un impact négatif sur les connaissances du public en période électorale, à induire les gens en erreur lors de crises, etc.
Prenons par exemple les images générées par IA, devenues virales en mai, d'une explosion au Pentagone aux États-Unis. Plus tôt, en mars, de fausses images générées par IA de l'ancien président américain Donald Trump en train d'être arrêté et du pape François portant une doudoune ont largement circulé sur les réseaux sociaux. Lors des élections générales de cette année au Nigeria, du contenu audio trafiqué affirmant que le candidat à la présidentielle Atiku Abubakar, son colistier, Dr. Ifeanyi Okowa et le gouverneur de l'État de Sokoto Aminu Tambuwal prévoyaient de truquer le vote, a été diffusé en ligne.