Catégories
Art et photographie

Le métier des Deepfakes, des Cheapfakes et des Médias manipulés trompeurs

Certains pensent que les fausses nouvelles pourraient coûter à l'économie 39 milliards de dollars par an. Un marché à saisir pour une startup technologique avisée, même à 1%! Mais alors que les fausses nouvelles et en particulier les fausses couches ont été accusées de faire des ravages sur les esprits et l'économie, il n'y a étonnamment qu'un nombre minime d'entreprises offrant des outils pour les combattre.

La raison?

Coût

Le plus important, probablement, est le défi de la tâche. Les deepfakes sont notoirement extrêmement difficiles à détecter et évoluent très rapidement. Puisqu'ils utilisent la même IA que celle utilisée pour les identifier, toute innovation dans leur détection est immédiatement appliquée pour les améliorer. Un récent défi Facebook avec plus d'un millier d'entrées a placé le gagnant à un taux de réussite de détection pathétique de 65%. Personne ne paierait pour une solution avec des résultats aussi bas. Sachant qu'une solution efficace devrait être continuellement améliorée, cela la rendrait intensive en R&D, coûteuse et difficile sur le plan commercial.

Valeur

Le coût des deepfakes / médias manipulés est calculé en crédibilité perdue, et non en dollars, pour le moment. Les politiciens et les célébrités sont les cibles numéro un, et leur notoriété fait rapidement surface tout comportement étrange. Très rapidement, les deepfakes sont démystifiés et, au pire, laissent des égratignures de réputation, le cas échéant. La plupart des célébrités / politiciens pourraient même se réjouir de l'attention qui profite de l'augmentation de l'exposition gratuite, même si elle est négative (indice de l'adage «il n'y a pas de mauvaise publicité»).

Marché

Les principales victimes aujourd'hui sont les entreprises et les plateformes médiatiques. Les deux dépendent de la crédibilité pour maintenir leur audience. C'est pourquoi Facebook, Twitter, avec Microsoft et les principaux éditeurs de médias, sont les seuls à développer des solutions de médias anti-manipulés internes ou spécifiques à l'industrie. Alimentées par une combinaison de contrôle de contenu humain et machine et de vérificateurs de faits, ces solutions sont davantage des services publics et non des entreprises commerciales.

Secteur

Pour une marque, les enjeux peuvent être plus importants car au-delà de la réputation atteinte, les dommages peuvent aller de la dévaluation des stocks aux boycotts et à la perte permanente de clients. Et pourtant, il y en a actuellement massivement mal desservis. Les marques ont actuellement peu ou pas de visibilité sur les faux contenus les affectant et leur impact. S'ils le font, il est très souvent trop tard.

Les marques peuvent être détournées et promouvoir un faux récit à leur insu.

Solutions

Il n'y a qu'une poignée d'entreprises qui ont décidé de s'attaquer au problème difficile des faux médias visuels / manipulés. Deux approches principales dominent. La certification au moment de la capture et du moteur de recherche / surveillance du contenu.

Certification au point de capture

Une approche consiste à créer une certification indélébile au moment de la création. En capturant le contenu dans un cadre contrôlé (comme une application), ainsi que toutes les métadonnées associées possibles, ils génèrent un fichier de référence de vérité terrain. Il peut non seulement certifier que l'image / vidéo a vraiment été prise quand et où il dit qu'elle a été prise, mais il crée également un fichier de référence certifié.

Vérification au point de capture. Capture d'écran iPhone de l'interface Serelay

Serelay prétend capturer plus de 500 points de données avec l'image ou la vidéo et les stocker pour une vérification ultérieure si nécessaire. Les partenaires de l'entreprise ont la garantie que les images ou vidéos reçues sont véridiques. De même, Truepic a adopté une approche similaire. Une application photo dédiée et avant la transmission, une série de tests supplémentaires (comme une recherche d'image inversée google) pour garantir l'authenticité et la véracité. Pour plus de sécurité, Truepic ajoute une signature cryptographique dans une blockchain. Alors que Serelay s'adresse aux entreprises de médias d'information, Truepic est solidement implantée dans le secteur de l'assurance et dans son processus de réclamation.

Comme Serelay et Truepic, Attestiv fournit une application de certification de point de capture avec une suite de flux de travail destinée au secteur de l'assurance. Ils utilisent également la blockchain pour stocker des informations inaltérables sur le fichier.

Truepic ne laisse rien lors de la vérification de la véracité d'un fichier

La vidéo ambrée fournit un processus de capture similaire à celui des sociétés ci-dessus, mais uniquement pour la vidéo. Pendant le tournage, la plateforme génère des «hachages» qui sont enregistrés de manière indélébile sur une blockchain publique. Pour la vérification, la séquence vidéo est exécutée via leur algorithme, et si les hachages sont différents, il existe une preuve de modification. L'entreprise prétend également disposer d'un outil pour identifier les deepfakes, quelle qu'en soit la source, mais n'offre que peu ou pas d'informations sur son niveau d'efficacité.

Surveillance du contenu

Deeptrace labs offre une solution véritablement indépendante de la capture. L'entreprise surveille en permanence le Web à la recherche de deepfakes. Ils ont mené des recherches approfondies sur les menaces pour mieux comprendre les mauvais acteurs, comment ils vendent des services ou monétisent sur de fausses vidéos, et comment les deepfakes se propagent en ligne. Le résultat est la première entreprise à fournir aux clients les outils pour détecter et intercepter ces menaces.

De même mais plus obscur pour l'instant, Falso.tech propose une API et un SDK, tous deux en version bêta privée. La société semble se concentrer exclusivement sur la détection de l'appartenance d'un visage à un cadre et en tirer des conclusions sur l'authenticité. La façon dont ils prévoient de trouver des vidéos suspectes n'est pas claire, quant à savoir s'ils envisagent de s'étendre à d'autres contenus.

Protection du contenu

Bien que n'étant pas exclusivement un outil de surveillance et de détection deepfake, le filigrane invisible d'Imatag peut faire les deux. Inséré au niveau des pixels des images vidéo ou des photographies, le filigrane invisible peut révéler si une image a été modifiée et quelle partie. Il est plus flexible qu'un périphérique de point de capture puisque tout contenu peut être filigrané. Il permet une détection d’altération robuste qui peut être insérée à tout moment de l’existence d’un contenu visuel. Utilisé par les agences de photos de presse et les marques Fortune 500, il recherche en permanence sur Internet des copies suspectes et légitimes.

Le filigrane invisible d'Imatag est un puissant outil de détection contre les médias manipulés

Médias synthétiques pour de bon

Tous les deepfakes ne sont pas mauvais. En fait, la technologie peut être utilisée dans de nombreuses applications utiles. Premier sur le marché, Synthesia propose un générateur de vidéos personnalisable qui peut parler jusqu'à 34 langues différentes tout en adaptant le mouvement du visage en conséquence. On peut utiliser l'un des présentateurs prédéfinis ou télécharger une vidéo d'eux-mêmes.

Cette personne peut vendre ce que vous voulez via Synthesia.

Le résultat est un deepfake qui peut enseigner, vendre, recommander, expliquer n'importe quoi via une entrée de texte et une vidéo parfaitement synchronisée comme sortie. Pas besoin d'équipement vidéo coûteux, de location de studio, de personnel expert et de prises multiples. Et au cas où vous vous poseriez la question, ils surveillent l'utilisation de leur solution et bloquent toute tentative malveillante.

Conclusion

Comme pour tout nouveau domaine, il faudra du temps pour que des solutions valides émergent. Avec deepfake, le problème est aggravé par sa capacité à évoluer en dehors des secteurs académiques traditionnels et contrôlés. Cela rend les solutions de construction extrêmement difficiles et instables. De plus, les entreprises ne sont pas encore déterminées à savoir comment aborder ce nouveau défi et combien investir. En d'autres termes, tout comme la technologie, le marché est loin d'être établi. Quand c'est le cas, ce qui arrivera assez tôt, les récompenses pourraient être impressionnantes.


A propos de l'auteur: Paul Melcher est un entrepreneur en photographie et technologie basé à New York, et le fondateur de Kaptur, un magazine d'information sur l'espace de la technologie visuelle. Les opinions exprimées dans cet article sont uniquement celles de l'auteur. Vous pouvez trouver plus de ses écrits sur son blog, Pensées d'un Bohème. Melcher offre également ses services en tant que consultant. Cet article a également été publié ici.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *