L’affect des deepfakes sur le advertising and marketing

En recherchant IA specialists, je suis tombé sur un fake profond. Ce n’était pas évident au début, compte tenu de son profil apparemment légitime et de son engagement sur les réseaux sociaux. Pourtant, après avoir vu la même picture effrayante générée par l’IA du Dr Lance B. Eliot partout sur le Internet, il était clair qu’il n’était pas une vraie personne. Alors je l’ai suivi et j’ai appris son truc.

L’omniprésent Dr Lance B. Eliot

Eliot a plus de 11 000 abonnés sur LinkedIn et nous avons deux connexions en commun. Tous deux ont des milliers d’abonnés sur LinkedIn et des décennies d’expérience dans l’IA avec des rôles d’investisseur, d’analyste, de conférencier, de chroniqueur et de PDG. Les membres de LinkedIn interagissent avec Eliot même si tous ses messages sont des détournements de fils répétitifs qui mènent à ses nombreux articles Forbes.

Sur Forbes, Eliot publie tous les un à trois jours avec des titres presque identiques. Après avoir lu quelques articles, il est évident que le contenu est un jargon technologique généré par l’IA. L’un des plus gros problèmes avec le vaste portefeuille Forbes d’Eliot est que le web site limite les lecteurs à cinq histoires gratuites par mois jusqu’à ce qu’ils soient invités à acheter un abonnement de 6,99 $ par mois ou 74,99 $ par an. Cela se complique maintenant que Forbes a officiellement se mettre en vente avec un prix d’environ 800 hundreds of thousands de {dollars}.

Le contenu d’Eliot est également disponible derrière un mur payant moyen, qui facture 5 $ par mois. Et un mince profil d’Eliot apparaît dans Cision, Muckrack et Sam Whitmore Media Survey, des companies médiatiques payants coûteux et utilisés par une grande majorité de professionnels des relations publiques.

Ensuite, il y a la vente en ligne des livres d’Eliot. Il les vend by way of Amazon, récupérant un peu plus de 4 {dollars} par titre, bien que Walmart les suggest moins cher. Sur Thriftbooks, les perles de sagesse d’Eliot se vendent environ 27 $, ce qui est une bonne affaire par rapport au prix de 28 $ sur Porchlight. Il y a fort à parier que les ventes de livres sont tirées par de fausses critiques. Pourtant, quelques humains déçus ont acheté les livres et leur ont attribué de faibles notes, qualifiant le contenu de répétitif.

Les dommages aux grandes marques et aux identités individuelles

Après avoir cliqué sur un lien vers le profil de l’Université de Stanford d’Eliot, j’ai utilisé un autre navigateur et j’ai atterri sur le vrai web site Internet de Stanford, où une recherche sur Eliot n’a produit aucun résultat. Une comparaison côte à côte montre que la couleur rouge de la marque sur la web page Stanford d’Eliot n’était pas de la même teinte que la web page authentique.

Une expérience similaire s’est produite sur le web site ArXiv de Cornell. Avec juste une légère modification du emblem Cornell, l’un des articles académiques d’Eliot a été publié, rempli de fautes de frappe et de contenu généré par l’IA de mauvaise qualité présenté dans un format de doc de recherche universitaire normal. Le journal citait une longue liste de sources, dont Oliver Wendell Holmes, qui a apparemment publié dans une édition de 1897 de la Harvard Regulation Evaluate – trois ans après sa mort.

Ceux qui ne sont pas intéressés par la lecture du contenu d’Eliot peuvent se diriger vers ses podcasts, où un bot jaillit un jargon dénué de sens. Un extrait de la critique d’un auditeur se lit comme swimsuit : « Si vous aimez écouter quelqu’un lire mot pour mot à partir d’un script de papier, c’est un wonderful podcast pour vous. »

L’URL affichée à côté des podcasts d’Eliot fait la promotion de son web site Internet sur les voitures autonomes, ce qui a initialement conduit à une deadlock. Une actualisation sur le même lien a conduit à Techbrium, l’un des fake websites Internet d’employeurs d’Eliot.

C’est incroyable de voir remark Eliot est succesful de faire tout cela tout en gardant le temps de prendre la parole lors de sommets de management exécutif organisés par HMG Technique. Les fake événements présentent des entreprises technologiques de renom répertoriées comme partenaires, avec un who’s who de conseillers et de vraies biographies de dirigeants de Zoom, Adobe, SAP, ServiceNow et les Boston Crimson Sox, entre autres.

La participation aux événements HMG est gratuite pour les cadres supérieurs de la technologie, à situation qu’ils s’inscrivent. Selon les termes et situations de HMG, « Si pour une raison quelconque vous ne pouvez pas assister et ne pouvez pas envoyer un rapport direct à votre place, des frais de non-présentation de 100 $ seront facturés pour couvrir les frais de repas et de personnel de service. »

Le coût d’ignorer les deepfakes

Une fouille plus approfondie d’Eliot a conduit un fil Reddit vieux de deux ans à l’appeler et à virer rapidement vers des théories du complot difficiles à suivre. Eliot n’est peut-être pas un anagramme ni lié à la NSA, mais il fait partie des hundreds of thousands de deepfakes qui gagnent de l’argent en ligne et qui sont de plus en plus difficiles à repérer.

L’examen des effets d’entraînement financiers des deepfakes soulève la query de savoir qui est responsable lorsqu’ils génèrent des revenus pour eux-mêmes et leurs partenaires. Sans parler du coût du téléchargement malwareciblant de fake prospects et payant pour des liens de advertising and marketing d’affiliation spammés.

On peut dire qu’un œil attentif peut repérer un deepfake à partir d’un arrière-plan flou ou manquant, de cheveux étranges, d’yeux bizarres et de voix robotiques qui ne se synchronisent pas avec leur bouche. Mais si c’était une vérité universelle, le coût des deepfakes ne serait pas des milliards en pertes automobile ils génèrent des escroqueries financières et se font passer pour de vraies personnes.

L’IA n’a pas résolu tous les problèmes qui rendent difficile la détection du manque d’authenticité d’un deepfake, mais les corrige activement. C’est ce sort d’article sur les deepfakes qui aide l’IA à apprendre et à s’améliorer. Cela laisse la responsabilité de repérer les deepfakes aux individus, les forçant à être vigilants quant à qui ils laissent entrer dans leurs réseaux et leurs vies.

Kathy Keating est une personne réelle et fondatrice de ProsInComms, un cupboard de conseil en relations publiques.