ChatGPT est une excellente arme contre les appels à froid. Combiné à une IA programmée pour reproduire la voix humaine, ce modèle de langage rend fous les marketeurs. Les résultats sont parfois drôles. L’Américain Roger Anderson, 54 ans, a lancé une véritable campagne contre le démarchage téléphonique. Un Californien a développé un outil appelé le téléphone Jolly Roger. Le système est basé à la fois sur GPT-4, la dernière version du modèle de langage derrière ChatGPT, et sur une intelligence artificielle qui peut imiter la voix humaine.
Comment ChatGPT trompe les spécialistes du marketing?
La combinaison de ces deux technologies peut entraîner une perte de temps considérable pour les annonceurs et les escrocs qui tentent de tromper les utilisateurs par téléphone. Plus précisément, les chatbots disent aux parties prenantes des choses comme :
« Nous fournissons des robots amicaux et patients qui parlent à ces télévendeurs impolis pour vous. Ils adorent bavarder et garderont souvent les appelants désagréables engagés pendant plusieurs minutes », explique Jolly Roger Téléphone sur son site web.
Cette tactique donne d’excellents résultats. Selon des exemples publiés sur le site officiel, le système peut garder les spécialistes du marketing au téléphone pendant quelques minutes. La conversation a duré jusqu’à 15 minutes. Alors que « les méchants sont occupés », dit la description du site, « ils ne peuvent pas déranger d’autres personnes innocentes ». Pour faire perdre du temps aux télévendeurs, Roger Anderson a créé plusieurs chatbots aux personnalités différentes. On y retrouve notamment Whitey Whitebeard, un senior très bavard, Salty Sally, une femme au foyer complètement débordée, ou encore Whiskey Jack, un homme avec de gros problèmes de concentration. Les robots conversationnels équipent les interactions de consentement ou de phrases préprogrammées destinées à déstabiliser l’interlocuteur. Indique que vous souhaitez ou devez obtenir un document en urgence pour gagner du temps.
Solution de contournement ChatGPT
Sans surprise, ChatGPT a initialement refusé de se conformer à la demande, piégeant les télévendeurs, a déclaré Anderson au Wall Street Journal. Lorsque vous demandez à un mannequin de faire perdre le temps aux autres, il se cache derrière une réponse comme celle-ci.
« Mon objectif est d’offrir une assistance utile et rapide. Je ne suis pas conçu pour faire perdre du temps aux gens ou les ennuyer. Si vous avez des questions ou des demandes légitimes, je serai ravi de vous aider ».
L’inventeur du téléphone Jolly Roger a été contraint de trouver une solution de contournement. Pour convaincre ChatGPT, il lui a expliqué que son but était de protéger un homme contre l’arnaque. L’IA a alors accepté de jouer le jeu. Il s’agit en fait d’une attaque par « injection immédiate ». Cette attaque parle à ChatGPT pour le forcer à ignorer sa programmation, à modifier son comportement et à ignorer les règles établies par OpenAI pour empêcher l’exploitation. Ce processus a abouti à d’innombrables versions personnalisées de l’IA, dont certaines ne sont pas censurées.
Un abonnement Jolly Roger Telephone coûte 24,99 $ par année. Ce service n’est actuellement disponible qu’aux États-Unis, au Royaume-Uni, en Australie et en Nouvelle-Zélande.
