Quand l’IA cible les émotions : de l’augmentation de chiffres d’affaires à l’extorsion de rançons

02/05/2023
Thumbnail [16x6]

Vous souhaitez augmenter votre clientèle ? L’intelligence artificielle peut vous aider. 


Un nombre croissant d’entreprises commencent à baser leur marketing sur l’IA formée pour comprendre, provoquer et répondre à des émotions humaines.  


La société américaine de logiciels Affectiva a créé Emotion AI, une nouvelle catégorie technologique d’intelligence émotionnelle artificielle. Son IA est conçue pour analyser les expressions faciales et vocales afin d’étudier les émotions, les états cognitifs, les activités et le comportement humains. Elle permet aux entreprises d’adapter leur publicité pour optimiser les réponses positives des clients et les inciter à commander des produits et services.


L’industrie de la publicité a également accueilli à bras ouverts DALL-E, Stable Diffusion et Midjourney. Développés respectivement par OpenAI, la start-up Stability AI et le laboratoire de recherche indépendant Midjourney, Inc., ces modèles d’apprentissage et services d’IA génèrent des images détaillées à partir de descriptions en langage naturel appelées « prompts ». Ils permettent aux annonceurs de créer un contenu unique et innovant assaisonné d’effets spéciaux, rendant la publicité plus fructueuse. 


Cependant, des formes d’utilisation inappropriée abondent aussi :


- De nombreuses personnes ont été victimes de demandes de rançon par le biais d’appels téléphoniques basés sur l’utilisation de voix de leurs proches clonées par l’IA. 


- Des médias générés par ordinateur (images réalistes, audio et vidéos) ont répandu des désinformations à grande échelle. Au Venezuela, des « personnes » générées par l’IA ont notamment diffusé de fausses informations sur l’économie du pays, que le président a partagées.


- En janvier 2023, trois artistes ont déposé une plainte pour violation de droits d’auteur contre Stability AI, Midjourney et DeviantArt, affirmant que ces sociétés avaient violé les droits de propriété intellectuelle de millions d’artistes en utilisant leurs images du Web sans leur consentement pour former des outils d’IA.


Il devient de plus en plus urgent de fixer de nouvelles normes juridiques encadrant les services basés sur l’IA.