L’intelligence artificielle (IA) est une technologie puissante qui a le potentiel de révolutionner nos vies. Toute personne disposant d’une connexion internet a accès à des outils puissants.
Parmi ces outils, une catégorie sort du lot. Il s’agit des générateurs de voix IA (intelligence artificielle), des programmes sophistiqués capables d’imiter la parole humaine. Ils fonctionnent tellement bien qu’il peut parfois être difficile de distinguer les deux. Mais en quoi cela peut-il être dangereux ?
Comment fonctionnent les générateurs de voix IA ?
La synthèse vocale, ou production artificielle de la parole humaine, existe depuis de nombreuses années. Et comme toute technologie, elle a évolué de manière significative au cours des 5 dernières années.
Les utilisateurs de Windows 2000 et XP se souviennent peut-être de Microsoft Sam, la voix masculine utilisée par défaut pour la synthèse vocale sur ces systèmes d’exploitation. Microsoft Sam remplissait sa mission, mais les sons qu’il générait étaient artificiels, rigides et robotiques. Les outils d’aujourd’hui sont beaucoup plus sophistiqués, et ça en partie grâce au deep learning.
Les réseaux de neurones artificiels sont à la base du deep learning. Ces réseaux neuronaux permettent à l’IA de traiter les données d’une manière assez similaire à la façon dont les neurones du cerveau humain interprètent les informations. En d’autres termes, l’IA imite le comportement humain.
C’est ainsi que fonctionnent les générateurs de voix d’IA actuels. Ils imitent mieux la parole humaine lorsqu’ils sont exposés à un grand nombre d’échantillons vocaux. Les outils modernes de synthèse vocale peuvent pratiquement reproduire instantanément les sons qui leur sont fournis.
En quoi les générateurs de voix IA peuvent-ils être dangereux ?
Il n’est pas surprenant que cette technologie puissante ait attiré des indésirables. Et pas seulement les cybercriminels, mais aussi les trolls, les escrocs, les spécialistes du marketing et les agents de désinformation.
Des trolls d’extrême droite sur le forum 4chan ont commencé à exploiter une version bêta du programme de synthèse vocale d’ElevenLabs dès qu’elle a été mise à disposition en janvier 2023. Ils ont imité les voix de personnalités telles que David Attenborough et Emma Watson à l’aide d’une IA de pointe, donnant l’impression que les célébrités se lançaient dans des tirades odieuses et vicieuses.
ElevenLabs a reconnu que les utilisateurs abusaient de ses outils, en particulier du clonage de voix, comme l’a rapporté Vice à l’époque. Tout le monde peut « cloner » la voix d’une autre personne avec cet outil ; il suffit de télécharger un enregistrement d’une minute et de laisser l’IA s’occuper du reste. La qualité du résultat devrait augmenter avec la durée de l’enregistrement.
Une vidéo TikTok très populaire a attiré l’attention du New York Times en mars 2023. Une boisson caféinée « stimulant la libido » y était mentionnée par le célèbre podcasteur Joe Rogan et le Dr Andrew Huberman, fréquemment invité à l’émission The Joe Rogan Experience. La vidéo donnait l’impression que Huberman et Rogan faisaient sans ambiguïté la promotion de la marchandise. Leurs voix étaient reproduites artificiellement dans la réalité.
Au cours de la même période, le gouvernement a sauvé la Silicon Valley Bank, basée à Santa Clara, en Californie, après sa faillite due à une mauvaise gestion des risques et à d’autres facteurs. Il s’agit de la plus grande faillite bancaire aux États-Unis depuis la crise financière de 2008, et elle a eu un impact profond sur les marchés du monde entier.
C’est une fausse cassette audio du président américain Joe Biden qui a provoqué l’hystérie. Selon cette vidéo, on entend Joe Biden demander à ses collaborateurs “d’utiliser toute la force des médias pour calmer le public » et prédire l’imminence d’un « effondrement ». Bien que PolitiFact et d’autres vérificateurs de faits se soient empressés de réfuter la vidéo, des millions de personnes l’avaient probablement déjà entendue à ce moment-là.
Les cybercriminels ont commencé à se faire passer pour des personnes ordinaires en utilisant des générateurs de voix à base d’IA, tout comme ils peuvent être utilisés pour imiter des superstars. Chaque année, des milliers d’Américains sont victimes de tentatives de phishing ou de vishing vocal. En 2023, un appel téléphonique du « petit-fils » d’un vieux couple, qui prétendait être en prison et demander de l’argent, a fait la une des journaux nationaux.
Vous ou vos proches pourriez être en danger si vous avez déjà publié une vidéo sur YouTube (ou si vous êtes apparu dans une vidéo), si vous avez participé à un appel de groupe avec des inconnus ou si vous avez publié votre voix en ligne de toute autre manière. Qu’est-ce qui empêcherait un escroc de copier votre voix, de la télécharger dans un générateur d’intelligence artificielle et d’appeler votre famille ?
Les générateurs de voix IA font du bruit
Il n’est pas nécessaire d’être un professionnel de la cybersécurité pour comprendre à quel point l’intelligence artificielle peut être dangereuse lorsqu’elle est mal utilisée. Bien que l’on puisse dire cela de toutes les technologies, l’IA représente une menace particulière en raison d’un certain nombre de facteurs.
Tout d’abord, elle n’en est qu’à ses débuts, et nous ne savons donc pas vraiment à quoi nous attendre. En utilisant des techniques d’IA de pointe, les pirates informatiques peuvent étendre et automatiser leurs activités de manière inédite, tout en profitant de l’ignorance relative du grand public en la matière. Les acteurs de la menace peuvent désormais envoyer des courriels d’hameçonnage, créer des sites web frauduleux, réaliser des graphiques réalistes, produire un nombre illimité d’heures de faux contenus audio et vidéo et créer du code nuisible grâce à l’IA générative. Pour couronner le tout, elle ne nécessite que peu de connaissances et d’expertise.
Il est important de noter que ce phénomène est réciproque : pendant les décennies à venir, l’IA sera probablement utilisée pour protéger les systèmes. Étant donné que les capacités défensives et offensives de ces technologies sont égales par nature, il ne serait pas insensé d’en déduire que ce qui nous attend est une sorte de course à l’armement de l’IA entre les cybercriminels et le secteur de la cybersécurité.
L’utilisation généralisée de l’IA générative nécessite une réévaluation fondamentale des procédures de sécurité pour le grand public. Même si l’IA peut être intéressante et utile, elle peut aussi, au minimum, brouiller les pistes entre ce qui est authentique et ce qui ne l’est pas et, au pire, aggraver les problèmes de sécurité actuels et ouvrir de nouveaux espaces d’action aux acteurs de la menace.
Les générateurs de voix illustrent le potentiel dangereux de l'IA
Le débat sur la réglementation de l’IA s’est accéléré dès que le ChatGPT a été mis sur le marché. Il est peu probable que des tentatives soient faites pour limiter cette technologie.
La seule chose que nous pouvons faire maintenant est de nous adapter au fait que le génie n’est plus contenu. Nous pouvons seulement espérer que le secteur de la cybersécurité s’adapte de manière appropriée.
C’est déjà la fin de cet article. Vous voulez en apprendre davantage sur l’intelligence artificielle ? Consultez nos actualités et nos guides pour vous familiariser avec cette technologie d’avenir.
