Les voix générées se multiplient dans l’espace numérique et digital. Ce n’est que la résultante des nombreuses solutions d’intelligence artificielle qui se multiplient. Ces nombreux outils d’IA offrent la possibilité de générer des voix masculines, féminines, roques ou fines… Ils font malheureusement l’objet de nombreuses dérives. Elles tiennent notamment à la multiplication des arnaques à la voix. Il y a de plus en plus de facilité à tromper sur la nature de l’interlocuteur à travers ces outils d’IA. Avant de présenter les dangers de ces mécanismes d’arnaques, intéressons-nous à la nature des infractions pour lesquelles ces voix générées sont utilisées.
Fraudes vocales, extorsion, tromperies
L’arnaque aux sentiments est l’une des méthodes d’arnaque les plus répandues et les plus utilisées en Afrique. Les cybercriminels n’hésitent donc pas à usurper des identités et à se faire passer pour n’importe qui, afin de soutirer des sous. Grâce aux outils IA de génération de voix, les arnaqueurs n’ont plus à se gêner à trouver des complices qui acceptent de se prêter à la marmaille. Quelques clics, un prompt et un fichier audio est généré. C’est ainsi qu’ils se retrouvent à rouler des centaines de victimes sur internet. Les fraudes vocales sont également utilisées dans des cadres moins sentimentaux. Des voix générées se faisant passer pour des services gouvernementaux ou des organismes d’emploi réussissent à convaincre des utilisateurs à verser des sommes pour souscrire à des services ou encore pour des abonnements. Ces voix générées sont aussi utilisées pour des extorsions d’informations personnelles, par l’usurpation d’identité. Les données personnelles collectées sont ensuite réutilisées pour faire chanter les victimes. On voit bien que le rôle des IA dans la génération de voix artificielles est de plus en plus important pour les arnaqueurs et les fraudeurs. C’est même une aubaine pour eux afin de mener leurs différentes opérations d’arnaque sans avoir à recourir à des complices, parfois beaucoup trop bavards.
Les arnaques se multiplient. Et les risques auxquels expose l’usage détourné des IA de génération de voix ne sont pas négligeables.
Des dangers de plus en plus persistants
Les dangers de l’usage détourné des IA de génération de voix au profit d’arnaques sont clairement de plus en plus importants. Ces dangers sont de plusieurs ordres. Du point de vue économique, les arnaques à la voix générée pourraient multiplier les pertes financières. Ce qui augmenterait ainsi les pertes financières liées à l’utilisation d’internet. Ensuite, une remise en cause de la fiabilité de nombreux services basés sur la voix pourrait intervenir du fait de ces utilisations à des fins nuisibles des solutions d’IA de génération de voix. Un grand risque de désinformation existe également du fait de ces nombreuses voix générées. L’annonce de l’usage de voix générées dans les médias pourrait démystifier ces voix et les rendre beaucoup plus évidentes à l’ouïe. La conséquence est l’augmentation de la confiance en des contenus générés par des voix. Des infox pourraient être ainsi colportées et propagées par des voix générées. Et on sait tous que la désinformation peut engendrer des problèmes de sécurité publique, de sûreté de l’Etat et bien plus encore.
Le danger de la génération des voix par l’intelligence artificielle est donc de plus en plus présent. Il est donc question de rechercher des moyens pour contourner les effets pervers de l’usage des IA dans la génération de voix.
Des difficiles pour contourner les arnaques à la voix
Pour les experts, il pourrait être plus simple de reconnaître des voix générées que pour des novices. Ce qui paraît évident au visionnage ou à l’écoute, n’est pas forcément évident à déconstruire de façon technique. On parle de nombreux logiciels de vérification des contenus partagés sur le net. Lorsqu’elle est superposée sur une vidéo, découvrir que la vidéo est générée est une technique déductive pour le son également. Par contre, c’est un peu complexe de détecter qu’une voix est générée. On peut l’entendre, mais le processus technique pour le prouver est complexe.
On voit bien que les questions liées à l’intelligence artificielle ne soulèvent pas que des solutions pertinentes et efficaces. Elles nourrissent et développent malheureusement aussi des arnaques. Les arnaques à la voix se multiplient du fait du déploiement des outils d’intelligence artificielle. Les dangers et les risques découlant de ces arnaques sont élevés. Raison pour laquelle il est nécessaire de ne pas négliger la recherche de technique pour détecter les voix artificielles.
