OpenAI a récemment développé et testé « Voice Engine », une intelligence artificielle capable de reproduire la voix d’une personne à partir d’un échantillon audio de 15 secondes seulement. Cette technologie innovante suscite cependant des inquiétudes quant à son utilisation abusive, notamment en cette année électorale.
Conscient des risques potentiels, OpenAI collabore avec divers partenaires internationaux et gouvernementaux pour recueillir leurs commentaires et garantir une utilisation éthique de cet outil.
Les craintes de désinformation en période électorale
Des chercheurs en désinformation craignent que des applications d’IA générative, telles que les outils de clonage de voix, ne soient mal utilisées pendant les élections mondiales de cette année. Ces outils sont bon marché, faciles à utiliser et difficiles à retracer, ce qui les rend dangereuses si elles sont utilisées à mauvais escient.
Des mesures de précaution pour limiter les abus
OpenAI a adopté une approche prudente en vue d’une diffusion plus large de « Voice Engine », en mettant en place des mesures de sécurité telles qu’une marque en filigrane pour retracer l’origine des voix générées, et un contrôle proactif de son utilisation. Les partenaires testant cette technologie doivent également obtenir le consentement explicite et informé de toute personne dont la voix est dupliquée et assurer la transparence pour les auditeurs.