OpenAI a révélé un nouveau modèle d’IA nommé « Voice Engine » qui peut imiter la voix d’une personne à partir d’un court échantillon audio de 15 secondes, selon un communiqué de l’entreprise basée à San Francisco. Cette technologie soulève des inquiétudes quant à son utilisation potentielle lors des élections et au-delà.
En prévision de risques d’abus, OpenAI a pris des mesures prudentes pour limiter la diffusion de cet outil, conscient des dangers associés à la création de voix synthétiques. Cette prudence fait suite à des incidents passés, notamment l’utilisation d’une voix simulant celle du président américain Joe Biden pour des appels incitant à l’abstention lors des primaires du New Hampshire.
Vigilance et Transparence
OpenAI a souligné l’importance d’obtenir un consentement clair et informé des personnes dont la voix est reproduite, ainsi que de garantir la transparence envers les auditeurs quant à l’origine artificielle des voix générées. Cette initiative vise à lutter contre les fraudes politiques et commerciales qui pourraient découler de l’utilisation abusive de ces technologies avancées.