OpenAI dévoile Voice Engine, un outil de clonage vocal.
OpenAI a dévoilé un nouvel outil appelé Voice Engine, capable de cloner une voix en seulement 15 secondes à partir d'un échantillon audio.
Cet outil est présenté comme un modèle
d'intelligence artificielle (IA) capable de reproduire fidèlement la voix d'une personne.
L'utilisation de Voice Engine sera restreinte en raison
des risques potentiels de fraude et de crimes, tels
que l'usurpation d'identité.
OpenAI a adopté une approche prudente avant de rendre l'outil largement disponible en raison du potentiel d'utilisation abusive des voix synthétiques.
L'entreprise collabore avec divers partenaires gouvernementaux, médiatiques, éducatifs et civils
pour développer et réguler l'outil.
Les chercheurs en désinformation sont préoccupés par l'utilisation abusive des outils d'IA générative, y compris les clonages de voix, notamment en période électorale.
OpenAI a établi des règles strictes pour les partenaires
testant "Voice Engine", exigeant notamment le consentement explicite des personnes dont la voix est clonée et une
transparence pour les auditeurs.
Des mesures de sécurité, comme un filigrane
pour tracer l'origine des sons générés, ont été mises en place par OpenAI.
La présentation de Voice Engine intervient après un incident politique où un programme automatisé avait usurpé l'identité du président américain Joe Biden pour influencer les électeurs.
Suite à cet incident, les États-Unis ont interdit les
appels utilisant des voix clonées générées par IA
pour lutter contre les arnaques politiques
ou commerciales