Wir sind uns bewusst, dass das Erzeugen von Reden, die den Stimmen der Menschen ähneln, ernsthafte Risiken birgt, die im Wahljahr besonders im Vordergrund stehen. Wir arbeiten mit US-amerikanischen und internationalen Partnern aus den Bereichen Regierung, Medien, Unterhaltung, Bildung, Zivilgesellschaft und darüber hinaus zusammen, um sicherzustellen, dass wir deren Feedback in unsere Entwicklung einbeziehen. 

Die Partner, die Voice Engine heute testen, haben unserem zugestimmt Nutzungsrichtlinien, die die Nachahmung einer anderen Person oder Organisation ohne Zustimmung oder gesetzliches Recht verbieten. Darüber hinaus erfordern unsere Bedingungen mit diesen Partnern die ausdrückliche und informierte Zustimmung des ursprünglichen Sprechers und wir gestatten Entwicklern nicht, Möglichkeiten für einzelne Benutzer zu entwickeln, ihre eigenen Stimmen zu erstellen. Partner müssen ihrem Publikum außerdem deutlich machen, dass die Stimmen, die sie hören, KI-generiert sind. Schließlich haben wir eine Reihe von Sicherheitsmaßnahmen implementiert, darunter Wasserzeichen, um die Herkunft aller von Voice Engine generierten Audiodaten nachzuverfolgen, sowie eine proaktive Überwachung der Art und Weise, wie sie verwendet werden. 

Wir glauben, dass jeder umfassende Einsatz der Technologie für synthetische Stimmen mit Sprachauthentifizierungserfahrungen einhergehen sollte, die überprüfen, ob der ursprüngliche Sprecher seine Stimme wissentlich zum Dienst hinzufügt, sowie mit einer No-Go-Stimmenliste, die zu ähnliche Stimmen erkennt und deren Erstellung verhindert an prominente Persönlichkeiten.