De Federal Trade Commission (FTC) belooft een beloning van $25,000 voor de beste oplossing om de groeiende dreiging van AI-stemklonen te bestrijden.

Het aantal onlinediensten dat gebruiksvriendelijke faciliteiten voor het klonen van stemmen aanbiedt, ook wel audio-deepfakes genoemd, is toegenomen sinds generatieve AI mainstream werd, waardoor er bezorgdheid ontstond over het potentieel voor misbruik bij cyberaanvallen.

Een wijdverbreide dreiging zou bijvoorbeeld kunnen bestaan ​​uit het spoofen van de stemmen van CEO’s om hen na te doen en de financiële afdeling de opdracht te geven geld over te maken naar de rekening van een aanvaller. Vrienden en families kunnen ook worden misleid om geld naar dierbaren te sturen uitvoerende artiesten Hun levensonderhoud zou bedreigd kunnen worden als de technologie zich verder zou ontwikkelen.

Geïnteresseerde partijen hebben tot 12 januari de tijd om hun ideeën in te dienen om op AI gebaseerde stemkloneringsfraude aan te pakken, waarbij de nadruk vooral ligt op de preventie, monitoring en evaluatie van de technologie.

“Deze inspanning kan helpen ideeën naar voren te brengen om de risico’s stroomopwaarts te beperken – door consumenten, creatieve professionals en kleine bedrijven te beschermen tegen de schade van stemklonen voordat de schade de consument bereikt”, aldus de FTC. zei. 

“Het kan ook helpen ideeën te ontwikkelen om de risico’s op consumentenniveau te beperken. En als er geen haalbare ideeën naar voren komen, zal dit een kritische en vroege waarschuwing zijn voor beleidsmakers dat zij strengere beperkingen moeten overwegen voor het gebruik van deze technologie, gezien de uitdaging bij het voorkomen van schadelijke ontwikkeling van toepassingen op de markt.”

Inzendingen zullen worden beoordeeld op basis van hoe haalbaar het zou zijn om uit te voeren en te beheren, hoe veerkrachtig het is ten opzichte van technologische veranderingen, en hoe zorgvuldig ze overwegen hoe aansprakelijkheid en verantwoordelijkheid bij bedrijven zou worden gelegd, naast andere maatregelen.

De hoofdprijs die wordt aangeboden bedraagt ​​25,000 dollar, wat niet klinkt als een goudmijn, gezien de potentiële brede toepassingen die een ingenieuze oplossing kan hebben.

Eén nummer twee ontvangt ook $4,000, drie eervolle vermeldingen krijgen elk $2,000 voor hun problemen, en organisaties van 10 of meer mensen zullen een geldloze erkenning ontvangen.

AI-stemmisbruik in actie

De effectiviteit van AI-stemklonen is het afgelopen jaar in herhaalde gevallen bewezen. Experts bij de Slowaakse beveiligingswinkel ESET vertoonde hoe het bovengenoemde voorbeeld van vervalste CEO’s kan worden nagetrokken.

In feite is het al jaren een probleem voordat generatieve AI in handen van de gemiddelde mens kwam. Een Brits energiebedrijf was dat wel $ 243,000,- kwijtgeraakt in 2019 nadat de CEO de opdracht kreeg een groot bedrag naar een Hongaarse leverancier te sturen.

Een New York Times verslag, opnieuw uit de voorgaande twaalf maanden, beschreef een reeks gevallen die zich met succes op de financiële sector richtten en banken ertoe verleidden geld over te maken van wie zij dachten dat het echte klanten waren. El Reg heeft hierover ook bericht aanvallen die plaatsvinden in de VAE zo ver terug als 2021.

Romantische oplichting is ook wijdverbreid, waarbij een Brit valt voor een vervalste Kevin Costner, en criminelen hebben ook laten zien dat ze niet boven executie staan Oplichting met ‘gezinsnoodsituaties’ – degenen die zich richten op ouders met de gekloonde stemmen van hun kinderen die bijvoorbeeld om geld vragen om borgtocht te betalen.

Meer sinistere voorbeelden hebben gezien hoe moeders telefoontjes aannamen van hun dochters die gegijzeld waren door ‘ontvoerders’ die enorme losgelden eisten.

Het klonen van stemmen wordt mogelijk gemaakt door een AI-model voldoende trainingsgegevens te geven om het geluid, de toon, het tempo, de stembuiging en andere nuances van de stem van een individu te begrijpen. Er wordt aangenomen dat beroemdheden en andere publieke figuren een acuut risico lopen op deze aanvallen, gezien het aantal opnames van hun stemmen die online bestaan.

Met de opkomst van de cultuur voor het maken van sociale media en video-inhoud hebben veel niet-beroemdheden en zelfs kinderen ook genoeg materiaal online om een ​​model effectief te trainen.

Kaspersky-onderzoekers onderzochten vorig jaar de opkomst van het klonen van AI-stemmen en ontdekten een grote verscheidenheid aan gratis beschikbare, open source-tools die gekloonde stemmen konden genereren met behulp van AI-technologie. Ze beweerden echter dat om een ​​overtuigende kloon aan de praat te krijgen, er een beetje kennis van Python nodig was en wat sleutelwerk van de kant van de kloonaar.

Het betaalde aanbod is echter vaak veel effectiever. De onderzoekers wezen erop Het VAL-E-model van Microsoft dat zou zogenaamd een fatsoenlijke kloon kunnen genereren met slechts drie seconden stemaudio die als trainingsgegevens wordt gebruikt.

Er zijn ook andere betaalde oplossingen die beter werken dan de gratis oplossingen, maar deze bevinden zich nog maar in de vroege ontwikkelingsfase, dus we kunnen verwachten dat de nauwkeurigheid en effectiviteit van deze modellen in de loop van de tijd zullen verbeteren. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/