Berichten zufolge hat ein Finanzmitarbeiter eines in Hongkong ansässigen multinationalen Unternehmens 200 Millionen HK$ (25.6 Millionen US-Dollar) an Firmengeldern verloren, nachdem Betrüger mithilfe von Deepfake-KI-Technologie in einer Videokonferenz die Identität des Finanzvorstands des Unternehmens ausgegeben hatten.

Die Polizei sagte, der Mitarbeiter habe letzten Monat eine Nachricht von jemandem erhalten, der behauptete, der in London ansässige CFO des Unternehmens zu sein. Die Person, die sich als eine herausstellte BetrügerEr bat den Mitarbeiter, an einem „verschlüsselten“ Videoanruf mit vier bis sechs anderen Mitarbeitern teilzunehmen.

Nach anfänglichem Zögern war der Mitarbeiter nach dem Videoanruf überzeugt, weil die anderen Anwesenden wie Menschen aussahen und klangen, die er von der Arbeit kannte, so der Hong Kong Standard berichtet.

Lies auch: Mann verliert 600,000 US-Dollar an Betrüger, der Face-Swapping-KI nutzt

Betrug an einem Finanzprofi

Der falsche CFO verschwendete keine Zeit. Er appellierte umgehend dringend, die Geldüberweisungen zu erleichtern. Das Opfer glaubte, alle anderen Teilnehmer des Videoanrufs seien echt, befolgte die Anweisungen und tätigte schließlich 15 Überweisungen auf fünf lokale Bankkonten.

Insgesamt erklärte sich der Arbeitnehmer bereit, 200 Millionen HK$ zu überweisen, damals etwa 25.6 Millionen US$. Eine Woche später erfuhr der Mitarbeiter, dass er betrogen worden war, nachdem er sich in der Zentrale des Unternehmens erkundigt hatte. Er meldete den Vorfall der Polizei.

„(In der) Videokonferenz mit mehreren Personen stellte sich heraus, dass jeder, den er sah, eine Fälschung war“, sagte Baron Chan Shun-ching, Oberkommissar der Hongkonger Polizei. Der Polizeibeamte gab weder den Namen noch Einzelheiten des Unternehmens oder des Arbeiters bekannt.

Laut Chan wurden die Videos mithilfe von KI generiert und aus früheren echten Online-Konferenzen erstellt. Um dem Betrug Tiefe und Glaubwürdigkeit zu verleihen, nutzten die Betrüger WhatsApp, E-Mail und Einzel-Videokonferenzen mit Mitarbeitern aus Hongkong.

„Ich glaube, der Betrüger hat im Voraus Videos heruntergeladen und dann mithilfe künstlicher Intelligenz gefälschte Stimmen hinzugefügt, um sie in der Videokonferenz zu verwenden“, sagte Chan und fügte in einem anderen Bericht hinzu:

„Sie verwendeten Deepfake-Technologie, um die Stimme ihrer Zielpersonen nachzuahmen, die aus einem Drehbuch vorlas.“

Nach Angaben der Polizei häufen sich in Hongkong Fälle, in denen KI-Deepfake-Technologie eingesetzt wurde, um Menschen um ihr Geld zu betrügen. Zwischen Juli und September 2023 seien acht gestohlene lokale Ausweise für 90 Kreditanträge und 54 Bankkontoregistrierungen verwendet worden, sagte Chan berichtet von CNN.

Nach Angaben der Hongkonger Polizei hatten Betrüger es ausgenutzt KI-Deepfakes mindestens 20 Mal, um Gesichtserkennungssoftware auszutricksen, „indem es die auf den Personalausweisen abgebildeten Personen nachahmt“. Die Polizei hat im Zusammenhang mit solchen Betrügereien sechs Personen festgenommen.

KI-Deepfakes beunruhigen Weltführer

Experten zufolge wird es mit zunehmender Weiterentwicklung der KI immer schwieriger, zwischen echten und falschen Identitäten zu unterscheiden. Die Technologie kann die Sicherheit und Privatsphäre digitaler Identitäten untergraben.

Beispielsweise können damit Deepfakes erstellt werden, realistische, aber gefälschte Bilder oder Videos, mit denen die Identität einer anderen Person, einschließlich ihrer Stimme, nachgeahmt wird, wie im Fall Hongkong deutlich wurde.

Regulierungsbehörden auf der ganzen Welt haben begonnen, den Gefahren der KI mehr Aufmerksamkeit zu schenken, seit OpenAI seinen viralen Chatbot eingeführt hat ChatGPT im November 2022.

In den USA Senatoren eingeführt Ende letzten Monats wurde ein parteiübergreifender Gesetzentwurf verabschiedet, der es Opfern, die in nicht einvernehmlichen KI-generierten pornografischen Deepfakes dargestellt werden, ermöglichen würde, die Ersteller der Videos zu verklagen.

Die Entscheidung fiel nach sexuell eindeutigen KI-generierten Bildern von Taylor Swift gingen in den sozialen Medien viral, unter anderem auf

In China hat die Cyberspace Administration des Landes im vergangenen Jahr neue Vorschriften erlassen, die die Verwendung von KI-generierten Inhalten zur Verbreitung von „Fake News“ verbieten. Die Vorschriften verlangen außerdem von Anbietern von Deepfake-Technologie, dass sie ihre Produkte eindeutig als synthetisch kennzeichnen.

In Indien hat kürzlich IT-Minister Rajeev Chandrasekhar dies getan gewarnt dass Social-Media-Unternehmen für KI-Deepfakes, die von Menschen auf ihren Plattformen gepostet werden, zur Verantwortung gezogen werden. Dies geschah nach einem halbnackten, von der KI erstellten Video der indischen Schauspielerin Rashmika Mandanna erschienen im November online.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://metanews.com/deepfake-cfo-dupes-employee-25-6m-in-hong-kong-ai-scam/