يُظهر مقطع فيديو نُشر على منصة التواصل الاجتماعي الصينية Weibo الأسبوع الماضي نجمة البوب الأمريكية تايلور سويفت وهي تتحدث لغة الماندرين بطلاقة. فقط لم يكن المغني البالغ من العمر 33 عامًا في المقطع. لقد كان مقطع فيديو مزيفًا عميقًا تم إنشاؤه بواسطة أداة الذكاء الاصطناعي من الشركة الصينية الناشئة HeyGen.
منذ 21 أكتوبر، عندما ظهر التزييف العميق لسويفت لأول مرة شاركت وحصد الفيديو أكثر من ستة ملايين مشاهدة. لكنه أثار أيضًا جدلًا حول المخاطر المحتملة التي تأتي مع تقدم الذكاء الاصطناعي، مما يجعل من الصعب التمييز بين الهويات أو المحتوى الحقيقي والمزيف.
يمكن نشر الصور أو مقاطع الفيديو المزيفة - وهي صور أو مقاطع فيديو واقعية ولكن مزيفة لانتحال شخصية شخص آخر، بما في ذلك صوته - لإنشاء هويات رقمية زائفة، وهو أمر يمكن لمجرمي الإنترنت الاستفادة منه لارتكاب عمليات احتيال. الصور ومقاطع الفيديو تبدو وتتحدث تمامًا مثل الشخص المستهدف.
في مايو، على سبيل المثال، رجل أعمال صيني خسر 4.3 مليون يوان [612,000 دولار] بعد أن استخدم المحتال الذكاء الاصطناعي لتبديل الوجه لانتحال شخصية صديقه. لم تكن هناك خسارة مالية في التزييف العميق لـ Taylor Swift، ولكن إليك ما يجب البحث عنه لتجنب التعرض للاحتيال على وسائل التواصل الاجتماعي.
الذكاء الاصطناعي والهندسة الاجتماعية: التهديد الصامت
اكتشف المخاطر المتزايدة للهندسة الاجتماعية المعتمدة على الذكاء الاصطناعي. تعلم كيف تحمي نفسك.#AI #depfakes # التضليل #uthkithk pic.twitter.com/FQquIWXuJa
— أنت تفكر، أنا أفكر (@uthkithk) 27 أكتوبر 2023
التحقق من موافقات المشاهير لمنظمة العفو الدولية
عادةً ما يستخدم المحتالون تقنية التزييف العميق باستخدام الذكاء الاصطناعي لأفراد موثوق بهم لإغراء ضحاياهم. في الأشهر الأخيرة، ظهر عدد لا يحصى من مشاهير الذكاء الاصطناعي المزيفين لخداع الناس بتأييدات زائفة. يتم استهداف الإصدارات المزيفة من الرموز مثل Elon Musk و Beyonce للترويج للعلامات التجارية المزيفة.
من الواضح أن الكثير من الإعلانات الكاذبة تحتل مرتبة أعلى في نتائج البحث على Google، ويرجع ذلك على الأرجح إلى أن الشركة لا تفعل ما يكفي لتصفية المحتوى الاحتيالي.
ومع ذلك، في عصر المحتوى المزيف الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، من الضروري التعامل مع مقاطع الفيديو الجيدة جدًا بحيث لا يمكن تصديقها بعين ناقدة. تتطلب المطالبات غير العادية أدلة غير عادية. إذا صادفت مقاطع فيديو سريعة الانتشار تبدو مثيرة، فخصص وقتًا للتحقق من صحتها ومصادرها.
يقول كيم كوماندو، خبير تكنولوجيا المستهلك ومضيف الراديو: "إذا كنت تريد نصيحة بشأن منتج أو خدمة ما، فاطلع على المراجعات أو ابحث عن خبير يتمتع بخبرة جيدة ويمكنه إثبات ذلك".
"خطوة ذكية أخرى: ابحث في Google عن المنتج والممثل في الإعلان، بالإضافة إلى كلمة "مراجعة". وأضافت في مقال: "إذا كان شخص ما يتقاضى أموالاً مقابل تأييد منتج ما، فلن يكون هناك إعلان عشوائي واحد فقط ينتشر عبر وسائل التواصل الاجتماعي". نشرت بواسطة نيويورك بوست.
اقرأ أيضا: استهداف تايلور سويفت وإيما واتسون وآخرين مع تصاعد المواد الإباحية باستخدام الذكاء الاصطناعي
إيلاء الاهتمام بالتفاصيل
تعتبر تقنية Deepfake مخيفة بشكل خاص لأنها واقعية للغاية. أدوات الذكاء الاصطناعي مثل انتشار مستقر يمكنه التلاعب بالأصوات وحركات الفم، مما يسهل على الأشخاص الاعتقاد بأن الفيديو أو التسجيل الصوتي أصلي.
تذكر أن الذكاء الاصطناعي الذي أنشأه Ghostwriter اغنية دريك اند ذا ويكند, ما الذي خدع ملايين الأشخاص، بما في ذلك خدمات بث الموسيقى، وجعلهم يعتقدون أنه إصدار جديد؟ لاكتشاف التزييف العميق، يقترح أليكس كيم، المؤسس المشارك والرئيس التنفيذي لشركة رايس لتسريع التجارة الإلكترونية القائمة على الذكاء الاصطناعي، ما يلي:
"انتبه إلى أي تناقضات غير عادية في الفيديو الذي تشاهده. قال كيم لموقع MetaNews: "عادةً ما يحاول منشئو المحتوى الذين يستخدمون التزييف العميق توفير الوقت، لذا فإن ضبط التفاصيل ليس شيئًا سيستثمرون الوقت فيه".
وقال كيم: "هذا يعني أن أي تعبيرات وجه غير متطابقة، أو حركات غير طبيعية، أو مصنوعات غريبة، أو عدم تطابق الصوت، أو مزامنة الشفاه من المحتمل أن تكون موجودة في مقطع فيديو مزيف بعمق"، مضيفًا:
"إيلاء اهتمام خاص للعيون، حيث أن المزيفين العميقين يعانون منها أكثر من غيرهم."
إن حالة رجل الأعمال الصيني هي بمثابة تذكير بأن تقنية التزييف العميق هي أداة قوية يمكن استخدامها للخير أو للشر. بدأ المنظمون في إيلاء المزيد من الاهتمام لمخاطر الذكاء الاصطناعي منذ أن أطلقت شركة OpenAI برنامج الدردشة الفيروسي ChatGPT في نوفمبر، مما أثار سباقًا عالميًا للذكاء الاصطناعي.
كما MetaNews سابقا وذكرتيقترح الخبراء تطوير تقنيات جديدة يمكنها اكتشاف ومنع استخدام الهويات المزيفة. ويمكن أن يشمل ذلك استخدام البيانات البيومترية، مثل التعرف على الوجه أو مسح بصمات الأصابع، للتحقق من هوية المستخدمين عبر الإنترنت.
على استعداد لجعل صورك الشخصية لا يمكن المساس بها؟MITPhotoGuard الخاص بـ PhotoGuard هو حارسك الشخصي الرقمي ضد محتالي الذكاء الاصطناعي.
تعمل التعديلات الصغيرة وغير المرئية على حماية صورك من التزييف العميق والتعديلات السيئة، وهو معيار ذهبي واعد في مجال الأمان عبر الإنترنت.
☞ هل أنت قلق بشأن سلامة صورك؟ pic.twitter.com/blCBYw8REq
— Ｍ (@emilios_eth) 27 أكتوبر 2023
التحقق من الخلفية للحصول على أدلة
بينما تستخدم بعض التطبيقات علامات مائية لتحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، فهو ليس واضحًا مع الآخرين. سيتعين على المستخدمين مسح الخلفية في الصور أو مقاطع الفيديو للعثور على أدلة حول مواد الذكاء الاصطناعي العميق، وفقًا لما ذكره أليكس كيم، مدير المشروع. رايس.فوز الرئيس التنفيذي لشركة.
قال كيم: "إذا كانت الخلفية تتحرك بشكل غير طبيعي أو كانت الإضاءة لا تتطابق مع الظلال الموجودة في المقدمة، فمن المحتمل أن يكون ذلك تزييفًا عميقًا". "التفاصيل مثل نسيج المواد، أو عدم وجودها، هي علامات أخرى."
"ابحث عن البكسل أو التشويش حيث لا ينبغي أن يكون هناك أي شيء، خاصة إذا حدث ذلك على موضوع بشري. من الصعب الحصول على التفاصيل الطبيعية مثل خطوط الشعر أو الأذنين أو الأنف أو ملامح الوجه في التزييف العميق، على الأقل بشكل مقنع.
إن تكنولوجيا الذكاء الاصطناعي، التي تظل في معظمها مجانية ويمكن الوصول إليها بسهولة، يتم استخدامها من قبل جهات فاعلة سيئة بطرق عديدة. تم التلاعب بصور المشاهير الإناث البارزات، بما في ذلك تايلور سويفت وإيما واتسون، باستخدام الذكاء الاصطناعي لإنشاء تزييف عميق. محتوى إباحي.
تعد أداة جديدة للذكاء الاصطناعي من معهد ماساتشوستس للتكنولوجيا (MIT) في الولايات المتحدة بالحد من التزييف العميق. يمكن للناس استخدامها فوتو جارد لإجراء "تعديلات صغيرة وغير مرئية للحفاظ على صورهم آمنة من التزييف العميق والتعديلات السيئة - وهو معيار ذهبي واعد في الأمان عبر الإنترنت".
قال أليكس كيم لموقع MetaNews إن الطريقة الأكثر وضوحًا وشائعة للتعرف على مقاطع الفيديو المزيفة التي تعمل بالذكاء الاصطناعي على وسائل التواصل الاجتماعي هي النظر في القنوات التي يتم استضافتها عليها.
قال كيم: "سترغب في إلقاء نظرة على مقدار ما تنشره القناة مؤخرًا وما إذا كانت هناك أي زيادات كبيرة أو زيادات كبيرة في إنشاء المحتوى". "إذا كان هناك ارتفاع كبير في مقاطع الفيديو المنشورة التي تبدو سيئة أو منخفضة الجودة أو غريبة، فهذه علامة مؤكدة على أن منشئ المحتوى يستخدم التزييف العميق."
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://metanews.com/how-to-spot-ai-deepfakes-on-social-media/
