قبعة سوداء الولايات المتحدة الأمريكية - لاس فيغاس - الجمعة 11 أغسطس - الذكاء الاصطناعي (AI) ليس وافدًا جديدًا إلى عالم التكنولوجيا ، ولكن نظرًا لأن ChatGPT والعروض المماثلة تدفعه إلى ما هو أبعد من بيئات المختبر وحالات الاستخدام مثل Siri ، قالت Maria "Azeria" Markstedter ، المؤسس والرئيس التنفيذي لشركة Aazon Labs ، إن ممارسي الأمن بحاجة إلى كن في حالة تأهب لمعرفة كيف سيؤثر تطورها على حقائقهم اليومية.
مازحًا زعمت أن الذكاء الاصطناعي "أصبح الآن في أيد أمينة لشركات التكنولوجيا الكبرى التي تتسابق مع الزمن للتنافس لتكون في مأمن من الإقصاء" ، في أعقاب أطلقت شركة OpenAI نموذج ChatGPT الخاص بها بينما تراجعت الشركات الأخرى. "مع صعود ChatGPT، لقد انتهى نهج وقت السلام الذي تتبعه Google وانطلق الجميع "، قالت ، متحدثة من المرحلة الرئيسية في Black Hat USA هذا الأسبوع.
رؤية أين يذهب المال
تستثمر الشركات ملايين الدولارات من التمويل في الذكاء الاصطناعي ، ولكن عندما يتحول العالم نحو نوع جديد من التكنولوجيا ، "لا تكون سباقات التسلح للشركات مدفوعة بالاهتمام بالسلامة أو الأمن ، لأن الأمن يبطئ التقدم".
قالت حالات الاستخدام ل دمج الذكاء الاصطناعي تتطور ، وبدأت في جني الكثير من المال ، خاصة أولئك الذين يهيمنون على السوق. ومع ذلك ، هناك حاجة إلى "المبدعين لكسرها، وإصلاحه ، وفي النهاية منع التكنولوجيا في حالات الاستخدام القادمة من الانفجار في وجوهنا ".
وأضافت أن الشركات قد تكون تعاني قليلاً من الوفرة غير العقلانية. قالت: "تريد كل شركة أن تصبح آلة نموذج أعمال للذكاء الاصطناعي في الوقت الحالي ، والطريقة التي ستستفيد بها أعمالنا من هذه الأدوات لدمج الذكاء الاصطناعي سيكون لها تأثير كبير على نموذج التهديد الخاص بنا". ومع ذلك ، فإن الاعتماد السريع للذكاء الاصطناعي يعني أن تأثيره على نموذج التهديد السيبراني بأكمله لا يزال مجهولاً.
صعود تهديدات ChatGPT
الاعتراف بذلك شات جي بي تي قال ماركستيدتر: "كان من الصعب جدًا الهروب خلال الأشهر التسعة الماضية" ، إن الزيادة الهائلة في عدد المستخدمين أدت إلى قيام بعض الشركات بتقييد الوصول إليها. قالت إن الشركات كانت متشككة ، لأن OpenAI هو صندوق أسود ، وأي شيء تقدمه إلى ChatGPT سيكون جزءًا من مجموعة بيانات OpenAI.
قالت: "لا تريد الشركات تسريب بياناتها الحساسة إلى مزود خارجي ، لذلك بدأوا حظر الموظفين من استخدام ChatGPT للعمل ، لكن كل شركة لا تزال ترغب في زيادة منتجاتها وخدماتها من القوى العاملة باستخدام الذكاء الاصطناعي ، بل وتتعرض لضغوط من أجل ذلك ؛ إنهم لا يثقون في البيانات الحساسة لـ ... مقدمي الخدمات الخارجيين الذين يمكنهم أن يشكلوا جزءًا من مجموعة البيانات ".
ومع ذلك ، فإن التركيز المكثف والوتيرة السريعة لتطوير وتكامل OpenAI سيجبر ممارسي الأمن على التطور بسرعة.
"لذا ، فإن الطريقة التي ستستخدم بها مؤسساتنا هذه الأشياء تتغير بسرعة كبيرة: من شيء تتحقق منه للمتصفح ، إلى شيء تتكامل فيه الشركات مع بنيتها التحتية الخاصة ، إلى شيء سيكون قريبًا من نظام التشغيل وجهازنا المحمول قالت.
فرصة الصناعة
قال ماركستيدتر إن أكبر مشكلة تواجه الذكاء الاصطناعي والأمن السيبراني هي أنه ليس لدينا عدد كافٍ من الأشخاص المهارات والمعرفة لتقييم هذه الأنظمة وإنشاء حواجز الحماية التي نحتاجها. وقالت: "لذلك هناك بالفعل نكهات وظيفية جديدة تنبثق من هذه التحديات الصغيرة".
في الختام ، سلط ماركستيدتر الضوء على أربع نقاط رئيسية: أولاً ، أن أنظمة الذكاء الاصطناعي وحالات استخدامها وقدراتها تتطور ؛ ثانيًا ، أننا بحاجة إلى أن نتعامل بجدية مع إمكانية تحول وكلاء الذكاء الاصطناعي المستقلين إلى حقيقة واقعة داخل مؤسستنا ؛ ثالثًا ، نحتاج إلى إعادة التفكير في مفاهيمنا حول الهوية والتطبيقات ؛ ورابعًا ، نحتاج إلى إعادة التفكير في مفاهيمنا حول أمن البيانات.
وقالت: "لذلك نحن بحاجة إلى التعرف على التكنولوجيا ذاتها التي تغير أنظمتنا ونموذج التهديد لدينا من أجل معالجة هذه المشاكل الناشئة ، والتغيرات التكنولوجية ليست جديدة بالنسبة لنا". "ليس لدينا كتيبات إرشادية تخبرنا بكيفية إصلاح مشاكلنا السابقة. لقد تعلمنا جميعًا ذاتيًا بطريقة أو بأخرى ، والآن تجذب صناعتنا العقول المبدعة بعقلية كاملة. لذلك نحن نعرف كيفية دراسة الأنظمة الجديدة وإيجاد طرق مبتكرة لكسرها ".
واختتمت بالقول إن هذه فرصتنا لإعادة اكتشاف أنفسنا ووضعنا الأمني ودفاعاتنا. وقالت: "لمواجهة الخطر التالي المتمثل في التحديات الأمنية ، نحتاج إلى العمل معًا كمجتمع وتعزيز البحث في هذه المجالات".
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- تشارت بريم. ارفع مستوى لعبة التداول الخاصة بك مع ChartPrime. الوصول هنا.
- BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
- المصدر https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril
