針對電子郵件的攻擊正在增加並且變得更加複雜。一些攻擊利用二維碼和圖像來增強其有效性。其他人則使用深度偽造來提高電子郵件詐騙的可信度。然而，目前電子郵件攻擊中最受歡迎的技術是人工智慧。
一 研究 顯示，過去一年中，約有 90% 的組織曾遭受人工智慧驅動的電子郵件網路攻擊。人們越來越關注人工智慧在當前威脅情勢中的作用。它應該是一種有用的技術，但它似乎也在幫助網路犯罪分子試圖破壞安全系統。
以下是人工智慧在電子郵件安全方面所扮演的陰陽角色。
啟用攻擊
電郵安全 一直受到各種攻擊的威脅，特別是網路釣魚、商業電子郵件外洩、惡意連結、惡意軟體和帳戶接管。甚至在高階人工智慧出現之前，電子郵件的使用就已經面臨嚴重威脅。現在，隨著下一代人工智慧的出現，這些威脅已顯著惡化。
生成式人工智慧增強了網路釣魚攻擊，它可以產生令人信服的電子郵件文本，模仿真實的通信，近似特定個人的寫作風格和用詞選擇。這導致更多的受害者不知不覺地屈服於攻擊，並且由於現在可以在生成人工智慧的幫助下快速生成個人化文本，因此更難以將這些攻擊與合法訊息區分開來。
人工智慧透過增強的社會工程使商業電子郵件洩露 (BEC) 變得更加複雜，其中分析有關目標組織的各種公開數據，以得出看似真實的高度個性化的欺騙性電子郵件。人工智慧也透過模仿合法的通訊模式和用戶活動來幫助逃避詐欺偵測系統。
透過電子郵件進行的惡意連結和惡意軟體攻擊同樣得到了人工智慧的推動，因為現在可以透過人工智慧快速創建惡意軟體。 ChatGPT 曾被發現能夠創建多型或變異的惡意軟體，這些惡意軟體可以透過電子郵件和其他管道傳播來逃避偵測系統。
此外，人工智慧透過自動測試被盜憑證或透過電子郵件帳戶接管（EATO）機器人來促進帳戶接管。這些機器人在登入嘗試期間模仿人類行為，從而謹慎地運作。它們可以避免檢測和驗證碼障礙，並防止觸發鎖定機制。
加強防禦
相反，人工智慧以多種方式增強電子郵件安全性。它提供了更聰明的方式來過濾電子郵件和偵測異常。它支援用戶行為分析和威脅響應自動化。此外，透過自然語言處理（NLP），可以更徹底地審查電子郵件。
人工智慧可以透過查看一系列因素（不限於威脅身分或威脅情報來源提供的資訊）來分析電子郵件內容是否存在潛在威脅。它進行行為分析以偵測電子郵件寄件者和收件者的可疑行為。此外，它還可以進行即時分析，以解決威脅情報來源中尚未描述的零時差攻擊和漏洞。
人工智慧可以整合到各種電子郵件保護系統中，包括安全電子郵件網關(SEG)、電子郵件資料保護(EDP) 以及Google Workspace 和Microsoft 365 等雲端電子郵件安全解決方案。人工智慧透過新增進階威脅來偵測、行為分析來增強這些安全系統、威脅情報整合、事件回應自動化。
組織似乎非常願意使用人工智慧來確保電子郵件安全。一個 進階威脅預防研究 調查顯示，97% 的組織決定採用人工智慧電子郵件保護解決方案，因為他們的傳統防禦措施不再可靠。據報道，他們的傳統電子郵件保護工具無法偵測和防止威脅。他們相信人工智慧可以增強電子郵件安全性，但他們也明白，僅僅擁有人工智慧安全工具是不夠的。他們知道，他們還必須投資於網路安全培訓，以最大限度地發揮人工智慧安全解決方案的影響。
互相抵消？
人工智慧對電子郵件安全的陰陽效應是否會相互抵消？不幸的是，這種情況並非如此。可以公平地說，威脅行為者在利用人工智慧實現犯罪目的方面具有優勢。畢竟，攻擊比防禦容易，破壞比保存容易。
在威脅偵測方面，威脅行為者並不擔心誤報和漏報。他們只專注於發出盡可能多的攻擊，並加倍努力堅持下去。他們可以針對特定組織，但也可以發動不分皂白的攻擊。相較之下，組織的網路安全部門必須確保他們沒有實施過於激進的電子郵件過濾和其他安全機制，否則他們最終會阻止甚至安全的電子郵件或合法附件。平衡安全控製配置以避免帶來不便或降低效率非常重要。
即使在利用人工智慧的同時，組織也必須在安全方面付出更多努力。他們還必須定期檢查其係統，以確保檢測、預防和緩解功能按預期運作。對於威脅行為者來說，他們可以按照自己的意願進行極其激進的攻擊，並等待他們的任何攻擊成功突破目標的防禦。
眾所周知的雙面刃
人工智慧是一種工具。這既不好也不壞。它服務於用戶的愉悅。為了確保人工智慧成為電子郵件安全或網路安全的優勢，重要的是透過使用整合人工智慧的解決方案來充分利用它。建議習慣使用包含機器學習、自然語言處理、行為分析、情境分析和其他人工智慧技術的工具。
此外，將人工智慧與安全最佳實踐結合至關重要，例如使用強唯一密碼和多因素身份驗證、部署資料遺失防護系統、實施信譽良好的電子郵件過濾系統以及定期或持續的安全監控。也必須為員工提供足夠的網路安全培訓，幫助他們充分利用人工智慧安全解決方案。再說一遍，人工智慧是一種工具，它的好壞取決於使用者如何使用它。
圖片： Unsplash
