AI運用範圍愈來愈廣泛，在資安領域也引發一場大革命，不僅可以協助企業組織擊敗網路攻擊，還能解決資安人才短缺問題。根據微軟研究報告指出，微軟與OpenAI合作揭露有關國家型攻擊者的手法與路徑，包含俄羅斯、中國、北韓等國家利用大型語言模型進行網路攻擊，並紀錄微軟如何阻止他們活動，保護AI平台和用戶。而生成式AI則可以高速幫助資安防禦者保護其組織，讓AI不僅是工具，也是資安領域典範轉移。
根據微軟發布的第六期《Cyber Signals》研究報告，微軟與OpenAI、MITRE合作，揭示國家型攻擊者如何運用AI提升效率，進行身分詐欺，像是俄羅斯的Forest Blizzard、北韓Emerald Sleet、伊朗Crimson Sandstorm、中國Charcoal Typhoon以及Salmon Typhoon等攻擊者，如何利用用大型語言模型（LLMs）來增強正在進行的網路攻擊行動。並針對這些攻擊者紀錄如何阻止其活動，識別惡意威脅者行動，達到保護AI平台和用戶，同時會通知其他AI服務供應商，提高使用透明度，降低其帶來的風險。
此外，AI引發的詐欺事件頻傳，語音合成技術的濫用便是一個例子，只要3秒的語音樣本就可以訓練模型，使其聽起來像是任何人。因此了解惡意使用者如何利用AI，破壞長期存在的身分驗證系統，便是重要議題。
微軟表示，AI可以有效協助企業阻止詐欺，應對複雜的詐欺案件或其他掩蓋身分的新興威脅。並舉例提到，過去曾停止與巴西一家公司合作，透過AI系統偵測到該公司試圖改變身份重新進入微軟的生態系統，微軟AI偵測便使用了10多個風險訊號標記詐欺公司，並成功阻止其非法嘗試。
同時，微軟建議，企業組織應加強員工網路風險教育，像是條件式存取原則，進行社交工程教育訓練以識別威脅時，能即時做出反應，啟用多重身份驗證，嚴格保護資料的機器與可控性，利用生成式AI資安工具防止網路威脅。另針對網路威脅，企業組織可以採取限制AI存取範圍，持續評估應用的合適度與合規性，防範指令提示造成的風險，實施嚴格的輸入驗證和清理，並要求整合AI供應鏈保持透明度，明確與員工溝通企業AI使用和風險政策。
微軟表示，生成式AI可以高速幫助組織解決資安問題，透過分析大量數據揭露網路攻擊威脅的模式與趨勢，即時偵測異常，快速回應以阻絕風險。並提到AI有助於解決全球400萬名資安專業人才缺口，提高企業防禦速度與效率。
我是廣告 請繼續往下閱讀
此外，AI引發的詐欺事件頻傳，語音合成技術的濫用便是一個例子，只要3秒的語音樣本就可以訓練模型，使其聽起來像是任何人。因此了解惡意使用者如何利用AI，破壞長期存在的身分驗證系統，便是重要議題。
微軟表示，AI可以有效協助企業阻止詐欺，應對複雜的詐欺案件或其他掩蓋身分的新興威脅。並舉例提到，過去曾停止與巴西一家公司合作，透過AI系統偵測到該公司試圖改變身份重新進入微軟的生態系統，微軟AI偵測便使用了10多個風險訊號標記詐欺公司，並成功阻止其非法嘗試。
同時，微軟建議，企業組織應加強員工網路風險教育，像是條件式存取原則，進行社交工程教育訓練以識別威脅時，能即時做出反應，啟用多重身份驗證，嚴格保護資料的機器與可控性，利用生成式AI資安工具防止網路威脅。另針對網路威脅，企業組織可以採取限制AI存取範圍，持續評估應用的合適度與合規性，防範指令提示造成的風險，實施嚴格的輸入驗證和清理，並要求整合AI供應鏈保持透明度，明確與員工溝通企業AI使用和風險政策。
微軟表示，生成式AI可以高速幫助組織解決資安問題，透過分析大量數據揭露網路攻擊威脅的模式與趨勢，即時偵測異常，快速回應以阻絕風險。並提到AI有助於解決全球400萬名資安專業人才缺口，提高企業防禦速度與效率。
