2022年11月30日開放公測(cè)以來(lái)，ChatGPT風(fēng)潮席卷全球。對(duì)于多年來(lái)受各種差強(qiáng)人意的人工智能(AI)和機(jī)器學(xué)習(xí)“創(chuàng)新”所困擾的安全行業(yè)來(lái)說(shuō)，這些反應(yīng)很能說(shuō)明問題。許多人都非常看好ChatGPT的潛力，認(rèn)為AI真正變革信息安全領(lǐng)域的時(shí)刻終于到來(lái)了。
但現(xiàn)實(shí)情況也相當(dāng)令人清醒，因?yàn)橐呀?jīng)有無(wú)數(shù)案例表明各種類型的黑帽子黑客也能靠ChatGPT“大展神威”。最初的概念驗(yàn)證實(shí)驗(yàn)中，紐約大學(xué)教授Brendan Dolan-Gavitt用ChatGPT利用了一個(gè)緩沖區(qū)溢出漏洞。其他例子還包括極速編寫惡意軟件，以及撰寫語(yǔ)法正確、以假亂真的網(wǎng)絡(luò)釣魚電子郵件。
網(wǎng)絡(luò)安全領(lǐng)域的AI武器化不是什么新鮮事，但ChatGPT最令人興奮的是它有可能補(bǔ)上信息安全最大的短板——人才短缺，無(wú)論在信息安全技術(shù)的廣度還是深度(即專業(yè)化)上。具體講，2023年，ChatGPT會(huì)在三個(gè)方面改變信息安全領(lǐng)域。
促進(jìn)眾包威脅情報(bào)
很長(zhǎng)一段時(shí)間以來(lái)，信息安全行業(yè)想要努力實(shí)現(xiàn)的愿景之一就是成功眾包威脅情報(bào)，能夠看清垂直行業(yè)里眾多公司的當(dāng)前狀況。但很遺憾，實(shí)現(xiàn)這一愿景的最大障礙就是各公司間缺乏共享情報(bào)所需的信任。
這是各個(gè)行業(yè)的信息共享與分析中心(ISAC)一直在努力解決的問題，而結(jié)果有好有壞。將來(lái)，ISAC可以采用ChatGPT模型及其自然語(yǔ)言接口，基于組織內(nèi)部的隱式信任向其饋送ISAC成員提交的日志數(shù)據(jù)。然后，ISAC就能用ChatGPT關(guān)聯(lián)網(wǎng)絡(luò)連接、惡意IP地址和域名類別，以及類似的行為。關(guān)聯(lián)結(jié)果可產(chǎn)生一組IDS規(guī)則供ISAC成員實(shí)現(xiàn)，用以保護(hù)自身免遭威脅侵害。ISAC還可藉此洞察整個(gè)行業(yè)的總體風(fēng)險(xiǎn)態(tài)勢(shì)。
利用現(xiàn)有資源做更多事情
當(dāng)前的經(jīng)濟(jì)不確定性迫使安全企業(yè)停止招聘新人入職，努力從現(xiàn)有資源身上榨出更多生產(chǎn)力。作為能力倍增器，ChatGPT在這方面非常有用，能讓一名分析師完成多人才能完成的工作。
通才和入門級(jí)員工可以描述在警報(bào)和檢測(cè)中看到的情況，然后要求ChatGPT破譯這些觀察結(jié)果，啟動(dòng)分類流程。幫助信息安全從業(yè)人員日常去混淆化可疑惡意代碼就是個(gè)很實(shí)際的例子，這個(gè)過程通常需要一個(gè)小時(shí)以上才能完成。而借助ChatGPT，幾秒鐘就完事了。
ChatGPT還具備改變事件響應(yīng)的潛力。安全團(tuán)隊(duì)可以利用現(xiàn)有模型和自然語(yǔ)言處理饋送事件相關(guān)的所有可用數(shù)據(jù)，并描述潛在響應(yīng)的基本原理。然后，ChatGPT可以立即證明或證偽攻擊推測(cè)。當(dāng)下，完全解決一起事件需要事件響應(yīng)主管、工程師和幾名分析師辛勤工作數(shù)天。未來(lái)，這個(gè)過程可能根本就不需要分析師參與了。
推動(dòng)惡意軟件貓鼠游戲達(dá)到新高度
如今，惡意黑客每年新產(chǎn)出上億惡意軟件樣本。因?yàn)槿夹枰謩?dòng)編程，到底還是特征碼檢測(cè)能夠搞定的有限數(shù)量。然而，ChatGPT橫空出世后，黑客就可以對(duì)它說(shuō)：“我想做A事，在B操作系統(tǒng)上干?！盋hatGPT就會(huì)生成數(shù)十萬(wàn)次惡意軟件迭代。
這意味著，檢測(cè)引擎的機(jī)器學(xué)習(xí)模型必須能夠更加快速地重新計(jì)算。這就復(fù)雜得多了，因?yàn)槊鎸?duì)的是龐大得多的數(shù)據(jù)集。值得慶幸的是，ChatGPT會(huì)加強(qiáng)逆向工程過程，給反惡意軟件工作一戰(zhàn)之機(jī)。
舉個(gè)例子，通用文件名是逆向工程面臨的一大挑戰(zhàn)，因?yàn)橥ㄓ梦募荒芴峁┱业狡涑鎏幩璧纳舷挛摹Ｏ胍_定是在什么系統(tǒng)上構(gòu)建的，還需要投入更多的人力。二進(jìn)制匯編代碼的一些細(xì)微變化標(biāo)志著最終結(jié)果的改變——例如，是為32位還是64位架構(gòu)編寫的?系統(tǒng)用的是小端字節(jié)序還是大端字節(jié)序?這些問題的答案決定了你閱讀機(jī)器語(yǔ)言的方向(正向還是反向)。
如果缺乏上下文，以上種種都需要試錯(cuò)。ChatGPT能以閃電般的速度執(zhí)行這些迭代，交給逆向工程師最終的匯編語(yǔ)言，繼續(xù)下一步處理。逆向工程師可以用自然語(yǔ)言跟ChatGPT溝通，讓ChatGPT說(shuō)出它認(rèn)為目標(biāo)應(yīng)用程序想干什么。更重要的是，ChatGPT可以大規(guī)模完成所有這些工作，分析幾十萬(wàn)二進(jìn)制樣本，并向分析師證明所得。
ChatGPT還有助于反擊常見的貓鼠游戲技術(shù)。例如，惡意軟件通常包含嵌套循環(huán)等反逆向工程技術(shù)，讓逆向工程師更難以跟蹤當(dāng)前和最終狀態(tài)。而ChatGPT搞清這個(gè)問題比人工快得多。它還能分析惡意軟件的遺傳密碼，看哪里可能存在代碼復(fù)用，從而更快識(shí)別惡意軟件作者的指紋。
長(zhǎng)期影響
每次AI取得新進(jìn)展，人們總會(huì)擔(dān)憂自己會(huì)不會(huì)被取代。ChatGPT估計(jì)取代不了人類，反而會(huì)讓我們成為更強(qiáng)大的信息消費(fèi)者。力量倍增效應(yīng)會(huì)在各個(gè)層面產(chǎn)生深遠(yuǎn)影響。可以預(yù)見，CISO會(huì)向ChatGPT饋送一系列相關(guān)風(fēng)險(xiǎn)信息，讓ChatGPT給出完全適應(yīng)其環(huán)境的各種策略和規(guī)程、事件響應(yīng)計(jì)劃等。
盡管ChatGPT不過是個(gè)研究預(yù)覽，其變革安全從業(yè)人員工作方式的前景卻令人振奮不已。
來(lái)源：數(shù)世咨詢
