首頁 > 關(guān)于我們 > 安恒動態(tài) > 2023 > 正文

WAIC 2023 ｜安恒信息劉博：安全賦能AI“持續(xù)向善”

閱讀量：次 文章來源：安恒信息

7月6日至8日，以“智聯(lián)世界生成未來”為主題的2023世界人工智能大會在上海舉行。期間，“大模型”相關(guān)話題成為焦點。安恒信息高級副總裁、首席科學(xué)家劉博受邀參加WAIC線上系列直播，就“AI大模型如何助力硬科技”進(jìn)行分享。

大模型成 WAIC 2023 “頂流”

眼下，以ChatGPT為代表的大模型正在引領(lǐng)新一輪全球人工智能技術(shù)發(fā)展浪潮，大模型不斷加速實體經(jīng)濟(jì)智能化升級，深度改變行業(yè)生產(chǎn)力。

在圍繞“AI大模型如何助力硬科技”話題分享中，劉博表示，“隨著AI大模型和通用人工智能的發(fā)展，大模型的機(jī)密性和數(shù)據(jù)隱私保護(hù)將面臨極大挑戰(zhàn)。同時AI大模型也為網(wǎng)安行業(yè)帶來了新變量?！?

?圖：左三為安恒信息高級副總裁、首席科學(xué)家劉博

中國信息通信研究院工業(yè)互聯(lián)網(wǎng)與物聯(lián)網(wǎng)研究所副總工程師劉陽表示，AI大模型已經(jīng)成為AI甚至整個數(shù)字技術(shù)領(lǐng)域最火熱的研究方向，大模型的下半場競爭面向垂直行業(yè)更有價值。印象筆記董事長唐毅表示，中小企業(yè)不是局外人，要把大模型用起來。達(dá)觀數(shù)據(jù)CEO陳運(yùn)文認(rèn)為，AI大模型的出現(xiàn)是人工智能從量變到質(zhì)變的突破。2016年阿爾法狗下圍棋戰(zhàn)勝了李世石是人工智能1.0時代的標(biāo)志，這次AI大模型把傳統(tǒng)人工智能里最難的認(rèn)知智能的堡壘打開了缺口，2023年可以說是人工智能2.0時代的起點。

從AI大模型的工作原理看面臨的安全隱患

AI大模型的本質(zhì)是從文字當(dāng)中提煉出人類知識，再用知識驅(qū)動智能的一種方式。傳統(tǒng)的人工智能對人類知識缺乏學(xué)習(xí)和提煉能力，AI大模型從理論上非常好地解決了從文字資料中提煉人類知識的技術(shù)，通過“看”很多的文字資料，總結(jié)文字資料的規(guī)律，來完成文字資料的挖掘，最終提煉出知識。

目前，AI大模型已經(jīng)成為全球科技競爭的“高地”，整個AI行業(yè)呈現(xiàn)出“百模大戰(zhàn)”的格局。然而，火爆的背后，不容忽視其存在的很多問題和安全隱患。劉博表示，企業(yè)用戶在使用AI大模型過程中，可能會不小心造成數(shù)據(jù)泄露，或是在訓(xùn)練模型過程中，存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識歸屬問題，以及AI大模型可能會受到網(wǎng)絡(luò)攻擊，可能會被別人惡意利用，或是喂投了不好的語料，導(dǎo)致模型出現(xiàn)嚴(yán)重錯誤判斷的問題。

此外，還有一些泛安全的問題，比如歧視、政治、法律道德等等問題。劉博比喻到，“這就像我們教孩子一樣，他不能只是學(xué)知識，我們還要教他怎樣做人怎樣做事，告訴他法律是什么，道德是什么。對于AI大模型來說，這就需要一些額外對模型的訓(xùn)練，才能讓它達(dá)到我們想要的結(jié)果?！?

安全賦能AI“持續(xù)向善”

“人很聰明，那他就有可能說謊，不管是善意的謊言還是惡意的謊言?！眲⒉┙忉尩?，AI大模型就像人一樣，在某些場景下AI大模型可能比較激進(jìn)做了一些錯誤的決策，或者比較保守做的一些錯誤的決策。在這種情況下，AI大模型一定要和安全技術(shù)相結(jié)合，比如Open AI在模型外層構(gòu)建的類似傳統(tǒng)網(wǎng)絡(luò)防火墻一樣的屏障，把一些不合規(guī)的訪問去除掉，不符合倫理的法律法規(guī)規(guī)避掉，這樣就可以引導(dǎo)AI大模型“持續(xù)向善”。

“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行，才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)?！眲⒉┍硎?。

AI+安全：構(gòu)建智能安全體系

安恒信息在人工智能領(lǐng)域擁有多年的積累和豐富的實踐經(jīng)驗，也一直致力于前沿技術(shù)的研發(fā)投入，公司所屬中央研究院下設(shè)10個不同研究領(lǐng)域的實驗室，其中啟鑒實驗室專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究，深度探索“AI+安全”。

在保障人工智能安全的同時，安恒信息也在利用人工智能技術(shù)賦能安全，不斷實現(xiàn)產(chǎn)品智能化、自動化，加強(qiáng)AI智能數(shù)據(jù)分析、AI智能自動響應(yīng)、AI智能安全等前沿技術(shù)的融合。已經(jīng)將類大模型應(yīng)用于智能數(shù)據(jù)分類分級、智能生成檢測規(guī)則、智能告警處置分析、安全專家問答系統(tǒng)、智能釣魚郵件分析、智能加密流量檢測等數(shù)十個場景，推進(jìn)研究并逐步落地到產(chǎn)品中。

人工智能時代已來，網(wǎng)絡(luò)安全在這個時代也將發(fā)生巨變，新的攻擊形式層出不窮，對檢測及防護(hù)能力也必將提出新的要求。安恒信息一直擁抱AI變化，積極布局AI前沿研究。未來，安恒信息還將不斷加強(qiáng)人工智能與安全技術(shù)的融合與創(chuàng)新，為構(gòu)建“安全可信的數(shù)字世界”砥礪前行。