AI智能體專區(qū)
立即體驗恒腦安全智能體 
立即解鎖AI安服數(shù)字員工 
行業(yè)解決方案
技術(shù)解決方案
安恒信息：AI安全監(jiān)管勢在必行
安全矛與盾：大模型的兩面性
安恒信息高級副總裁、中央研究院院長王欣指出，在人工智能時代下，大模型技術(shù)存在著“矛”與“盾”的兩面性。?
一方面，AI和大模型技術(shù)如“利刃”打破原有安全壁壘，安全需求與應(yīng)用場景發(fā)生重大變革。
在與生成式人工智能交互的過程中，用戶常常無意識暴露個人信息、商業(yè)機(jī)密等隱私數(shù)據(jù)，得到的卻是暗藏平臺價值判斷的內(nèi)容反饋。個體在認(rèn)知判斷、行為決策以及價值取向等多個方面，很可能會受到單一算法的不良影響。
如果任由生成式人工智能如脫韁野馬一般肆意發(fā)展，虛假信息、偏見歧視乃至意識滲透等問題無法避免，對個人、機(jī)構(gòu)乃至國家安全都存在極大的風(fēng)險。
因此，《辦法》第三條、第四條在鼓勵支持人工智能創(chuàng)新的同時，也強(qiáng)調(diào)了制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引的必要性。通過約束數(shù)據(jù)來源合法性、模型算法公平性、生成內(nèi)容可靠性，引導(dǎo)AI持續(xù)向善。
從世界范圍來看，為打造一個可信的人工智能生態(tài)系統(tǒng)，美國、歐盟同樣在探索人工智能治理之道，并通過《人工智能問責(zé)政策》、《人工智能風(fēng)險管理框架》、《人工智能法案》等法律法規(guī)來約束人工智能發(fā)展，AI監(jiān)管勢在必行。?
另一方面，AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新，有助于網(wǎng)絡(luò)安全防護(hù)“盾”優(yōu)化升級。生成式人工智能能極大提高風(fēng)險識別效率，在一定程度上彌補(bǔ)現(xiàn)有網(wǎng)絡(luò)人才缺口，讓威脅分析更準(zhǔn)確、安全運(yùn)營更高效、安全防護(hù)更智能。
讓AI與安全同行
日前，安恒信息高級副總裁、首席科學(xué)家劉博在參加2023世界人工智能大會時曾表示：“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行，才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)”。
為促進(jìn)生成式人工智能健康發(fā)展，規(guī)范數(shù)據(jù)處理是根本。一個穩(wěn)健的大模型離不開數(shù)據(jù)、算力和算法，而在本次《辦法》中，數(shù)據(jù)是第一高頻詞，出現(xiàn)次數(shù)高達(dá)18次，數(shù)據(jù)安全重要性可見一斑。?
企業(yè)用戶在使用AI大模型過程中，可能會不小心造成數(shù)據(jù)泄露，或是在訓(xùn)練模型過程中，存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識歸屬問題。
針對此類數(shù)據(jù)合規(guī)風(fēng)險，安恒信息已將已將類大模型應(yīng)用與智能數(shù)據(jù)分類分級結(jié)合，并對算法模型內(nèi)生的可靠性與穩(wěn)健性、透明性與可解釋性、準(zhǔn)確性與公平性等風(fēng)險進(jìn)行持續(xù)性研究。?
結(jié)語
人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，從大數(shù)據(jù)到大模型再到大生態(tài)，隨著應(yīng)用場景資源的持續(xù)開放，未來幾年是人工智能技術(shù)躍遷的重要窗口期。
未來，安恒信息將牢牢把握時代發(fā)展機(jī)遇，專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究，以創(chuàng)新方式擁抱AI變化，積極推動產(chǎn)品AI智能化，推進(jìn)“服務(wù)+AI”、“治理+AI”、“產(chǎn)業(yè)+AI”等應(yīng)用場景安全升級，為數(shù)字經(jīng)濟(jì)發(fā)展注入源源不斷的安全動能。
