人民網(wǎng)天津9月5日電 （記者張桂貴、崔新耀、孫翼飛、李丹）9月5日，第二屆網(wǎng)絡(luò)空間安全（天津）論壇大模型與數(shù)據(jù)安全主題論壇在天津?yàn)I海新區(qū)舉辦。

第二屆網(wǎng)絡(luò)空間安全（天津）論壇之大模型與數(shù)據(jù)安全主題論壇現(xiàn)場(chǎng)。人民網(wǎng)記者 崔新耀攝

論壇聚焦“夯實(shí)數(shù)安底座 釋放數(shù)據(jù)潛能”主題，邀請(qǐng)先進(jìn)計(jì)算與關(guān)鍵軟件（信創(chuàng)）海河實(shí)驗(yàn)室主任龔克、貴州大數(shù)據(jù)安全工程研究中心主任杜躍進(jìn)等知名專家學(xué)者以及國(guó)家部委、科研院所、知名高校、業(yè)內(nèi)前沿企業(yè)代表，圍繞大模型與數(shù)據(jù)安全制度建設(shè)、數(shù)據(jù)安全保護(hù)技術(shù)發(fā)展、網(wǎng)絡(luò)數(shù)據(jù)人工智能安全治理實(shí)踐等熱點(diǎn)話題進(jìn)行深入探討，匯聚產(chǎn)業(yè)成果和先進(jìn)經(jīng)驗(yàn)，進(jìn)一步健全大模型與數(shù)據(jù)安全保障體系，助力國(guó)內(nèi)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。

參加論壇的專家學(xué)者一致認(rèn)為，大模型技術(shù)依托龐大的規(guī)模、海量的數(shù)據(jù)、強(qiáng)大的算力，正逐漸成為推動(dòng)社會(huì)進(jìn)步和產(chǎn)業(yè)升級(jí)的關(guān)鍵核心力量。但隨著大模型技術(shù)的深度應(yīng)用，其安全性、可靠性、可控性正面臨前所未有的挑戰(zhàn)。論壇舉辦期間，出席專家學(xué)者共研大模型與數(shù)據(jù)安全治理的路徑、策略、模式。

“發(fā)展人工智能新質(zhì)生產(chǎn)力是硬道理，不發(fā)展是最大的不安全。占據(jù)技術(shù)高地，才能相對(duì)安全?！饼徔苏J(rèn)為，人工智能的突破在于技術(shù)體系而非單個(gè)要素，不僅是數(shù)據(jù)和算力的支撐、模型規(guī)模的擴(kuò)大，更是“機(jī)器學(xué)習(xí)”的進(jìn)步，學(xué)會(huì)了語(yǔ)義的表達(dá)（詞嵌入）、語(yǔ)義的理解（注意力機(jī)制），從而跨越了模態(tài)，相信人工智能仍將繼續(xù)沿著深度學(xué)習(xí)的路線向前發(fā)展。當(dāng)前，人工智能的所有風(fēng)險(xiǎn)主要來(lái)自兩個(gè)方面，一是技術(shù)問(wèn)題，缺乏堅(jiān)實(shí)理論基礎(chǔ)，存在基于概率的本征性問(wèn)題等。二是應(yīng)用問(wèn)題，主要是誤用、濫用和惡用，和盲目依賴。對(duì)此，人工智能的治理要促進(jìn)創(chuàng)新、確保安全和教育公民駕馭而非依賴人工智能。

杜躍進(jìn)表示，數(shù)字經(jīng)濟(jì)、數(shù)字社會(huì)、數(shù)字政府，均將深度依賴數(shù)據(jù)和數(shù)據(jù)處理技術(shù)（人工智能技術(shù)），數(shù)字安全將影響人們的生產(chǎn)方式、生活方式和社會(huì)治理方式。目前除存在網(wǎng)絡(luò)安全、數(shù)據(jù)安全的風(fēng)險(xiǎn)之外，數(shù)據(jù)污染和投毒、模型和算法安全、不可解釋性及生成式AI的泛化特性用于業(yè)務(wù)決策等也存在著相應(yīng)風(fēng)險(xiǎn)。在快速發(fā)展和變化中，唯有加強(qiáng)研究和實(shí)踐，快速迭代和改進(jìn)，并在充分利用數(shù)字革命帶來(lái)的技術(shù)，發(fā)揮新的工作模式優(yōu)勢(shì)的前提下，才有可能應(yīng)對(duì)大模型安全特有的新問(wèn)題。

深信服公司高級(jí)副總裁胡斌在演講中表示，大模型將給網(wǎng)絡(luò)安全帶來(lái)本質(zhì)變化，在當(dāng)前階段，不建議在每個(gè)安全細(xì)分領(lǐng)域全面開展大模型的應(yīng)用，需要按照?qǐng)鼍昂蛢?yōu)先級(jí)，逐步地探索、實(shí)踐和打磨，應(yīng)與實(shí)際的安全環(huán)境緊密連接和協(xié)同，需要構(gòu)建更完善的安全智能體形態(tài)，智能體層面進(jìn)行共創(chuàng)會(huì)逐漸成為一種趨勢(shì)，伴隨更多的工程實(shí)踐、基礎(chǔ)設(shè)施的發(fā)展，大模型技術(shù)將推動(dòng)網(wǎng)絡(luò)安全進(jìn)入全新篇章。

分享讓更多人看到