5月18日，2024第十二屆西湖論劍·數(shù)字安全大會（以下簡稱“數(shù)字安全大會”）在杭州舉辦。數(shù)字安全大會至今已舉辦12年，也伴隨著杭州城市數(shù)字化發(fā)展和數(shù)字技術變革迭代更新。
杭州把數(shù)字經(jīng)濟作為鮮明標識，也正在實施數(shù)字經(jīng)濟創(chuàng)新提質“一號發(fā)展工程”，爭創(chuàng)國家人工智能創(chuàng)新高地。網(wǎng)絡安全、數(shù)據(jù)安全是城市發(fā)展不可或缺的重要保障，如何在創(chuàng)新與安全之間尋求平衡？
在今年的數(shù)字安全大會上，21世紀經(jīng)濟報道記者觀察到，人工智能成為重要的討論話題及背景，數(shù)據(jù)安全、數(shù)據(jù)要素發(fā)展的技術、社會實踐也引發(fā)新思考。
在當下的數(shù)字化時代，人工智能的迅猛發(fā)展不僅為各行各業(yè)帶來了巨大的創(chuàng)新與便利，也引發(fā)了一系列前所未有的安全挑戰(zhàn)。隨著AI技術的廣泛應用，數(shù)據(jù)泄露、深度偽造等新型安全風險日益凸顯。
中國工程院院士鄔江興在接受21世紀經(jīng)濟報道記者采訪時表示，目前學界對人工智能的數(shù)學、物理性質仍然不能作出解釋，這是它基本原理上的缺陷，因此人工智能一定會存在風險，最好的方式是用多個系統(tǒng)進行交叉驗證，“例如國內(nèi)現(xiàn)在‘百模大戰(zhàn)’，使用者可以用多個大模型進行交叉檢驗。”
在鄔江興的演講中，他也提出傳統(tǒng)網(wǎng)絡安全治理的局限性日益凸顯，急需數(shù)字生態(tài)系統(tǒng)底層驅動范式轉型，以內(nèi)生安全賦能的網(wǎng)絡彈性設計，能從根本上跳出經(jīng)典網(wǎng)絡安全理論與方法無法應對的不確定安全問題威脅。
應對數(shù)據(jù)安全不確定性
數(shù)據(jù)安全與網(wǎng)絡安全密不可分。隨著人工智能技術的快速發(fā)展，尤其是大模型和生成式AI的興起，數(shù)據(jù)安全問題日益凸顯。同時，人工智能的廣泛應用也帶來了新的安全挑戰(zhàn)，如思維漏洞的利用和惡意攻擊等。
當下的網(wǎng)絡安全威脅正在從信息擴大到數(shù)據(jù)加物理域、認知域。在數(shù)字經(jīng)濟時代，社會的數(shù)字化轉型也面臨著極大的系統(tǒng)性風險。
鄔江興認為當下網(wǎng)絡安全問題是多重的，“我將它稱之為廣義的功能安全問題，特點是物理失效的隨機性、軟件失效的不確定性、網(wǎng)絡攻擊的人為性以及受制于執(zhí)行環(huán)境的缺位，包括AI的內(nèi)生安全個性問題，出現(xiàn)了交織問題。”
中國工程院院士吳世忠在演講中也表示，在人工智能時代，安全問題呈現(xiàn)出了前所未有的復雜性。它不僅涵蓋了傳統(tǒng)的Security安全，即信息安全，還包含了Safety安全，即系統(tǒng)運行的穩(wěn)定性和可靠性以及倫理安全，即技術應用必須符合道德倫理標準，這三者交織融合，形成了全新的安全圖景。
2022年以來，歐美國家較早地出臺多項戰(zhàn)略、法案和法規(guī)，推動網(wǎng)絡安全、數(shù)據(jù)安全責任“左移”，也就是將網(wǎng)絡安全問題前置處理，認為數(shù)字產(chǎn)品的制造者、數(shù)字應用的開發(fā)者應當承擔更大的安全責任。
例如，2023年12月，歐盟就《網(wǎng)絡彈性法案》在技術和政治層面達成一致，該法案一旦生效，屆時進入歐盟市場的數(shù)字產(chǎn)品須確認滿足歐盟網(wǎng)絡安全標準。
隨著中國企業(yè)的全球化發(fā)展，跨境數(shù)據(jù)流動以及數(shù)字產(chǎn)品的網(wǎng)絡安全標準問題成為必答題。
鄔江興認為，人類社會正在進入以數(shù)據(jù)為關鍵要素的數(shù)字經(jīng)濟時代，需要建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng)，使其更容易形成內(nèi)在防御能力，能讓攻擊方付出比防御方更高的代價，實現(xiàn)防御優(yōu)勢的轉變，從而能始終挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅，筑牢網(wǎng)絡與數(shù)據(jù)空間安全屏障。
具體來說，需將數(shù)字產(chǎn)品安全置于產(chǎn)品全生命周期，從一開始就考慮產(chǎn)品的安全，要安全地設計，“從附加安全到設計安全，將網(wǎng)絡安全融入到數(shù)字產(chǎn)品的設計與制造中。”鄔江興說。
吳世忠也表示，構建一個安全、堅韌、可信的人工智能發(fā)展生態(tài)至關重要，“這要求我們必須在推動技術發(fā)展的同時，充分考慮到安全保障，實現(xiàn)發(fā)展與安全的統(tǒng)籌兼顧。”
教育部新工科聯(lián)盟網(wǎng)絡空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長 、俄羅斯國家工程院外籍院士胡瑞敏在接受記者采訪時表示，在平衡人工智能與安全方面，數(shù)字經(jīng)濟發(fā)展離不開數(shù)據(jù)要素的安全流通，“現(xiàn)在新的隱私保護技術發(fā)展得非?？?，如何在新的技術支持下在數(shù)據(jù)要素流通中構建一套安全運行的機制，這個非常重要。”
浙江大學計算機科學與技術學院副教授金小剛在接受記者提問時表示，人工智能最大的特點是交互能力的提升，把原來積累的一些數(shù)據(jù)和能力通過交互釋放出來，但技術在使用之前并不能預知哪些壞的因素會被釋放出來，“首先技術的設計者要有良知，其次技術運用過程中要時刻警惕，政府、社會要有一些良好的機制來保證糾偏。”
底線之上強化創(chuàng)新思維
不少與會專家在接受21世紀經(jīng)濟報道記者采訪時都提出，創(chuàng)新和監(jiān)管要齊頭并進，數(shù)字經(jīng)濟發(fā)展在安全基礎上一定要創(chuàng)新，尤其要抓住人工智能發(fā)展機遇。
吳世忠認為，從數(shù)據(jù)孕育新動能的意義來講，由算力、模型、數(shù)據(jù)、應用共同成就的人工智能是真正的新質生產(chǎn)力。
國家行政學院電子政務專家委員會原副主任、全國數(shù)字經(jīng)濟聯(lián)盟學術委員汪玉凱在主題演講中也提出，數(shù)字經(jīng)濟在新質生產(chǎn)力發(fā)展的結構中起全局性、戰(zhàn)略性的意義。數(shù)字經(jīng)濟有可能成為新質生產(chǎn)力中最關鍵的一個領域。
汪玉凱認為，新質生產(chǎn)力發(fā)展的重要目標就是要擺脫傳統(tǒng)的經(jīng)濟增長方式，不是淘汰傳統(tǒng)的生產(chǎn)方式，而是要使它高端化、智能化、綠色化，“全球的數(shù)智化浪潮、新質生產(chǎn)力的發(fā)展目標以及高質量發(fā)展的戰(zhàn)略定位，這三大因素將是中國數(shù)字經(jīng)濟實現(xiàn)新發(fā)展的黃金期。”
針對網(wǎng)絡安全和數(shù)據(jù)安全問題，汪玉凱提出一些解決思路，一是完善數(shù)據(jù)安全的相關法律，把數(shù)據(jù)安全全部納入法制框架下，二是提升核心數(shù)字技術能力和網(wǎng)絡安全監(jiān)管能力，為數(shù)字經(jīng)濟保駕護航，三是特別要關注跨境數(shù)據(jù)流通交易中的數(shù)據(jù)安全，包括個人數(shù)據(jù)大量被泄露。
“尤其還應特別關注數(shù)據(jù)和信息保護，才能讓數(shù)字經(jīng)濟真正騰飛成為推動社會進步的新質生產(chǎn)力。”汪玉凱說。
此外，不少參會嘉賓還提及數(shù)字經(jīng)濟發(fā)展中市場的作用。數(shù)字經(jīng)濟發(fā)展最主要的主體是企業(yè)，而民營企業(yè)在數(shù)字經(jīng)濟發(fā)展中又扮演關鍵角色。
“我認為未來在數(shù)字經(jīng)濟發(fā)展中仍然要打好民營經(jīng)濟這張牌，國有、民營企業(yè)一起上，要給民營企業(yè)創(chuàng)造更多的空間，提供更多助力政策。”汪玉凱說。
安恒信息董事長范淵在演講中明確表示，當供得出、流得動、用得好的數(shù)據(jù)，遇上人工智能大模型與智能體，傳統(tǒng)安全天花板已經(jīng)消失，安全底座和工作協(xié)同關系也在被重塑。
“我們也在思考人工智能安全大模型究竟給這個行業(yè)帶來什么？整個跨代的理解能力、邏輯推演能力、泛化能力正在對這個行業(yè)帶來巨變。”范淵表示。
去年8月，財政部對外發(fā)布《企業(yè)數(shù)據(jù)資源相關會計處理暫行規(guī)定》，明確數(shù)據(jù)資源的確認范圍和會計處理適用準則等，將于2024年1月1日起施行。
在數(shù)字安全大會上，《企業(yè)數(shù)據(jù)資源入表實踐白皮書》正式發(fā)布，該白皮書由杭州安恒信息技術股份有限公司、杭州數(shù)據(jù)交易所有限公司、中國軟件評測中心(工業(yè)和信息化部軟件與集成電路促進中心)等單位參與編制而成。
安恒信息CTO劉博在接受記者采訪時表示，數(shù)據(jù)資產(chǎn)入表是一個開始，未來將為數(shù)據(jù)要素流通服務，也將進一步開展數(shù)據(jù)交易，用數(shù)據(jù)賦能醫(yī)療、教育、商業(yè)等各行各業(yè)，也就是新質生產(chǎn)力。
在劉博看來，當前數(shù)據(jù)資源盤點階段倒逼企業(yè)梳理自身數(shù)據(jù)管理的盲區(qū)，把數(shù)據(jù)安全問題做好，在數(shù)據(jù)要素流動方面企業(yè)也需要把安全作為一個前提，用好隱私計算、加密技術，“在數(shù)據(jù)資產(chǎn)入表過程中，數(shù)據(jù)安全不再只是保護的角色，而是把價值釋放到最大。”