收藏！2024中關(guān)村論壇——數(shù)據(jù)安全治理與發(fā)展論壇精彩觀點(diǎn)

發(fā)布者: 麗江同城網(wǎng) | 發(fā)布時間: 2024-5-14 14:35| 查看數(shù): 12367| 評論數(shù): 0|IP：中國云南麗江

近日，2024中關(guān)村論壇——數(shù)據(jù)安全治理與發(fā)展論壇在中關(guān)村國際創(chuàng)新中心成功舉辦。會上，國內(nèi)外科研院所專家學(xué)者交流前沿理念、分享研究成果。

精彩觀點(diǎn)碰撞

柳俊泓

新加坡資訊通信媒體發(fā)展局局長

數(shù)據(jù)雖然看不見摸不著，但它推動著數(shù)字經(jīng)濟(jì)的發(fā)展。如何在數(shù)據(jù)安全保護(hù)和創(chuàng)新發(fā)展之間取得平衡？大多數(shù)國家和地區(qū)都有著相似的處理方式。首先，獲得用戶授權(quán)同意，是使用個人數(shù)據(jù)非常重要的環(huán)節(jié)；第二，數(shù)據(jù)機(jī)制需要明確數(shù)據(jù)不可用的領(lǐng)域；第三，頂層設(shè)計要審慎，數(shù)據(jù)可用的領(lǐng)域應(yīng)占大多數(shù)；第四，要建立協(xié)調(diào)機(jī)制，通過標(biāo)準(zhǔn)合同條款進(jìn)行協(xié)調(diào)，有助于實現(xiàn)一定程度的全球一致性。

數(shù)據(jù)是人工智能的核心，一些新服務(wù)、新解決方案由傳統(tǒng)人工智能和生成式人工智能創(chuàng)造出來。我們需要對數(shù)據(jù)和人工智能建立信任，要真正聚焦共性的人工智能測試方法，促進(jìn)人與人之間的交流。人工智能發(fā)展凸顯出數(shù)據(jù)的重要性，同時也在創(chuàng)造一個全球性的治理框架，其中建立互信是最重要的因素。

沈昌祥

中國工程院院士

大數(shù)據(jù)具有多源異構(gòu)、非結(jié)構(gòu)化、低價值度、快速處理等特點(diǎn)。隨著信息技術(shù)發(fā)展和海量數(shù)據(jù)爆發(fā)，安全成為支撐大數(shù)據(jù)健康發(fā)展的關(guān)鍵。我們要打造數(shù)據(jù)治理安全可信的新生態(tài)，構(gòu)建數(shù)字經(jīng)濟(jì)主動免疫保障體系，實現(xiàn)“六不”防護(hù)效果，使數(shù)據(jù)安全治理達(dá)到有效的目標(biāo)：一是“進(jìn)不去”，即攻擊者進(jìn)不去；二是“拿不到”，即非授權(quán)者重要信息拿不到；三是“看不懂”，即竊取保密信息看不懂；四是“改不了”，即系統(tǒng)和信息改不了；五是“癱不成”，即系統(tǒng)工作癱不成；六是“賴不掉”，即攻擊行為賴不掉。

郭毅可

香港科技大學(xué)首席副校長

在人工智能和大語言模型為各行業(yè)帶來變革的時代，數(shù)據(jù)安全治理顯得尤為重要。為防止未經(jīng)授權(quán)訪問和數(shù)據(jù)泄露，要采取嚴(yán)格的安全措施，通過數(shù)據(jù)匿名化技術(shù)、用戶同意和隱私設(shè)計原則以及實施數(shù)據(jù)分類、訪問控制和加密方法等，保護(hù)知識產(chǎn)權(quán)和防止未經(jīng)授權(quán)的披露。除了制定明確的政策和框架，以及有效的數(shù)據(jù)分類和歸類以外，訪問控制和權(quán)限管理也是確保數(shù)據(jù)安全的關(guān)鍵因素。

此外，我們需要在保護(hù)數(shù)據(jù)隱私和敏感信息的同時，建立國際機(jī)構(gòu)框架和制定法規(guī)來確保數(shù)據(jù)安全。通過建立健全法規(guī)，應(yīng)用先進(jìn)技術(shù)，加強(qiáng)國際合作，推動人工智能規(guī)范發(fā)展，確保數(shù)據(jù)安全治理有效實施。

孫茂松

清華大學(xué)人工智能研究院常務(wù)副院長

生成式人工智能帶來很多挑戰(zhàn)。我們發(fā)現(xiàn)，機(jī)器翻譯產(chǎn)生的雙語質(zhì)量并不高，用這些數(shù)據(jù)訓(xùn)練機(jī)器翻譯系統(tǒng)，反而會造成損害。隨著其生成能力的增強(qiáng)，如果放任不管，機(jī)器生成的內(nèi)容很快就會超過人類創(chuàng)作的內(nèi)容，而且其中很多內(nèi)容可能與事實不符，用這些內(nèi)容來訓(xùn)練大模型，可能會帶來隱患。因此，這一領(lǐng)域確實面臨著許多挑戰(zhàn)，需要全球各國政府和學(xué)者共同努力，從技術(shù)上解決這些問題。同時，生成式人工智能也為數(shù)據(jù)治理提供了非常重要的正面推動作用。我們可以通過為大模型增加某些條件，如特定提示詞（Prompt）或標(biāo)簽（Tag），讓它生成尚未遇到過的情景數(shù)據(jù)，從而幫助我們進(jìn)行預(yù)判。

七大成果發(fā)布

北京市數(shù)據(jù)跨境便利化實踐

繼全國首個數(shù)據(jù)出境安全評估項目、首個通過訂立標(biāo)準(zhǔn)合同實現(xiàn)個人信息合規(guī)出境案例“兩個全國第一”在北京落地后，北京市政產(chǎn)學(xué)研聯(lián)合打造數(shù)據(jù)出境“綠色通道”機(jī)制，覆蓋汽車、醫(yī)藥、民航、零售、人工智能五大行業(yè)百余家企業(yè)，通過政策咨詢、宣講解讀、靠前指導(dǎo)、材料預(yù)審等一系列便利化舉措服務(wù)企業(yè)主體超4000家；設(shè)立數(shù)據(jù)跨境服務(wù)中心，搭建全國首個數(shù)據(jù)托管服務(wù)平臺、數(shù)據(jù)安全與治理公共服務(wù)平臺，數(shù)據(jù)跨境高質(zhì)量社會化服務(wù)能力大幅提升。近一年，北京市數(shù)據(jù)出境安全評估通過企業(yè)增長650%，個人信息出境標(biāo)準(zhǔn)合同備案通過企業(yè)實現(xiàn)破百，出境數(shù)據(jù)多樣性和通過率穩(wěn)居全國前列，為加快發(fā)展新質(zhì)生產(chǎn)力、推動數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展提供有力保障。

中文互聯(lián)網(wǎng)語料庫CCI 2.0

北京智源人工智能研究院發(fā)布中文互聯(lián)網(wǎng)語料庫CCI 2.0，規(guī)模約500G，是經(jīng)過嚴(yán)格清洗過濾的中文數(shù)據(jù)集。CCI 2.0在1.0版本基礎(chǔ)上，進(jìn)一步擴(kuò)充數(shù)據(jù)來源、完善數(shù)據(jù)處理流程、提升數(shù)據(jù)規(guī)模和質(zhì)量，并通過數(shù)據(jù)集“共建-共享”合作運(yùn)營機(jī)制，持續(xù)推動迭代更新，為大模型技術(shù)發(fā)展提供高質(zhì)量、高可信的數(shù)據(jù)資源支撐。

北京人工智能數(shù)據(jù)訓(xùn)練基地監(jiān)管沙盒

北京市經(jīng)信局、北京市網(wǎng)信辦組織相關(guān)單位建立北京人工智能數(shù)據(jù)訓(xùn)練基地監(jiān)管沙盒機(jī)制，依托北京數(shù)據(jù)基礎(chǔ)制度先行區(qū)、北京人工智能數(shù)據(jù)訓(xùn)練基地提供的可信空間和強(qiáng)大智算資源，形成多項人工智能訓(xùn)練數(shù)據(jù)應(yīng)用創(chuàng)新機(jī)制，向大模型企業(yè)模型訓(xùn)練提供“強(qiáng)大算力+海量數(shù)據(jù)+監(jiān)管合規(guī)”的完整訓(xùn)練要素，成為我國首個將監(jiān)管沙盒機(jī)制應(yīng)用于人工智能領(lǐng)域的案例。

北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書

北京市高級別自動駕駛示范區(qū)辦公室發(fā)布《北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書》，基于示范區(qū)海量自動駕駛產(chǎn)業(yè)數(shù)據(jù)，以“保障示范區(qū)數(shù)據(jù)全過程安全合規(guī)，促進(jìn)車路云一體化數(shù)據(jù)價值挖掘”為目標(biāo)，率先開展數(shù)據(jù)分級分類、實時感知安全態(tài)勢、定期進(jìn)行風(fēng)險評估、推動應(yīng)用技術(shù)創(chuàng)新等專項工作，為解決產(chǎn)業(yè)數(shù)據(jù)安全治理共性需求打造標(biāo)桿實踐指南。

生成式人工智能安全風(fēng)險測評平臺及大賽

中科院信息工程研究所創(chuàng)新構(gòu)建大模型安全技術(shù)測評體系，研究開發(fā)生成式人工智能安全風(fēng)險測評平臺，并依托該平臺舉辦首屆生成式人工智能安全大賽，設(shè)置安全攻擊、安全檢測、對齊防護(hù)三大賽道，構(gòu)建“眾研、眾用、眾創(chuàng)”的中文大模型安全評估模式，促進(jìn)人工智能底層技術(shù)和基礎(chǔ)底座的安全可控水平不斷提升。

國家網(wǎng)絡(luò)安全融合發(fā)展試驗區(qū)（北京市海淀區(qū)）網(wǎng)絡(luò)安全公共服務(wù)平臺

北京市海淀區(qū)依托國家網(wǎng)絡(luò)安全教育技術(shù)產(chǎn)業(yè)融合發(fā)展試驗區(qū)建設(shè)，創(chuàng)新打造網(wǎng)絡(luò)安全公共服務(wù)平臺，立足“政府主導(dǎo)、企業(yè)經(jīng)營、市場運(yùn)作、社會參與”的工作思路，開通“網(wǎng)安120”24小時公共服務(wù)熱線，匯集頭部網(wǎng)絡(luò)安全資源，面向社會公眾、企業(yè)提供網(wǎng)絡(luò)安全應(yīng)急處置、溯源分析、整改加固等全棧服務(wù)。

此外，在圓桌論壇環(huán)節(jié)，來自清華大學(xué)、劍橋大學(xué)、香港科技大學(xué)、IBM、華為、奇安信的數(shù)據(jù)安全專家，聚焦生成式人工智能數(shù)據(jù)安全治理熱點(diǎn)問題，從理論研究、技術(shù)應(yīng)用、產(chǎn)業(yè)實踐、國際合作等方面分享實踐經(jīng)驗、研討發(fā)展路徑，推動人工智能技術(shù)賦能產(chǎn)業(yè)健康發(fā)展。

本次論壇由國家互聯(lián)網(wǎng)信息辦公室、北京市人民政府主辦，國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)管理局、北京市互聯(lián)網(wǎng)信息辦公室、北京市經(jīng)濟(jì)和信息化局、北京市政務(wù)服務(wù)和數(shù)據(jù)管理局、北京市商務(wù)局、海淀區(qū)人民政府、大興國際機(jī)場臨空經(jīng)濟(jì)區(qū)（大興）管理委員會承辦，清華大學(xué)人工智能國際治理研究院、國家互聯(lián)網(wǎng)應(yīng)急中心北京分中心協(xié)辦。