(資料圖)

 黨的二十屆三中全會通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》指出，“加強(qiáng)網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度”。當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革蓬勃發(fā)展，人工智能、生物技術(shù)、新能源等前沿技術(shù)方興未艾。其中，以DeepSeek、ChatGPT等為代表的生成式人工智能熱潮席卷全球，成為現(xiàn)象級話題。生成式人工智能技術(shù)在重塑全球科技創(chuàng)新與產(chǎn)業(yè)發(fā)展格局的同時，也可能引發(fā)價值導(dǎo)向偏差、AI技術(shù)濫用等復(fù)雜挑戰(zhàn)。面對這場深刻影響國家發(fā)展與未來的技術(shù)革命，著力筑牢生成式人工智能發(fā)展的安全防線，構(gòu)建科學(xué)完備、運(yùn)行高效、多維協(xié)同的風(fēng)險防范體系，不僅關(guān)乎技術(shù)本身的應(yīng)用效能，更直接關(guān)系到國家安全、社會穩(wěn)定、文化繁榮和國際競爭力提升，是擺在我們面前的重大時代課題。

  明確價值導(dǎo)向，牢固樹立科技發(fā)展的正確理念。首先，堅持科技為民、技術(shù)向善。習(xí)近平總書記強(qiáng)調(diào)，“要把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點(diǎn)，把惠民、利民、富民、改善民生作為科技創(chuàng)新的重要方向”。這彰顯了我國科技創(chuàng)新的人民性特征，意味著要使生成式人工智能技術(shù)更好服務(wù)于人民對美好生活的向往，確保技術(shù)成果能夠廣泛惠及全體社會成員，促進(jìn)社會公平正義與和諧穩(wěn)定。政府、企業(yè)、高校、科研機(jī)構(gòu)等各主體都應(yīng)將技術(shù)向善理念融入生成式人工智能技術(shù)發(fā)展過程，實現(xiàn)從研發(fā)到應(yīng)用全生命周期的價值導(dǎo)向把控，確保技術(shù)發(fā)展不偏離為人類謀福祉的初衷，實現(xiàn)社會價值與經(jīng)濟(jì)價值的兼顧。其次，統(tǒng)籌好發(fā)展與安全的關(guān)系。安全是發(fā)展的前提，發(fā)展是安全的保障，發(fā)展生成式人工智能技術(shù)，需深刻把握技術(shù)創(chuàng)新活力釋放與風(fēng)險有效管控的辯證統(tǒng)一。這就要求我們既要克服“談AI色變”的過度擔(dān)憂心理，為技術(shù)探索、產(chǎn)業(yè)孵化、應(yīng)用場景落地等創(chuàng)造包容審慎的發(fā)展空間，激發(fā)其賦能生產(chǎn)力發(fā)展的巨大潛能；也要堅決摒棄“技術(shù)至上”“先發(fā)展后治理”的思維觀念，將安全理念、合規(guī)標(biāo)準(zhǔn)深度內(nèi)嵌于技術(shù)研發(fā)、模型訓(xùn)練、場景應(yīng)用等全鏈條、全流程、全生命周期中，確保生成式人工智能技術(shù)在保持創(chuàng)新活力的同時，始終運(yùn)行在安全可靠的軌道上。

  強(qiáng)化源頭管理，提升數(shù)據(jù)治理能力。數(shù)據(jù)是訓(xùn)練人工智能模型的基礎(chǔ)要素，也是人工智能模型應(yīng)用的核心資源。生成式人工智能發(fā)展依賴海量的訓(xùn)練數(shù)據(jù)，包括個人數(shù)據(jù)、企業(yè)數(shù)據(jù)和政府?dāng)?shù)據(jù)等，一旦這些數(shù)據(jù)失控流動、造成泄漏，將可能導(dǎo)致個人身份盜用、財產(chǎn)損失，甚至對國家安全帶來不利影響。因此，針對重點(diǎn)行業(yè)的重要數(shù)據(jù)、核心數(shù)據(jù)，可參照歐盟《通用數(shù)據(jù)保護(hù)條例》和我國數(shù)據(jù)安全法等的管控要求，按照“境內(nèi)存儲+安全評估”的方式進(jìn)行管理；構(gòu)建跨模態(tài)數(shù)據(jù)安全與隱私保護(hù)體系，依托區(qū)塊鏈技術(shù)實現(xiàn)全鏈路數(shù)據(jù)存證，通過可信執(zhí)行環(huán)境技術(shù)，實現(xiàn)“原始數(shù)據(jù)不出域，數(shù)據(jù)可用不可見”；構(gòu)建風(fēng)險預(yù)警和動態(tài)評估平臺，實時監(jiān)測和分析平臺運(yùn)行狀態(tài)、數(shù)據(jù)流向等信息，加強(qiáng)對違規(guī)內(nèi)容與行為的實時識別與研判。同時，數(shù)據(jù)質(zhì)量直接影響大語言模型的性能與可靠性。要加快建立數(shù)據(jù)使用的標(biāo)準(zhǔn)與規(guī)范，提高數(shù)據(jù)的可解釋性與可用性；加強(qiáng)對數(shù)據(jù)的清洗與篩選等預(yù)處理，提升數(shù)據(jù)質(zhì)量。建立健全大數(shù)據(jù)審計工作機(jī)制，定期對數(shù)據(jù)的收集、存儲、使用和共享情況進(jìn)行審查，及時發(fā)現(xiàn)并糾正數(shù)據(jù)濫用、隱私泄露等問題，確保數(shù)據(jù)使用和技術(shù)發(fā)展始終在可控范圍內(nèi)。數(shù)據(jù)提供者也需遵循合法性與合規(guī)性原則，確保數(shù)據(jù)來源合法、內(nèi)容真實準(zhǔn)確，減少深度偽造技術(shù)帶來的負(fù)面影響。

  健全制度保障，推進(jìn)人工智能監(jiān)管治理體系化。一方面，立法先行，明確基本法律框架和責(zé)任邊界。依托網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法和個人信息保護(hù)法構(gòu)建的法律框架體系，可考慮將目前已有的相關(guān)政策包括《生成式人工智能服務(wù)管理暫行辦法》等逐步上升為具有更高法律效力的文件，加快推動全面系統(tǒng)的人工智能專門性法律制定，明確技術(shù)研發(fā)者、使用者、監(jiān)管者等各主體的權(quán)利、義務(wù)與責(zé)任邊界。要明確規(guī)定相關(guān)企業(yè)在數(shù)據(jù)收集、存儲、使用過程中的安全保障責(zé)任，界定監(jiān)管部門在監(jiān)督檢查、風(fēng)險防范、應(yīng)急處置等方面的職權(quán)范圍和執(zhí)法程序，確保監(jiān)管工作的合法性、規(guī)范性和有效性，使各參與主體能夠在明確的法律框架內(nèi)開展活動，有法可依、有章可循。另一方面，協(xié)同共治，建立健全跨部門監(jiān)管體系。可整合相關(guān)部門的監(jiān)管資源與力量，明確各部門在風(fēng)險防范中的具體職責(zé)和角色，通過信息共享、聯(lián)合執(zhí)法等方式，建立高效的協(xié)同工作機(jī)制，形成監(jiān)管合力，提高監(jiān)管效率和執(zhí)法效果，避免產(chǎn)生職責(zé)不清、推諉等現(xiàn)象。同時，建立跨地區(qū)、跨平臺的協(xié)同監(jiān)管機(jī)制，減少監(jiān)管盲區(qū)，確保生成式人工智能技術(shù)在各個應(yīng)用領(lǐng)域都受到嚴(yán)格有效的監(jiān)管，保障社會公共利益和廣大用戶的合法權(quán)益。

  此外，維護(hù)生成式人工智能安全，構(gòu)建風(fēng)險防范體系，也離不開全社會的共同參與。普及人工智能教育、提升公眾科學(xué)素養(yǎng)是重要一環(huán)。在中小學(xué)的基礎(chǔ)教育階段，可通過科普課程、實踐活動等多種形式，向廣大青少年普及人工智能基本原理、技術(shù)應(yīng)用及其潛在風(fēng)險等知識，培養(yǎng)他們對技術(shù)的理性認(rèn)知和正確的價值判斷能力。在大學(xué)教育和職業(yè)培訓(xùn)中，可開設(shè)專門的人工智能課程和培訓(xùn)模塊，系統(tǒng)講授法律法規(guī)、風(fēng)險案例等內(nèi)容，提高相關(guān)從業(yè)人員在技術(shù)研究、開發(fā)與應(yīng)用中的安全責(zé)任意識。同時，面向社會公眾廣泛開展人工智能素養(yǎng)的宣傳教育活動，借助短視頻平臺、社區(qū)宣傳、線上線下講座等多種渠道，提高全社會對人工智能的關(guān)注度與認(rèn)知水平，增強(qiáng)人們的風(fēng)險防范意識和對技術(shù)發(fā)展的理性態(tài)度，形成全民參與、共同監(jiān)督的良好社會氛圍。鼓勵和支持社會組織、行業(yè)協(xié)會發(fā)揮社會監(jiān)督作用，加強(qiáng)對生成式人工智能技術(shù)應(yīng)用過程中的違法違規(guī)行為和風(fēng)險問題等的揭露，形成全社會共同參與監(jiān)督的強(qiáng)大合力，打造健康有序、可持續(xù)的生成式人工智能發(fā)展環(huán)境。

  生成式人工智能技術(shù)以其強(qiáng)大的顛覆性和創(chuàng)新性，正在逐漸改變我們的世界，在這一過程中，也伴生著未知的系統(tǒng)性風(fēng)險挑戰(zhàn)，構(gòu)建安全可靠的風(fēng)險防范體系是引導(dǎo)其健康有序發(fā)展的重要時代課題。筑牢生成式人工智能安全防線不是束縛技術(shù)發(fā)展，而是為了更好引導(dǎo)技術(shù)創(chuàng)新向服務(wù)人類發(fā)展和文明進(jìn)步的方向前進(jìn)。這就要求既要保持對技術(shù)風(fēng)險的警惕性，也要保持對技術(shù)創(chuàng)新的包容性，盡可能將潛在風(fēng)險轉(zhuǎn)化為發(fā)展契機(jī)，形成推動社會發(fā)展的強(qiáng)大動力，為我們贏得全球科技競爭主動權(quán)、搶占未來發(fā)展制高點(diǎn)提供技術(shù)支撐與保障。

關(guān)鍵詞：