尋擎記丨AI賦能千行百業(yè) 網(wǎng)絡安全建設需與時俱進

　　【編者按】

　　在全國兩會召開之際，本報今起推出“尋擎記”特別策劃，以“新質生產(chǎn)力發(fā)展圖譜”為坐標，觀察科技創(chuàng)新與產(chǎn)業(yè)創(chuàng)新的共振效應。通過具有代表性的企業(yè)樣本，探尋它們在科技創(chuàng)新、模式革新、轉型升級等方面的獨到之處，挖掘企業(yè)如何在新質生產(chǎn)力的賽道上脫穎而出，成為行業(yè)發(fā)展的引擎。

　　近期，AI成為各界關注的焦點。在全國兩會召開之際，接受中國證券報記者采訪的部分代表委員表示，網(wǎng)絡安全建設需要與時俱進，可以通過技術革新，用安全大模型來應對AI存在的潛在安全問題?！鞍踩北仨氁翱煲徊健薄煲徊阶ギa(chǎn)品、抓技術，既要看到技術的長板，也要看到技術的短板。

　　全國政協(xié)委員、360集團創(chuàng)始人周鴻祎：大模型廣泛應用正構建網(wǎng)絡安全新生態(tài)

　　“人工智能（AI）帶來的安全問題，是數(shù)字安全的一部分?！比珖f(xié)委員、360集團創(chuàng)始人周鴻祎近日在接受中國證券報記者采訪時表示，大模型快速迭代與成本降低，使得AI技術快速普及，成為帶動千行百業(yè)生產(chǎn)力提升的新工具，但同時也帶來AI幻覺、數(shù)據(jù)泄露、深度偽造等新出現(xiàn)的大模型應用風險。

　　“大模型的廣泛應用正在構建網(wǎng)絡安全新生態(tài)。”周鴻祎將大模型帶來的安全問題分為基座模型的安全問題、客戶端的安全問題、知識數(shù)據(jù)的安全問題、智能體的安全問題四個層面，給出的解決思路是“以模制?！薄冒踩竽Ｐ蛠響獙θ斯ぶ悄墚a(chǎn)生的安全問題，為數(shù)字世界的新發(fā)展構建一個安全底座。

　　關注大模型幻覺

　　今年以來，大模型領域各家企業(yè)爭相發(fā)布新品，大模型性能不斷提升，同時使用成本大幅降低，“大模型幻覺”也成為公眾關注的熱點。所謂“大模型幻覺”是指大模型有時會編造出看起來合理或可信的信息，令人真假難辨。原因一方面來自大模型的運行原理，它通過海量的數(shù)據(jù)訓練，生成出現(xiàn)概率最大的內(nèi)容，另一方面也來自訓練數(shù)據(jù)的局限性，訓練數(shù)據(jù)本身也可能包含錯誤信息。

　　周鴻祎認為大模型的幻覺問題需要辯證看待?！盎糜X是大模型的固有特點，沒有幻覺的大模型不聰明。”周鴻祎在接受記者采訪時說，大模型的幻覺使其擁有類似人們所擁有的想象力，可以創(chuàng)作劇本、撰寫文章；在有些科學研究領域，大模型的想象力可以發(fā)揮關鍵作用。例如人工智能公司DeepMind開發(fā)的AI模型AlphaFold，能準確預測蛋白質與DNA、RNA等生物分子的相互作用，為藥物研發(fā)和結構生物學帶來革命性的進展。

　　“但同時，大模型幻覺如果出現(xiàn)在醫(yī)療、法律、金融、證券、生產(chǎn)制造等不能出錯的環(huán)節(jié)，就會帶來非常嚴重的影響。”周鴻祎說，隨著大模型的發(fā)展從“不可用”“湊合用”，到“完全可用、能用”，需要采取措施防止大模型幻覺帶來的安全風險。

　　周鴻祎表示，大模型應用軟件可以通過鏈接互聯(lián)網(wǎng)上的知識庫來對信息進行校正，企業(yè)在應用大模型時可以接入企業(yè)專有知識庫對幻覺進行校正?！按竽Ｐ洼敵鼋Y果的差異來自其訓練數(shù)據(jù)，把企業(yè)的重要資料放入知識庫提供給大模型，大模型就可以依據(jù)知識庫，知無不言，言無不盡了。”

　　解決大模型應用安全

　　近期，中國初創(chuàng)企業(yè)DeepSeek發(fā)布開源推理模型DeepSeek-R1，以極低的成本實現(xiàn)高性能表現(xiàn)，攪動了大模型市場格局，同時掀起了大模型領域的開源革命。據(jù)不完全統(tǒng)計，已有數(shù)百家公司接入DeepSeek研發(fā)的大模型，其中包括國內(nèi)三大基礎運營商，國內(nèi)外云服務企業(yè)、金融機構、手機廠商、車企等。大模型的應用已經(jīng)逐漸滲透到內(nèi)容創(chuàng)作、金融、電信、自動駕駛等領域。

　　大模型的快速推廣使得大模型應用的安全問題日益突出。周鴻祎認為，在基座模型層面，要解決大模型產(chǎn)生幻覺的問題，可通過連接知識庫來校正。在客戶端層面，周鴻祎表示：“以后人們許多工作會和公司里的大模型交流互動，因此要防范客戶端產(chǎn)生的安全問題，防止來自客戶端的安全攻擊?！?/p>

　　而當大模型的應用催生出更多智能體（Agent），人們將自己的一部分工作職責移交給智能體，則會帶來新的安全風險?！凹僭O以后我的智能體能操作電腦，比如給財務員工發(fā)送郵件讓對方轉一筆錢，豈不是帶來風險?！敝茗櫟t稱。此外，如果大模型對接的知識庫包含龐雜的知識數(shù)據(jù)，其中涉及個人隱私、商業(yè)機密等內(nèi)容，則存在知識數(shù)據(jù)層面的安全問題，需要防范信息泄露風險。

　　面對大模型應用帶來的基座模型、客戶端、智能體、知識數(shù)據(jù)四個層面的網(wǎng)絡安全新挑戰(zhàn)，傳統(tǒng)網(wǎng)絡安全模式的局限性愈發(fā)明顯。周鴻祎的解決思路是“以模制?！保ㄟ^研發(fā)安全大模型，來管理企業(yè)知識庫的使用、智能體的調(diào)用，并參與管理基座模型產(chǎn)生幻覺的問題等。

　　激發(fā)產(chǎn)業(yè)新活力

　　周鴻祎認為，大模型的開源策略將幫助傳統(tǒng)企業(yè)降本增效，要推動大模型的應用?！癆I要引發(fā)工業(yè)革命，一定要推動AI技術在企業(yè)、政府等各類場景深入地使用，進入千家萬戶，進入千行百業(yè)?！?/p>

　　大模型不僅擁有海量知識，還具備出色的對話和推理能力。以醫(yī)療行業(yè)為例，大模型可以成為個人的醫(yī)學顧問或慢性病專家，為人們提供健康指導。對于傳統(tǒng)醫(yī)院，大模型能加速其數(shù)字化改造，如有醫(yī)院利用AI幫助病人完成自動預約、處理病歷傳真，大幅縮短病人候診時間。對于新興的生物制造產(chǎn)業(yè)，大模型可作為研究工具，助力探索未知領域。

　　從挖掘生產(chǎn)力的角度看，大模型能在企業(yè)的決策、管理、業(yè)務流程等多個環(huán)節(jié)發(fā)揮作用。周鴻祎表示，大模型能為企業(yè)管理者提供決策支持，增強員工工作能力，改善內(nèi)部管理和業(yè)務流程，提升產(chǎn)品與服務的質量，有效解決產(chǎn)業(yè)發(fā)展中的卡點和堵點，實現(xiàn)降本增效。

　　在企業(yè)落地方面，周鴻祎認為企業(yè)應用大模型要找準方向。首先是找場景，大模型適合解決企業(yè)特定專項、專業(yè)場景下的垂直問題，企業(yè)應結合自身業(yè)務，確定大模型的應用場景。其次，要打造專業(yè)知識庫，收集企業(yè)內(nèi)部的各種知識，讓大模型更專業(yè)。最后，要打造智能體，并將其接入企業(yè)的OA辦公流程，形成完整的應用體系。

　　全國政協(xié)委員、奇安信董事長齊向東：人工智能面臨“成長”煩惱 需煉就兩只慧眼

　　春節(jié)以來，國產(chǎn)AI大模型DeepSeek持續(xù)引發(fā)關注，各行各業(yè)展開“DeepSeek+”行動，人工智能應用加速普及。近日，全國政協(xié)委員、奇安信科技集團董事長齊向東在接受中國證券報記者專訪時表示，DeepSeek憑借優(yōu)異的性能、較低的成本、開源開放的生態(tài)，將推動人工智能大模型垂直應用的快速發(fā)展。

　　齊向東同時表示：“人工智能也有‘成長’的煩惱，隨著人工智能技術的深度應用，安全挑戰(zhàn)也日益嚴峻，保障人工智能時代的網(wǎng)絡空間安全是扛在我們肩上的重任，網(wǎng)絡安全公司要兼具兩只慧眼，一只眼睛要看到技術的長板，一只眼睛要看到技術的短板?！?/p>

　　人工智能加速普及應用

　　談及DeepSeek，齊向東說，它將訓練成本和推理成本都大大降低，對使用AI模型的應用開發(fā)者來說，是極大利好。

　　“過去受技術封鎖與商業(yè)壁壘雙重禁錮，人工智能領域難以實現(xiàn)資源的高效共享與全方位協(xié)同發(fā)展。又因為大模型訓練需要大資金、大數(shù)據(jù)、大周期，門檻很高，中小創(chuàng)新公司很難參與其中，甚至有言論說，只有大公司才有資格玩大模型?！饼R向東表示，DeepSeek的開源策略，就像發(fā)令槍，讓人工智能行業(yè)開始擺脫“大公司大模型俱樂部”，中小公司得以與大公司在大模型技術上平等競爭，實現(xiàn)“技術平權”，人工智能應用將邁向資源共享、攜手共進的未來。

　　在討論DeepSeek所帶來影響的同時，很多人也開始思考，如何孵化培育更多的像DeepSeek這樣的創(chuàng)新成果。對此，齊向東認為，要繼續(xù)守護并延續(xù)AI創(chuàng)新的“草根化”趨勢，保持自下而上的創(chuàng)新張力。

　　安全與治理成為必答題

　　DeepSeek推動人工智能技術加速向千行百業(yè)滲透，與此同時，人工智能也有“成長”的煩惱。齊向東表示，隨著人工智能技術的深度應用，大模型所面臨的安全挑戰(zhàn)也日益嚴峻。

　　“我們發(fā)現(xiàn)，現(xiàn)在越來越多的企業(yè)、個人開始將DeepSeek大模型私有化部署，而將近90%的服務器都沒有采取安全措施，服務運行和數(shù)據(jù)安全岌岌可危。未來隨著人工智能大模型的基礎設施地位越來越突出，有針對性的惡意手段和風險場景也將激增，伴生的數(shù)據(jù)隱私、基礎設施等安全風險超乎想象。對于整個人工智能行業(yè)來說，平衡技術創(chuàng)新與安全風險必將成為重要課題?！饼R向東強調(diào)。

　　齊向東認為，要系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。“安全”必須要“快一步”——快一步抓產(chǎn)品、抓技術。所有技術都有短板，網(wǎng)絡攻擊者捕捉的就是技術的短板，而我們使用者看到的都是技術的長板，我們安全公司要兼具兩只慧眼，學會用兩只眼睛瞄兩個方向，一只眼睛要看到技術的長板，一只眼睛要看到技術的短板。我們要練出特殊的功能和本領，為保障人工智能時代的網(wǎng)絡空間安全貢獻力量。

　　推進軟件產(chǎn)業(yè)高質量發(fā)展

　　齊向東表示，包括安全在內(nèi)的軟件產(chǎn)業(yè)，是支撐新技術發(fā)展的關鍵，也是助推數(shù)字經(jīng)濟發(fā)展的重要力量。但目前，我國軟件產(chǎn)業(yè)高質量發(fā)展遇到了不小的挑戰(zhàn)。

　　他坦言，軟件產(chǎn)業(yè)是“內(nèi)卷式”競爭的重災區(qū)，拖慢了軟件產(chǎn)業(yè)的創(chuàng)新步伐。

　　他建議，加快開展集中整治，從國家、行業(yè)、地方政府等層面系統(tǒng)性強化產(chǎn)業(yè)激勵、行業(yè)自律、人才吸引力，全面優(yōu)化營商環(huán)境。比如相關部門出臺適配不同產(chǎn)業(yè)的投標管理辦法和實施細則，促進各個行業(yè)進行全方位自我規(guī)范。

　　全國人大代表，TCL創(chuàng)始人、董事長李東生：AI技術促進科技制造業(yè)發(fā)展

　　全國人大代表，TCL創(chuàng)始人、董事長李東生近日接受記者采訪時介紹，針對大型科技制造業(yè)企業(yè)融資受限、融資規(guī)模與企業(yè)發(fā)展需求不匹配等問題，他提出優(yōu)化科技制造業(yè)融資環(huán)境的建議。對于近期市場關注的AI相關話題，李東生提出加強對AI深度偽造欺詐管理的建議。他表示，以DeepSeek為代表的AI技術的發(fā)展，對科技制造業(yè)的發(fā)展提供了很大幫助，TCL計劃在未來兩三年的時間里，大幅提高自身算力中心能力。

　　建議優(yōu)化科技制造業(yè)融資環(huán)境

　　TCL成立四十多年來，從最初生產(chǎn)磁帶的小作坊工廠，已發(fā)展成為具有全球競爭力的科技產(chǎn)業(yè)集團。TCL科技上市后，公司得以通過資本市場融資，為持續(xù)在高端科技制造領域的研發(fā)投入和產(chǎn)能建設提供資金支持；借助深交所平臺，提升公司在行業(yè)內(nèi)的知名度和影響力，吸引更多科研人才和加強與科研機構的合作，有利于技術攻關和自主創(chuàng)新能力提升；規(guī)范的資本市場監(jiān)管促使公司不斷完善創(chuàng)新管理體系，保障創(chuàng)新活動高效開展，進而推動新質生產(chǎn)力發(fā)展，實現(xiàn)業(yè)績可持續(xù)增長。

　　李東生深耕科技制造業(yè)，多年來，他一直積極為科技制造業(yè)的發(fā)展建言獻策。隨著全球科技變革和中國經(jīng)濟轉型升級，科技制造業(yè)已成為中國經(jīng)濟高質量發(fā)展的重要基石，但與全球領先的科技企業(yè)相比，在集成電路制造、半導體顯示等產(chǎn)業(yè)，中國企業(yè)仍處于追趕超越階段。

　　針對目前大型科技制造業(yè)企業(yè)融資受限，融資規(guī)模與企業(yè)發(fā)展需求不匹配等問題，李東生提出優(yōu)化科技制造業(yè)融資環(huán)境的建議。他認為，科技制造業(yè)具有高科技、重資產(chǎn)、長周期的產(chǎn)業(yè)屬性，投入資本金高、回收周期長，投資規(guī)模往往超過百億元，且有持續(xù)投資需求，需要相應的權益性資本融資。

　　李東生表示，借助資本市場再融資是企業(yè)處于積累階段推動發(fā)展的必要條件，也是企業(yè)走向全球領先的必經(jīng)階段。

　　加強AI深度偽造欺詐管理

　　近期，人工智能技術發(fā)展備受關注。李東生認為，把AI技術應用于供應鏈的智能化改造和升級，可以提高生產(chǎn)制造的質量和效率；把AI技術應用到產(chǎn)品的設計研發(fā)中，可以提高技術發(fā)展的速度。事實上，在制造業(yè)中，AI技術早已被應用，2018年TCL在波蘭設立的歐洲研發(fā)中心就已聚焦人工智能的研發(fā)，此外TCL華星建立了自己的垂類大模型——星智大模型。

　　“我們做了個統(tǒng)計，去年TCL通過AI應用創(chuàng)造的經(jīng)濟效益超過5億元，而同期我們在AI上的投入成本不到這個數(shù)?！崩顤|生表示，以DeepSeek為代表的AI技術的發(fā)展，對科技制造業(yè)的發(fā)展提供了很大幫助。未來兩三年，TCL將大幅提高其算力中心的能力，更好地支撐企業(yè)的智能化發(fā)展。

　　今年，李東生針對AI深度偽造欺詐問題提出相關代表建議。一方面，生成式人工智能技術的進步給各個領域帶來機遇，另一方面，AI深度偽造內(nèi)容侵權現(xiàn)象愈演愈烈，欺詐事件頻發(fā)。針對AI深度偽造內(nèi)容管理問題，近年來，我國相關立法雖有關注這一議題，但已出臺的規(guī)章制度還不具備可操作的細則和明確的處罰標準。

　　對此，他提出了四點具體建議：一是加快人工智能深度合成內(nèi)容標識管理規(guī)章制度的出臺。二是明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善未按要求進行標識的行為界定、分類細則，以及相應的處罰標準。三是加強對深度合成內(nèi)容標識技術標準和發(fā)布的管理，保證標識的有效性，對相關內(nèi)容平臺出臺要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時，有義務對其進行標識。四是加強國際合作，形成對人工智能生成合成內(nèi)容的有效監(jiān)管。