人工智能加速普及 風(fēng)險治理提上日程

　　近日，DeepSeek憑借優(yōu)異的推理能力和極具性價比的成本優(yōu)勢，獲得了各行各業(yè)用戶青睞，人工智能技術(shù)加速擴散應(yīng)用。與此同時，也有種種不合理使用人工智能技術(shù)的負面案例出現(xiàn)。專家表示，人工智能技術(shù)創(chuàng)新、應(yīng)用與治理均需探索，每一個人工智能的使用者也都應(yīng)加強對技術(shù)潛在風(fēng)險的認識。中國電子信息產(chǎn)業(yè)發(fā)展研究院人工智能研究室主任鐘新龍向記者表示，在大模型技術(shù)逐步滲透到經(jīng)濟社會各個層面的過程中，應(yīng)當(dāng)因勢利導(dǎo)，營造良好的創(chuàng)新環(huán)境，推動大模型技術(shù)實現(xiàn)健康應(yīng)用與高質(zhì)量發(fā)展。

　　AI加速應(yīng)用落地

　　奇安信董事長齊向東在接受記者采訪時表示，DeepSeek憑借技術(shù)先進性和徹底開源，推動了AI大模型技術(shù)應(yīng)用實現(xiàn)“技術(shù)平權(quán)”，無論是大公司還是小公司，無論是IT行業(yè)還是傳統(tǒng)行業(yè)，如今都可以站在同一起跑線來應(yīng)用AI。

　　浙江義烏的“襪子老板”傅江燕便是DeepSeek應(yīng)用的受益者之一。她介紹：“只要拿著產(chǎn)品、對著鏡頭說三遍‘12345’，再搭配上DeepSeek生成的文案，就能快速搞定多語種帶貨視頻?！?/p>

　　眾所周知，以往大模型訓(xùn)練需要大資金、大數(shù)據(jù)、大周期，門檻高，中小公司很難參與。齊向東表示，DeepSeek通過開源策略，讓中小公司與大公司在大模型技術(shù)上平等競爭，有利于推動AI應(yīng)用和普及。

　　據(jù)鐘新龍觀察，AI大模型的產(chǎn)業(yè)應(yīng)用正在經(jīng)歷由易到難、由表及里的三階段擴散過程。第一階段主要以智能終端為突破口，例如AI手機、AI電腦等。他表示，這些領(lǐng)域往往具有顯著的用戶痛點和較強的付費意愿，預(yù)計將在未來三年內(nèi)實現(xiàn)規(guī)模化商業(yè)落地。第二階段是面向工業(yè)領(lǐng)域?qū)崿F(xiàn)應(yīng)用，需要突破行業(yè)的知識壁壘，實現(xiàn)AI大模型與具體場景的深度融合。第三階段則是面向全社會，將重塑教育、醫(yī)療等基礎(chǔ)領(lǐng)域的運行模式。

　　記者注意到，在教育和醫(yī)療領(lǐng)域，已經(jīng)有多家高校和醫(yī)院宣布接入DeepSeek，探索進一步的智能化應(yīng)用。例如，中國人民大學(xué)、北京師范大學(xué)、北京交通大學(xué)等高校近日稱，正在探索開展有關(guān)DeepSeek的實踐應(yīng)用，部分高校已在自主研發(fā)的教學(xué)課程平臺中接入了大模型，DeepSeek化身智能“助教”，為師生深度思考賦能。包括北京友誼醫(yī)院、北京大學(xué)第一醫(yī)院等多家醫(yī)院也宣布部署DeepSeek模型，這些醫(yī)院紛紛表示，大模型應(yīng)用將加速新藥研發(fā)、提升診療效率，為患者提供更精準(zhǔn)、便捷的醫(yī)療服務(wù)。

　　警惕技術(shù)濫用風(fēng)險

　　與此同時，AI廣泛應(yīng)用過程中也出現(xiàn)了部分不正當(dāng)使用的“副作用”。例如，不少老師和家長發(fā)現(xiàn)，學(xué)生們寒假作業(yè)“AI味”十足，不免憂心學(xué)生們過度依賴AI而失去自主思考能力；還有一些大學(xué)生或研究人員，對AI工具產(chǎn)生依賴，用AI工具自動生成論文、偽造數(shù)據(jù)、圖像等。

　　面對這一新形勢，復(fù)旦大學(xué)不久前發(fā)布《復(fù)旦大學(xué)關(guān)于在本科畢業(yè)論文（設(shè)計）中使用AI工具的規(guī)定（試行）》，明確列出了禁止和允許使用AI工具的范圍，出現(xiàn)嚴重違規(guī)者，論文成績將被認定不合格，影響學(xué)生取得學(xué)位。北京郵電大學(xué)、中國傳媒大學(xué)、天津科技大學(xué)等高校也在出臺或試行相關(guān)規(guī)定和辦法，對學(xué)生借助AI進行論文寫作予以規(guī)范。

　　中國圍棋協(xié)會近日對一名在比賽中使用AI作弊的職業(yè)棋手進行處罰，不僅對其撤銷職業(yè)段位、取消成績，并禁止其參加中國圍棋協(xié)會及會員單位組織或授權(quán)組織的所有圍棋賽事和活動8年。

　　湖南省醫(yī)保局近日發(fā)布《關(guān)于進一步加強基本醫(yī)療保障定點零售藥店管理的通知》，其中規(guī)定，嚴禁使用人工智能等自動生成處方，要求互聯(lián)網(wǎng)醫(yī)院要與患者或患者家屬進行有效、充分的溝通問診。事實上，國家衛(wèi)生健康委早在2022年發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細則（試行）》就對人工智能使用有明確規(guī)定：處方應(yīng)由接診醫(yī)師本人開具，嚴禁使用人工智能等自動生成處方。

　　所有技術(shù)都既有長板，也有短板，AI發(fā)展伴生的安全風(fēng)險也不容忽視。齊向東介紹，DeepSeek一問世，針對性的高強度網(wǎng)絡(luò)攻擊就爆發(fā)了。現(xiàn)在越來越多的企業(yè)、個人開始搭建DeepSeek大模型私有化部署，而將近90%的服務(wù)器都沒有采取安全措施，服務(wù)運行和數(shù)據(jù)安全岌岌可危?！拔磥黼S著人工智能大模型的基礎(chǔ)設(shè)施地位越來越突出，具有針對性的惡意手段和風(fēng)險場景也將激增，伴生的數(shù)據(jù)隱私、認知安全、基礎(chǔ)設(shè)施等安全風(fēng)險超乎想象。對于整個人工智能行業(yè)來說，平衡技術(shù)創(chuàng)新與安全風(fēng)險必會成為重要課題?！?/p>

　　北京大學(xué)數(shù)字治理研究中心主任邱澤奇在接受記者采訪時表示，DeepSeek極大推動AI應(yīng)用落地的同時，應(yīng)用場景的治理也應(yīng)提上日程。他認為，治理的核心問題是數(shù)據(jù)，如何提供高質(zhì)量數(shù)據(jù)、如何用好高質(zhì)量數(shù)據(jù)，如何防范對知識產(chǎn)權(quán)的侵蝕等，都是各界需要考慮的問題。

　　倡導(dǎo)合理使用AI

　　清華大學(xué)新聞與傳播學(xué)院副院長張錚近日撰文表示，每一項帶來偉大變革的技術(shù)總是讓人類面臨逐漸沉迷的風(fēng)險，從電視依賴、智能手機依賴到人工智能依賴，技術(shù)烏托邦的吸引力呈現(xiàn)出相似的邏輯，但必須承認，從未有任何一項技術(shù)像AI一樣，如此徹底地接管人類生活的方方面面。這意味著，“AI過度依賴癥”將給人類帶來更大的風(fēng)險與挑戰(zhàn)，亟須社會各界的警醒與重視。

　　張錚也表示，對風(fēng)險的警示，并不意味著要陷入“新技術(shù)恐懼”之中，面對人機共生時代的種種隱患，只有敢于問診并開出藥方，才能讓AI為人類所用、向良善而生。

　　把握人工智能帶來的發(fā)展機遇，更好地應(yīng)對其帶來的挑戰(zhàn)，這是全人類共同面對的新課題。鐘新龍表示，當(dāng)前，全球在人工智能發(fā)展領(lǐng)域競爭激烈，在此背景下，如何構(gòu)建更加包容、公平、有效的人工智能治理體系，如何平衡技術(shù)發(fā)展與安全管控的關(guān)系，已經(jīng)成為國際社會面臨的重要課題。