聚焦安全治理和人形機(jī)器人痛難點(diǎn)推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展

1聚焦安全治理和人形機(jī)器人痛難點(diǎn)推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，加快發(fā)展新一代人工智能是事關(guān)我國(guó)能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問(wèn)題。目前，我國(guó)人工智能產(chǎn)業(yè)蓬勃發(fā)展，尤其是大模型涌現(xiàn)后，其強(qiáng)大的創(chuàng)新潛能給千行百業(yè)帶來(lái)了新的發(fā)展機(jī)遇。但目前國(guó)內(nèi)及北京市人工智能產(chǎn)業(yè)在安全治理及人形機(jī)器人等重點(diǎn)細(xì)分領(lǐng)域仍面臨“大模型存在技術(shù)漏洞、價(jià)值對(duì)齊困難及數(shù)據(jù)價(jià)值開(kāi)發(fā)利用不足”、“人形機(jī)器人技術(shù)路徑不確定、通用泛化能力弱、應(yīng)用場(chǎng)景不足和降本路徑不清晰”等問(wèn)題。一、國(guó)內(nèi)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀及存在的機(jī)遇我國(guó)人工智能產(chǎn)業(yè)近年來(lái)蓬勃發(fā)展，北京市領(lǐng)跑全國(guó)。據(jù)中國(guó)信息通信研究院測(cè)算，2022年中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元。截至目前，10億參數(shù)規(guī)模以上的大模型已發(fā)布近80個(gè)。據(jù)《2022年北京人工智能產(chǎn)業(yè)發(fā)展白皮書(shū)》顯示，截至2022年，北京擁有人工智能核心企業(yè)1000余家，位列全國(guó)第一；核心區(qū)產(chǎn)業(yè)集聚能力全國(guó)第一，已經(jīng)形成全棧式的人工智能產(chǎn)業(yè)鏈；工信部“揭榜掛帥”優(yōu)勝項(xiàng)目數(shù)量居全國(guó)第一；人工智能算力發(fā)展排名居全國(guó)第一。諸多數(shù)據(jù)表明人工智能已成為北京“強(qiáng)項(xiàng)”，并有望在全國(guó)范圍內(nèi)發(fā)揮“頭雁”效應(yīng)，2引領(lǐng)“群雁”活力。另外，近五成大模型集中在北京。截至10月初，北京發(fā)布大模型數(shù)量達(dá)115個(gè)，其中通用大模型12個(gè)，垂類(lèi)大模型103個(gè)。大模型強(qiáng)大的創(chuàng)新潛能給千行百業(yè)帶來(lái)了新的發(fā)展機(jī)遇。如在人工智能Transformer模型引入CV領(lǐng)域和智能駕駛領(lǐng)域后，智駕能力的提升明顯加速；未來(lái)，基于Transformer有望出現(xiàn)感知決策一體化的大模型，進(jìn)一步促進(jìn)自動(dòng)駕駛領(lǐng)域發(fā)展。AIGC領(lǐng)域，代碼生成、編程助手、軟件助手、操作助手等產(chǎn)品顯著提升大企業(yè)內(nèi)部的生產(chǎn)、客戶(hù)運(yùn)營(yíng)、市場(chǎng)營(yíng)銷(xiāo)等環(huán)節(jié)的效率，有望重塑企業(yè)生產(chǎn)力。機(jī)器人領(lǐng)域，把大模型當(dāng)做“大腦”來(lái)輔助運(yùn)行的人形機(jī)器人技術(shù)加速演進(jìn)，已成為科技競(jìng)爭(zhēng)的新高地、未來(lái)產(chǎn)業(yè)的新賽道、經(jīng)濟(jì)發(fā)展的新引擎，應(yīng)用前景廣闊。二、國(guó)內(nèi)人工智能產(chǎn)業(yè)發(fā)展面臨的風(fēng)險(xiǎn)和挑戰(zhàn)（一）大模型面臨技術(shù)漏洞、價(jià)值對(duì)齊及數(shù)據(jù)價(jià)值開(kāi)發(fā)利用不足等挑戰(zhàn)AI大模型的發(fā)展并非一片坦途，在孕育巨大機(jī)遇的同時(shí)，也面臨著諸多的安全挑戰(zhàn)。一是面臨技術(shù)漏洞等內(nèi)生安全問(wèn)題和幻覺(jué)、濫用等。當(dāng)前許多大模型難以確保訓(xùn)練過(guò)程中數(shù)據(jù)質(zhì)量和清潔度，模型設(shè)計(jì)的安全性、模型訓(xùn)練的穩(wěn)定性都存在大的問(wèn)題。因此大模型存在后門(mén)、數(shù)據(jù)隱私泄露等安全漏洞。例如，模型被黑客攻擊、惡意注入病毒等問(wèn)題時(shí)有發(fā)生。3代碼實(shí)現(xiàn)不當(dāng)也可能導(dǎo)致AI大模型出現(xiàn)安全問(wèn)題，比如有些模型在實(shí)現(xiàn)過(guò)程中可能存在未經(jīng)驗(yàn)證的功能或邏輯漏洞，給惡意攻擊者留下可乘之機(jī)。由于大模型通常能夠在互聯(lián)網(wǎng)上可搜集到的數(shù)據(jù)上進(jìn)行訓(xùn)練，因此不可避免地包含用戶(hù)隱私信息，可能造成隱私泄露。除此之外，預(yù)訓(xùn)練大模型還存在大模型幻覺(jué)1、恐怖等不良信息濫用等新型安全問(wèn)題，給人們帶來(lái)潛在的安全威脅。二是價(jià)值觀對(duì)齊方面也面臨兩大挑戰(zhàn)。一是對(duì)齊的基礎(chǔ)-人類(lèi)價(jià)值觀，是多元且動(dòng)態(tài)變化的。比如在不同的意識(shí)形態(tài)下，詢(xún)問(wèn)chatGPT和百度文心一言“中國(guó)的經(jīng)濟(jì)怎么樣”，可能得到不同的回答。甚至模型在訓(xùn)練后會(huì)對(duì)具有不同宗教、種族、性別等特征的人群產(chǎn)生不一致的結(jié)果等。這對(duì)很多沒(méi)有自主意識(shí)及判斷能力的低齡人群存在危害。二是大模型有用性跟無(wú)害性之間目標(biāo)不是完全一致，也會(huì)發(fā)生沖突。這導(dǎo)致對(duì)齊成為復(fù)雜的跨學(xué)科研究問(wèn)題。三是數(shù)據(jù)價(jià)值開(kāi)發(fā)利用與保護(hù)數(shù)據(jù)安全之間存在沖突。目前國(guó)內(nèi)80%的數(shù)據(jù)實(shí)際上是在防火墻后面。數(shù)據(jù)利用新需求、新模式、新業(yè)態(tài)與保護(hù)數(shù)據(jù)安全之間存在天然沖突，形成了數(shù)據(jù)利用與保護(hù)國(guó)家數(shù)據(jù)資源、保護(hù)商業(yè)秘密、保護(hù)個(gè)人隱私三個(gè)主要矛盾。如何在不引發(fā)新的安全風(fēng)險(xiǎn)、隱私泄漏風(fēng)險(xiǎn)的基礎(chǔ)上將這部分?jǐn)?shù)據(jù)的價(jià)值開(kāi)發(fā)出來(lái)仍是一項(xiàng)嚴(yán)峻的課題。目前國(guó)內(nèi)已經(jīng)在成立國(guó)家大數(shù)據(jù)局的基礎(chǔ)上出臺(tái)了促進(jìn)數(shù)據(jù)發(fā)揮價(jià)值、保4護(hù)數(shù)據(jù)知識(shí)產(chǎn)權(quán)、隱私以及安全的數(shù)據(jù)資產(chǎn)入表等相關(guān)規(guī)劃；作為數(shù)字經(jīng)濟(jì)時(shí)代的第一生產(chǎn)要素，數(shù)據(jù)有望成為政企報(bào)表及財(cái)政等收入的重要支撐。未來(lái)仍需要國(guó)家層面出臺(tái)更多關(guān)于數(shù)據(jù)要素確權(quán)、定價(jià)、交易流通、收益分配、試點(diǎn)等框架性的規(guī)定促進(jìn)數(shù)據(jù)價(jià)值的開(kāi)發(fā)利用。（二）人形機(jī)器人面臨技術(shù)路徑不確定、通用泛化能力弱、應(yīng)用場(chǎng)景不足和降本路徑不清晰的問(wèn)題自2023年起，隨著以ChatGPT為代表的AI大模型風(fēng)靡全球，人形機(jī)器人產(chǎn)業(yè)加速。10月，工業(yè)和信息化部印發(fā)《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》，指出人形機(jī)器人有望成為繼計(jì)算機(jī)、智能手機(jī)、新能源汽車(chē)后的顛覆性產(chǎn)品，發(fā)展?jié)摿Υ?、?yīng)用前景廣，是未來(lái)產(chǎn)業(yè)的新賽道。但國(guó)內(nèi)人形機(jī)器人產(chǎn)業(yè)目前仍處于0-1的階段，發(fā)展中仍面臨著諸多難點(diǎn)。一是基礎(chǔ)技術(shù)能力薄弱、技術(shù)路徑不確定。首先，人形機(jī)器人的外形問(wèn)題上產(chǎn)業(yè)界仍存在分歧。如有的認(rèn)為人形機(jī)器人發(fā)展過(guò)程中還可能出現(xiàn)其它中間態(tài)，而有的認(rèn)為通用機(jī)器人的終極形態(tài)一定是人形機(jī)器人，因?yàn)槠涓m應(yīng)人類(lèi)社會(huì)的環(huán)境。外形設(shè)計(jì)也是機(jī)器人研發(fā)的基礎(chǔ)和關(guān)鍵所在，既要考慮到機(jī)器人的獨(dú)特性，與人類(lèi)的文化基因、社會(huì)背景相匹配，還必須符合機(jī)器人本身的結(jié)構(gòu)、功能、使用方法，機(jī)器人的安全性、機(jī)器人與人溝通等問(wèn)題。其次，從核心零部件看，目前國(guó)內(nèi)外人形機(jī)器人的技術(shù)路徑處于百花齊放、百家爭(zhēng)鳴的狀態(tài)。5各科技企業(yè)、主機(jī)廠在量產(chǎn)前會(huì)大量試用各種零部件組裝方案，該階段對(duì)各種路線(xiàn)無(wú)法證偽。如特斯拉的人形機(jī)器人采用了14個(gè)線(xiàn)性執(zhí)行器、14個(gè)旋轉(zhuǎn)執(zhí)行器，采用無(wú)框力矩電機(jī)、力傳感器、行星滾柱絲杠、諧波減速器、行星減速器和空心杯電機(jī)等零部件。國(guó)內(nèi)廠家技術(shù)路線(xiàn)則不同。但總體來(lái)看，國(guó)內(nèi)在核心關(guān)鍵零部件雖然具有了一定的基礎(chǔ)，但在人形機(jī)器人專(zhuān)用傳感器、高功率密度執(zhí)行器、專(zhuān)用芯片，以及高能效專(zhuān)用動(dòng)力組件等核心零部件方面技術(shù)仍較為薄弱。依靠現(xiàn)有的產(chǎn)業(yè)鏈支持，實(shí)現(xiàn)人形機(jī)器人的產(chǎn)品創(chuàng)新仍具有一定難度。二是智能化、通用泛化是人形機(jī)器人發(fā)展的最大難點(diǎn)。長(zhǎng)期以來(lái),人形機(jī)器人的用戶(hù)痛點(diǎn)主要集中在人機(jī)交互、智能感知、行為控制等方面。目前國(guó)內(nèi)外科技巨頭（而非工業(yè)機(jī)器人巨頭）和初創(chuàng)企業(yè)在用大模型等技術(shù)解決這些問(wèn)題方面已經(jīng)做了一些探索，讓大家看到了通用機(jī)器人的曙光。如決策規(guī)劃算法是人形機(jī)器人智能化的關(guān)鍵，特斯拉將自動(dòng)駕駛的FSD系統(tǒng)復(fù)用到機(jī)器人領(lǐng)域，使機(jī)器人擁有了智能屬性。國(guó)內(nèi)小鵬汽車(chē)也參照特斯拉的思路，遷移其自動(dòng)駕駛算法、靈犀大模型等進(jìn)入人形機(jī)器人賽道。AI大模型賦能從技術(shù)層面直接提升了人形機(jī)器人的人機(jī)交互能力，使機(jī)器人通用泛化成為可能。例如谷歌Palm-e大模型可將自然語(yǔ)言轉(zhuǎn)化為機(jī)器人可執(zhí)行的任務(wù)步驟，從而補(bǔ)全其推理決策能力并泛化至更通用的場(chǎng)景；Deepmind推出了自我改進(jìn)的AI智能體RoboCat和RT-2模型，大幅提升機(jī)6器人對(duì)新事物的適應(yīng)性，并展現(xiàn)出對(duì)未出現(xiàn)指令的解釋和推理能力。上海稚暉君“遠(yuǎn)征A1”的WorkGPT應(yīng)用使其具備了理解人的指令并執(zhí)行任務(wù)的能力。但總體在通用機(jī)器人“大腦”方面仍有許多待解決的問(wèn)題，而且國(guó)外巨頭憑借強(qiáng)大的資金和AI能力在該領(lǐng)域展現(xiàn)出更強(qiáng)大的競(jìng)爭(zhēng)力。三是應(yīng)用場(chǎng)景和商業(yè)化降本路徑仍不明晰。成本下降是推動(dòng)人形機(jī)器人落地的必備條件。人形機(jī)器人最早出現(xiàn)在上世紀(jì)七十年代，但成本高企一直是其難以商業(yè)化的重要原One單臺(tái)造價(jià)目前是60-70萬(wàn)元人民幣。目前已有的人形機(jī)器人囿于技術(shù)、成本等因素應(yīng)用場(chǎng)景較為有限，主要在工業(yè)場(chǎng)景。未來(lái)一方面仍應(yīng)在技術(shù)進(jìn)步的基礎(chǔ)上大幅降低軟硬件成本，另一方面仍需尋找能推動(dòng)人形機(jī)器人大規(guī)模降本落地的場(chǎng)景，通過(guò)爆款場(chǎng)景帶動(dòng)成本攤薄，進(jìn)而推動(dòng)人形機(jī)器人的商業(yè)化和產(chǎn)業(yè)爆發(fā)。業(yè)界預(yù)期，人形機(jī)器人產(chǎn)業(yè)將類(lèi)似自動(dòng)駕駛產(chǎn)業(yè)發(fā)展呈現(xiàn)出類(lèi)似L0-L5等分階段發(fā)展的趨勢(shì)。目前，特斯拉憑借其優(yōu)秀的汽車(chē)配套產(chǎn)業(yè)鏈、汽車(chē)降本經(jīng)驗(yàn)以及自動(dòng)駕駛FSD算法協(xié)同提出使人形機(jī)器人降本至2萬(wàn)美元，使人形機(jī)器人落地出現(xiàn)了可能。國(guó)內(nèi)智元機(jī)器人遠(yuǎn)征A1也提出要將整體硬件成本控制在20萬(wàn)元以?xún)?nèi)，并將產(chǎn)品應(yīng)用于比亞迪的應(yīng)用場(chǎng)景。但目前兩家公司的產(chǎn)品仍均在研發(fā)中，落地時(shí)間仍需進(jìn)一步跟蹤。其它相關(guān)廠商暫時(shí)沒(méi)有提出明確的降本路徑。三、推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的對(duì)策建議7（一）統(tǒng)籌大模型安全與發(fā)展，加大科研投入和技術(shù)推廣一是大模型監(jiān)管要兼顧安全與發(fā)展。今年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于《生成式人工智能服務(wù)管理辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。這也意味著國(guó)家已經(jīng)開(kāi)始出手應(yīng)對(duì)大模型火熱帶來(lái)的一系列的安全問(wèn)題。未來(lái)應(yīng)通過(guò)進(jìn)一步細(xì)化大模型相關(guān)制度與規(guī)則、拓寬管轄范圍、加大監(jiān)督落實(shí)力度等方式，為大模型的發(fā)展探索劃定原則底線(xiàn)。二是更前置全面考慮大模型的安全問(wèn)題，防御思路從“被動(dòng)"變?yōu)椤爸鲃?dòng)”，加大科研投入，完善基礎(chǔ)設(shè)施，建立示范樣本。支持各大安全廠商開(kāi)發(fā)適應(yīng)新的安全需求的產(chǎn)品。三是加強(qiáng)數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)全生命周期管控，提高數(shù)據(jù)質(zhì)量，積極尋求多種手段以增強(qiáng)模型的抵御能力，并鼓勵(lì)在模型的應(yīng)用和布署階段實(shí)施多重保護(hù)策略，推廣擬態(tài)防御、“AI識(shí)別AI”等技術(shù)應(yīng)對(duì)大模型的內(nèi)生安全挑戰(zhàn)。（二）探索保障數(shù)據(jù)安全的數(shù)據(jù)資源價(jià)值利用，推動(dòng)數(shù)據(jù)財(cái)政體系構(gòu)建一是進(jìn)一步完善數(shù)據(jù)要素評(píng)估、定價(jià)、入表、流通、價(jià)值分配的政策工具箱。在政策框架下，鼓勵(lì)政府、企業(yè)、投資機(jī)構(gòu)多方參與數(shù)據(jù)要素生態(tài)建設(shè)，推動(dòng)數(shù)據(jù)要素產(chǎn)業(yè)發(fā)展。二是選擇數(shù)據(jù)要素市場(chǎng)化運(yùn)營(yíng)水平相對(duì)較高的地區(qū)作為試點(diǎn)，推動(dòng)政府進(jìn)行數(shù)據(jù)要素財(cái)政的探索。從國(guó)內(nèi)看，今年11月，衡陽(yáng)市政務(wù)數(shù)據(jù)資源和智慧城市8特許經(jīng)營(yíng)權(quán)出讓項(xiàng)目交易公告發(fā)布，項(xiàng)目起始價(jià)為180244.12萬(wàn)元，已經(jīng)開(kāi)始了國(guó)內(nèi)公共數(shù)據(jù)特許經(jīng)營(yíng)權(quán)出讓交易的探索。未來(lái)仍將通過(guò)試點(diǎn)或者市場(chǎng)化案例的方式探索數(shù)據(jù)財(cái)政的可行性。并利用財(cái)政政策逐步引導(dǎo)社會(huì)資本參與公共數(shù)據(jù)運(yùn)營(yíng)產(chǎn)業(yè)投資和經(jīng)營(yíng)。三是不斷改進(jìn)和優(yōu)化數(shù)據(jù)治理手段，提升數(shù)據(jù)質(zhì)量分級(jí)分類(lèi)處理效率，保障數(shù)據(jù)財(cái)政順利推進(jìn)和落實(shí)。積極探索基于保障數(shù)據(jù)安全的技術(shù)手段在數(shù)據(jù)財(cái)政運(yùn)行過(guò)程中的作用路（三）強(qiáng)化頭部引領(lǐng)與產(chǎn)業(yè)協(xié)同，推動(dòng)人形機(jī)器人技術(shù)躍升一是鼓勵(lì)科技巨頭加緊布局人形機(jī)器人“安卓”平臺(tái)。結(jié)合目前國(guó)際科技巨頭占據(jù)產(chǎn)業(yè)生態(tài)位的實(shí)際情況、特斯拉復(fù)用自動(dòng)駕駛FSD系統(tǒng)后的顯著優(yōu)勢(shì)、人形機(jī)器人研發(fā)與落地均需要巨量資金等因素考慮，再加上國(guó)內(nèi)科技巨頭已在資金、算力、算法、數(shù)據(jù)、大模型垂直應(yīng)用場(chǎng)景等方面擁有豐富的積累，建議聚焦政策和資源支持國(guó)內(nèi)在AI領(lǐng)域具有較強(qiáng)實(shí)力的科技巨頭加緊在該領(lǐng)域布局或進(jìn)一步加大研發(fā)投入，著力打造機(jī)器人“大腦”。鼓勵(lì)巨頭企業(yè)通過(guò)開(kāi)源平臺(tái)，加快產(chǎn)品研發(fā)和提升。同時(shí)，對(duì)北京市新涌現(xiàn)的優(yōu)異的專(zhuān)注開(kāi)發(fā)機(jī)器人通用大模型以及致力于將機(jī)器人硬件與行業(yè)垂直大模型結(jié)合的初創(chuàng)和中小企業(yè)進(jìn)行精準(zhǔn)扶持，打造該領(lǐng)域優(yōu)異的鼓勵(lì)創(chuàng)新環(huán)境。二是鼓勵(lì)以科技巨頭為引領(lǐng)打造國(guó)內(nèi)人形機(jī)器9人創(chuàng)新聯(lián)合體，以協(xié)同創(chuàng)新的方式推動(dòng)核心零部件攻關(guān)和成本降低。引導(dǎo)中小企業(yè)關(guān)注產(chǎn)業(yè)前沿進(jìn)展，做好公司業(yè)務(wù)數(shù)據(jù)積累，主動(dòng)與科技巨頭進(jìn)行鏈接，共同研發(fā)。三是鼓勵(lì)多種技術(shù)路線(xiàn)研發(fā)，建立現(xiàn)有重點(diǎn)企業(yè)及新進(jìn)者的技術(shù)路線(xiàn)及產(chǎn)業(yè)化進(jìn)程的跟蹤目錄，并關(guān)注成熟產(chǎn)業(yè)遷移到人形機(jī)器人產(chǎn)業(yè)過(guò)程中可能發(fā)生的技術(shù)復(fù)用現(xiàn)象，通過(guò)資金扶持、政府采購(gòu)等方式加速人形