




版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
《特定應(yīng)用場(chǎng)景無(wú)人駕駛服務(wù)可信性評(píng)價(jià)第1部分:總
體評(píng)價(jià)》編制說(shuō)明
一、工作簡(jiǎn)況
1.1任務(wù)來(lái)源
《特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)第1部分:總體評(píng)價(jià)》團(tuán)體標(biāo)準(zhǔn)是由中國(guó)
汽車(chē)工程學(xué)會(huì)批準(zhǔn)立項(xiàng)。文件號(hào)中汽學(xué)標(biāo)【2023】180號(hào),任務(wù)號(hào)為2023-067。本
標(biāo)準(zhǔn)由中國(guó)智能網(wǎng)聯(lián)汽車(chē)產(chǎn)業(yè)創(chuàng)新聯(lián)盟提出,中國(guó)汽車(chē)工程學(xué)會(huì)歸口,同濟(jì)大學(xué)、
燕山大學(xué)、深圳市城市交通規(guī)劃設(shè)計(jì)研究中心股份有限公司、西安工業(yè)大學(xué)、上海
淞泓智能汽車(chē)科技有限公司、招商局檢測(cè)車(chē)輛技術(shù)研究院有限公司等10余家單位聯(lián)
合起草。
2023年11月17日,召開(kāi)標(biāo)準(zhǔn)啟動(dòng)會(huì),起草工作組采納工作組建議將標(biāo)準(zhǔn)名稱
修改為:《特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)第1部分:總體評(píng)價(jià)》。
1.2編制背景與目標(biāo)
從政策導(dǎo)向的角度來(lái)看,2019年9月由中共中央、國(guó)務(wù)院印發(fā)的《交通強(qiáng)國(guó)建
設(shè)綱要》提出要加強(qiáng)智能網(wǎng)聯(lián)汽車(chē)(智能汽車(chē)、自動(dòng)駕駛、車(chē)路協(xié)同)研發(fā)。由國(guó)
家發(fā)改委、工信部、科技部等11個(gè)部委于2020年2月24日聯(lián)合發(fā)布的《智能汽車(chē)
創(chuàng)新發(fā)展戰(zhàn)略》提出,到2025年,應(yīng)實(shí)現(xiàn)高度自動(dòng)駕駛市場(chǎng)化應(yīng)用,形成法規(guī)標(biāo)準(zhǔn)
體系。2021年10月,北京市發(fā)布《北京市智能網(wǎng)聯(lián)汽車(chē)政策先行區(qū)無(wú)人化道路測(cè)
試管理實(shí)施細(xì)則》,在國(guó)內(nèi)首開(kāi)乘用車(chē)無(wú)人化運(yùn)營(yíng)試點(diǎn)。2023年2月,上海市為了
進(jìn)一步規(guī)范和促進(jìn)浦東新區(qū)無(wú)駕駛?cè)酥悄芫W(wǎng)聯(lián)汽車(chē)創(chuàng)新應(yīng)用,推動(dòng)產(chǎn)業(yè)高質(zhì)量發(fā)展,
立法《上海市浦東新區(qū)促進(jìn)無(wú)駕駛?cè)酥悄芫W(wǎng)聯(lián)汽車(chē)創(chuàng)新應(yīng)用規(guī)定》。
從市場(chǎng)驅(qū)動(dòng)的角度來(lái)看,特定應(yīng)用場(chǎng)景無(wú)人駕駛落地方案不斷完善,萬(wàn)億級(jí)市
場(chǎng)空間正在打開(kāi),當(dāng)前我國(guó)正在積極研發(fā)與測(cè)試L4級(jí)自動(dòng)駕駛技術(shù)。2023年7月,
北京開(kāi)放車(chē)內(nèi)無(wú)人商業(yè)化試點(diǎn),2023年7月,上海發(fā)放無(wú)駕駛?cè)说缆窚y(cè)試牌照,2022
年8月,武漢開(kāi)放全無(wú)人自動(dòng)駕駛商業(yè)化出行服務(wù),特定應(yīng)用場(chǎng)景無(wú)人駕駛基本實(shí)
現(xiàn)準(zhǔn)商業(yè)化運(yùn)營(yíng)。
然而在示范運(yùn)營(yíng)過(guò)程中,面向動(dòng)態(tài)復(fù)雜不確定的實(shí)際交通環(huán)境,存在大量未知
不安全的長(zhǎng)尾場(chǎng)景,使得無(wú)人駕駛車(chē)輛在應(yīng)用中存在適應(yīng)性差、安全性弱的問(wèn)題。
面向無(wú)人駕駛的無(wú)人化、商業(yè)化需求,亟需拓展現(xiàn)有的測(cè)試評(píng)價(jià)體系。在此背景下,
1
本標(biāo)準(zhǔn)依托十四五國(guó)家重點(diǎn)研發(fā)計(jì)劃國(guó)家質(zhì)量基礎(chǔ)設(shè)施體系專(zhuān)項(xiàng)“人車(chē)路協(xié)同無(wú)人
駕駛可信性評(píng)價(jià)關(guān)鍵技術(shù)與標(biāo)準(zhǔn)研究”基于有限類(lèi)型場(chǎng)景,構(gòu)建人車(chē)路協(xié)同無(wú)人駕
駛可信性評(píng)價(jià)體系。提出以安全可控與自主高效為核心,以透明可釋、數(shù)據(jù)可護(hù)、
責(zé)任可溯為關(guān)鍵要素的無(wú)人駕駛可信性內(nèi)涵。形成了面向特定應(yīng)用場(chǎng)景無(wú)人駕駛整
車(chē)運(yùn)行的可信性評(píng)價(jià)標(biāo)準(zhǔn),支撐無(wú)人駕駛規(guī)模商用,成為現(xiàn)有測(cè)評(píng)體系的必要補(bǔ)充。
具體來(lái)說(shuō),通過(guò)專(zhuān)項(xiàng)研究無(wú)人駕駛技術(shù)的應(yīng)用場(chǎng)景特征,結(jié)合無(wú)人駕駛可信性
評(píng)價(jià)實(shí)際需求,通過(guò)集合道路環(huán)境、自然環(huán)境和車(chē)輛算法行為決策特征,解析特定
應(yīng)用場(chǎng)景中可信性內(nèi)涵以及管理者對(duì)無(wú)人駕駛系統(tǒng)的實(shí)際需求,形成面向L4及以
上高等級(jí)無(wú)人駕駛整車(chē)運(yùn)行能力的可信性評(píng)價(jià)方法,實(shí)現(xiàn)無(wú)人駕駛運(yùn)行安全可控與
服務(wù)自主高效的有效評(píng)價(jià)。
1.3主要工作過(guò)程
1.3.1預(yù)研階段
2022年11月14日,依托重點(diǎn)研發(fā)項(xiàng)目參與單位形成了本標(biāo)準(zhǔn)的編制組,通過(guò)
開(kāi)展標(biāo)準(zhǔn)編制組內(nèi)部線上會(huì)議,明確了無(wú)人駕駛可信性需求,即安全與效率,基于
需求開(kāi)展了前期的廣泛調(diào)研工作,收集現(xiàn)有無(wú)人駕駛可信性評(píng)價(jià)相關(guān)標(biāo)準(zhǔn)與研究,
調(diào)研參觀了城市開(kāi)放道路無(wú)人駕駛出租車(chē)、無(wú)人農(nóng)場(chǎng)等示范運(yùn)營(yíng)項(xiàng)目。
2022年11月24日,標(biāo)準(zhǔn)編制組以線上線下相結(jié)合的方式開(kāi)展全體會(huì)議,討論
并明確了無(wú)人駕駛可信性的內(nèi)涵,即以安全可控和自主高效為核心,以透明可釋、
數(shù)據(jù)可護(hù)和責(zé)任可溯為關(guān)鍵組成要素,隨即開(kāi)展了可信性評(píng)價(jià)指標(biāo)的調(diào)研工作。
2023年2月10日,標(biāo)準(zhǔn)編制組在招商局檢測(cè)車(chē)輛技術(shù)研究院有限公司開(kāi)展線
下會(huì)議,參觀了無(wú)人駕駛測(cè)評(píng)基地與無(wú)人駕駛小巴示范運(yùn)營(yíng)項(xiàng)目,進(jìn)一步明確了無(wú)
人駕駛可信性評(píng)價(jià)的研究重點(diǎn)。
2023年3月17日,標(biāo)準(zhǔn)編制組在上海市嘉定區(qū)參與了重點(diǎn)研發(fā)項(xiàng)目啟動(dòng)會(huì)議,
并聽(tīng)取了行業(yè)專(zhuān)家的建議,將評(píng)價(jià)重點(diǎn)聚焦于特定應(yīng)用場(chǎng)景無(wú)人駕駛的可信性評(píng)價(jià)。
2023年4月25日,標(biāo)準(zhǔn)編制組在北京市開(kāi)展了為期兩天的無(wú)人駕駛相關(guān)企業(yè)
調(diào)研工作,先后參觀了北京車(chē)網(wǎng)科技發(fā)展有限公司、國(guó)汽(北京)智能網(wǎng)聯(lián)汽車(chē)研
究院有限公司、中國(guó)信息通信研究院以及北京萬(wàn)集科技股份有限公司等企業(yè),明確
了行業(yè)發(fā)展動(dòng)態(tài),并邀請(qǐng)相關(guān)調(diào)研企業(yè)共同參與標(biāo)準(zhǔn)編制工作。
2
2023年5月至7月,同濟(jì)大學(xué)與燕山大學(xué)等主要標(biāo)準(zhǔn)編制單位在前期大量調(diào)研
的基礎(chǔ)上,開(kāi)展標(biāo)準(zhǔn)草案撰寫(xiě)與立項(xiàng)申請(qǐng)材料的準(zhǔn)備工作。
2023年7月18日,標(biāo)準(zhǔn)編制組在上海市嘉定區(qū)組織為期三天的集中辦公工作,
修改完善標(biāo)準(zhǔn)草案與立項(xiàng)申請(qǐng)材料。
1.3.2立項(xiàng)階段
2023年7月21日,在安慶市國(guó)汽大有時(shí)空科技(安慶)有限公司召開(kāi)標(biāo)準(zhǔn)立
項(xiàng)審查會(huì)議,專(zhuān)家組一致同意《特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)第1部分:總體
評(píng)價(jià)》標(biāo)準(zhǔn)立項(xiàng),建議中國(guó)汽車(chē)工程學(xué)會(huì)將該項(xiàng)目列入2023年標(biāo)準(zhǔn)制定計(jì)劃。標(biāo)準(zhǔn)
編制組在專(zhuān)家組的建議下,將標(biāo)準(zhǔn)內(nèi)容聚焦于特定應(yīng)用場(chǎng)景無(wú)人駕駛整車(chē)運(yùn)行能力
的可信性評(píng)價(jià)。
2023年8月16日,中國(guó)汽車(chē)工程學(xué)會(huì)下達(dá)2023年第三批中國(guó)汽車(chē)工程學(xué)會(huì)標(biāo)
準(zhǔn)制修訂項(xiàng)目計(jì)劃,《特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)第1部分:總體評(píng)價(jià)》起
草任務(wù)書(shū)號(hào)為2023-067。牽頭單位在原有編制組的基礎(chǔ)上組建標(biāo)準(zhǔn)工作組,并進(jìn)行
標(biāo)準(zhǔn)相關(guān)內(nèi)容學(xué)習(xí)。
2023年9月25日,牽頭單位同濟(jì)大學(xué)與燕山大學(xué)等組內(nèi)單位開(kāi)展線上第一次
標(biāo)準(zhǔn)討論交流會(huì),交流內(nèi)容主要圍繞標(biāo)準(zhǔn)的指標(biāo)選取原則展開(kāi)。并明確了指標(biāo)選取
應(yīng)遵循一致性、協(xié)調(diào)性、易用性三大原則,要求指標(biāo)可測(cè)量、可計(jì)算、可審查,指
標(biāo)應(yīng)精簡(jiǎn),支撐無(wú)人駕駛整車(chē)運(yùn)行可信性評(píng)價(jià)。
2023年10月,牽頭單位同濟(jì)大學(xué)重點(diǎn)檢索整理了現(xiàn)有的無(wú)人駕駛可信性評(píng)價(jià)指
標(biāo)體系,結(jié)合可信人工智能、軟件可信性等其他行業(yè)的相關(guān)指標(biāo),完成了標(biāo)準(zhǔn)初稿
的撰寫(xiě)工作。
2023年10月23日,牽頭單位同濟(jì)大學(xué)與燕山大學(xué)等組內(nèi)單位開(kāi)展線上第二次
標(biāo)準(zhǔn)討論交流會(huì),重點(diǎn)討論了安全可控、自主高效、透明可釋、數(shù)據(jù)可護(hù)、責(zé)任可
溯等五個(gè)一級(jí)指標(biāo)以及70余個(gè)二級(jí)評(píng)價(jià)指標(biāo)組成的可信性評(píng)價(jià)指標(biāo)體系,進(jìn)一步明
確了指標(biāo)體系的修改方向。
2023年10月至11月,牽頭單位同濟(jì)大學(xué)、燕山大學(xué)聯(lián)合編制完成了標(biāo)準(zhǔn)草案。
2023年11月17日,在上海同濟(jì)大學(xué)嘉定校區(qū)召開(kāi)了標(biāo)準(zhǔn)啟動(dòng)會(huì),參加本次會(huì)
議的有上海淞泓、宇通客車(chē)、招商車(chē)研、同濟(jì)大學(xué)、西安工業(yè)大學(xué)、深城交、燕山
大學(xué)、中移(上研)、賽孚希、復(fù)運(yùn)科技、上海海事大學(xué)、中國(guó)汽研、電科智能、
山東大學(xué)、招商車(chē)研、萬(wàn)集科技、云控智行共17家單位參與標(biāo)準(zhǔn)研討會(huì)。本次會(huì)議
3
重點(diǎn)討論了標(biāo)準(zhǔn)的研制背景、標(biāo)準(zhǔn)的框架結(jié)構(gòu)及標(biāo)準(zhǔn)主要技術(shù)內(nèi)容,形成了一下主
要結(jié)論:1)基本認(rèn)可標(biāo)準(zhǔn)框架,進(jìn)一步完善評(píng)價(jià)指標(biāo),并協(xié)調(diào)與其余4項(xiàng)可信性評(píng)
價(jià)標(biāo)準(zhǔn)的協(xié)調(diào)性;2)標(biāo)準(zhǔn)內(nèi)容應(yīng)突出特定應(yīng)用場(chǎng)景,兼具通用性、獨(dú)特性、實(shí)用性;
建議本標(biāo)準(zhǔn)只提供可信評(píng)價(jià)框架;3)根據(jù)本次研討會(huì)內(nèi)容,各標(biāo)準(zhǔn)起草組召集相關(guān)
成員單位繼續(xù)討論完善草案稿;4)起草工作組和相關(guān)企業(yè)進(jìn)一步溝通標(biāo)準(zhǔn)調(diào)研時(shí)間。
2023年12月5日,牽頭單位同濟(jì)大學(xué)、燕山大學(xué)召開(kāi)線上第三次標(biāo)準(zhǔn)討論會(huì),
深入探討各類(lèi)評(píng)價(jià)指標(biāo)計(jì)算方法和評(píng)分標(biāo)準(zhǔn),最終討論形成標(biāo)準(zhǔn)草案稿。
2024年1月24日,在深圳南山區(qū)科技生態(tài)園召開(kāi)了“人車(chē)路協(xié)同無(wú)人駕駛可
信性評(píng)價(jià)關(guān)鍵技術(shù)與標(biāo)準(zhǔn)研究”討論會(huì),參加本次會(huì)議的有:上海淞泓、招商車(chē)研、
同濟(jì)大學(xué)、燕山大學(xué)、深城交、西安工業(yè)大學(xué)、上海電科、招商交科、山東大學(xué)、
中移(上海)共10家企業(yè)參與標(biāo)準(zhǔn)研討,會(huì)上就本標(biāo)準(zhǔn)的各類(lèi)評(píng)價(jià)指標(biāo)進(jìn)行了深入
討論。
2024年1月29日,在上海同濟(jì)大學(xué)嘉定校區(qū)召開(kāi)了“人車(chē)路協(xié)同無(wú)人駕駛可
信性評(píng)價(jià)關(guān)鍵技術(shù)與標(biāo)準(zhǔn)研究”集中辦公會(huì),參加本次會(huì)議的有:上海淞泓、招商
車(chē)研、同濟(jì)大學(xué)、深城交、西安工業(yè)大學(xué)、上海電科、招商交科共7家企業(yè)參與標(biāo)
準(zhǔn)研討,會(huì)上牽頭單位進(jìn)一步完善和修改了各類(lèi)評(píng)價(jià)指標(biāo)計(jì)算方法和評(píng)分標(biāo)準(zhǔn),最
終討論形成標(biāo)準(zhǔn)第二稿草案稿。
2024年2月26日,牽頭單位同濟(jì)大學(xué)、燕山大學(xué)、上海淞泓等進(jìn)行了線上標(biāo)
準(zhǔn)討論會(huì)。會(huì)后,根據(jù)上海淞泓專(zhuān)家反饋意見(jiàn),牽頭單位修改了標(biāo)準(zhǔn)附錄,調(diào)整了
標(biāo)準(zhǔn)框架結(jié)構(gòu),進(jìn)一步完善了標(biāo)準(zhǔn)草案,完成標(biāo)準(zhǔn)草案征求意見(jiàn)第三稿。
1.3.3征求意見(jiàn)階段(含征求意見(jiàn)時(shí)間及意見(jiàn)處理情況的說(shuō)明)
無(wú)
1.3.4審查階段(含審查結(jié)果及意見(jiàn)處理)
無(wú)
1.3.5報(bào)批階段(含報(bào)批意見(jiàn)及處理)
無(wú)
1.3.6發(fā)布階段
無(wú)
4
二、標(biāo)準(zhǔn)編制原則和主要內(nèi)容
2.1標(biāo)準(zhǔn)制定原則
根據(jù)《中華人民共和國(guó)標(biāo)準(zhǔn)法》、《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分:標(biāo)準(zhǔn)化文件的
結(jié)構(gòu)和起草規(guī)則》(GB/T1.1-2020)進(jìn)行編制。
本標(biāo)準(zhǔn)參考了可信人工智能評(píng)價(jià)體系及軟件可信性評(píng)價(jià)體系,并基于特定應(yīng)用
場(chǎng)景無(wú)人駕駛的發(fā)展現(xiàn)狀與示范運(yùn)營(yíng)情況,定義并規(guī)范了特定應(yīng)用場(chǎng)景無(wú)人駕駛可
信性總體評(píng)價(jià)的評(píng)價(jià)內(nèi)容、評(píng)價(jià)流程、評(píng)價(jià)方法等技術(shù)內(nèi)容,最終建立了一套面向
特定應(yīng)用場(chǎng)景無(wú)人駕駛整車(chē)運(yùn)行能力的可信性評(píng)價(jià)方法。
2.1.1通用性原則
本標(biāo)準(zhǔn)面向特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)需求,包括評(píng)價(jià)內(nèi)容、評(píng)價(jià)
流程、評(píng)價(jià)方法等技術(shù)內(nèi)容,適用于整車(chē)運(yùn)行能力評(píng)價(jià)。
2.1.2指導(dǎo)性原則
本標(biāo)準(zhǔn)提出的特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)標(biāo)準(zhǔn),為整車(chē)可信性評(píng)價(jià)
提供了具體的框架和指南,填補(bǔ)了相關(guān)領(lǐng)域的標(biāo)準(zhǔn)空白。在評(píng)價(jià)過(guò)程中,可以根據(jù)
實(shí)際情況進(jìn)行適當(dāng)?shù)恼{(diào)整和細(xì)化,以滿足特定應(yīng)用場(chǎng)景的需求。從而,有助于確保
無(wú)人駕駛車(chē)輛在特定應(yīng)用場(chǎng)景下的安全可控與自主高效。
2.1.3協(xié)調(diào)性原則
本標(biāo)準(zhǔn)與目前國(guó)內(nèi)外發(fā)布的與無(wú)人駕駛可信性評(píng)價(jià)相關(guān)的標(biāo)準(zhǔn)協(xié)調(diào)統(tǒng)一,互不
沖突。針對(duì)L4級(jí)及以上高等級(jí)無(wú)人駕駛車(chē)輛在特定應(yīng)用場(chǎng)景下整車(chē)運(yùn)行的可信性
評(píng)價(jià)編制具體標(biāo)準(zhǔn)。
2.1.4兼容性原則
本標(biāo)準(zhǔn)提出的可信性評(píng)價(jià)指標(biāo)與評(píng)價(jià)體系,充分考慮了當(dāng)前國(guó)內(nèi)外高等級(jí)無(wú)人
駕駛車(chē)輛測(cè)評(píng)的現(xiàn)狀,并注重技術(shù)前瞻性,具有普遍適用性。
2.1.5規(guī)范性原則
本標(biāo)準(zhǔn)面向特定應(yīng)用場(chǎng)景無(wú)人駕駛整車(chē)運(yùn)行能力開(kāi)展總體評(píng)價(jià),明確了評(píng)價(jià)對(duì)
象與評(píng)價(jià)目的,提出了評(píng)價(jià)內(nèi)容、評(píng)價(jià)流程、評(píng)價(jià)方法等技術(shù)內(nèi)容,規(guī)范了總體評(píng)
價(jià)過(guò)程,滿足規(guī)范性原則。
2.2標(biāo)準(zhǔn)主要技術(shù)內(nèi)容
本標(biāo)準(zhǔn)規(guī)范了特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)流程,并將特定應(yīng)用場(chǎng)景
無(wú)人駕駛可信性評(píng)價(jià)方法分為評(píng)價(jià)體系、單工況評(píng)價(jià)、多工況評(píng)價(jià),設(shè)置安全可控、
5
自主高效、透明可釋、數(shù)據(jù)可護(hù)、責(zé)任可溯五大一級(jí)指標(biāo),并規(guī)定了單工況下各個(gè)
指標(biāo)的計(jì)算方法和評(píng)分標(biāo)準(zhǔn)及多工況綜合評(píng)價(jià)的計(jì)算方法。
本標(biāo)準(zhǔn)共分為7章,規(guī)范了特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)流程,內(nèi)容
包括范圍、規(guī)范性引用文件、術(shù)語(yǔ)和定義、縮略語(yǔ)、評(píng)價(jià)內(nèi)容、評(píng)價(jià)流程、評(píng)價(jià)方
法7個(gè)部分。
2.2.1評(píng)價(jià)內(nèi)容
特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)內(nèi)容主要包括全可控、自主高效、透明可釋、
數(shù)據(jù)可護(hù)、責(zé)任可溯五大一級(jí)指標(biāo)。
安全可控指在特定應(yīng)用場(chǎng)景下,無(wú)人駕駛技術(shù)安全可控通常是指系統(tǒng)采用先進(jìn)
的安全技術(shù)、設(shè)計(jì)合理、質(zhì)量可靠,并且能夠規(guī)避可能的安全風(fēng)險(xiǎn)。安全可控是無(wú)
人駕駛車(chē)輛能夠運(yùn)行的前提,如果不滿足安全可控的要求,可能會(huì)導(dǎo)致車(chē)輛行駛不
穩(wěn)定甚至發(fā)生事故。特定應(yīng)用場(chǎng)景無(wú)人駕駛安全可控的可信性評(píng)價(jià)內(nèi)容分為安全性、
可靠性、穩(wěn)定性三大二級(jí)指標(biāo)。
自主高效指無(wú)人駕駛系統(tǒng)在保證安全可控的前提下,應(yīng)該具備能夠在各種環(huán)境
和情景種智能、自主且有效率地執(zhí)行任務(wù)的能力。一個(gè)自主高效的無(wú)人駕駛系統(tǒng),
不僅能夠獨(dú)立完成復(fù)雜的行駛?cè)蝿?wù),而且能夠在確保安全的前提下,優(yōu)化行駛路徑
和能源使用,減少交通擁堵,提高整體的行駛效率。特定應(yīng)用場(chǎng)景無(wú)人駕駛自主高
效的可信性評(píng)價(jià)內(nèi)容分為智能性、高效性、生態(tài)性、舒適性四大指標(biāo)。
透明可釋是指無(wú)人駕駛系統(tǒng)的工作原理、決策邏輯、數(shù)據(jù)處理等方面能夠被清
晰理解和解釋。這一特性使得系統(tǒng)的運(yùn)行方式對(duì)用戶、監(jiān)管機(jī)構(gòu)以及其他相關(guān)利益
方可見(jiàn),而不是像黑盒子一樣難以理解。透明可釋性是為了提高系統(tǒng)的可信度、可
接受性和可控性,確保用戶對(duì)系統(tǒng)行為有充分的了解。特定應(yīng)用場(chǎng)景無(wú)人駕駛透明
可釋的可信性評(píng)價(jià)內(nèi)容包含透明度以及可解釋性兩大指標(biāo)。
數(shù)據(jù)可護(hù)指的是在無(wú)人駕駛系統(tǒng)中,對(duì)于系統(tǒng)行為的責(zé)任應(yīng)該是能夠被追溯和
確定的。在無(wú)人駕駛技術(shù)發(fā)生故障、事故或其他不良事件時(shí),能夠追蹤到造成這些
事件的原因和責(zé)任,以便進(jìn)行事故調(diào)查、責(zé)任認(rèn)定和必要的法律程序。特定應(yīng)用場(chǎng)
景無(wú)人駕駛責(zé)任可溯的可信性評(píng)價(jià)內(nèi)容包含數(shù)據(jù)安全以及隱私保護(hù)兩大指標(biāo)。
責(zé)任可溯指的是在無(wú)人駕駛系統(tǒng)中,對(duì)于系統(tǒng)行為的責(zé)任應(yīng)該是能夠被追溯和
確定的。在無(wú)人駕駛技術(shù)發(fā)生故障、事故或其他不良事件時(shí),能夠追蹤到造成這些
事件的原因和責(zé)任,以便進(jìn)行事故調(diào)查、責(zé)任認(rèn)定和必要的法律程序。特定應(yīng)用場(chǎng)
6
景無(wú)人駕駛責(zé)任可溯的可信性評(píng)價(jià)內(nèi)容包含可追溯性、可審計(jì)性、風(fēng)險(xiǎn)管理三大指
標(biāo)。
2.2.2評(píng)價(jià)流程
特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)流程如下圖所示:
測(cè)試數(shù)據(jù)開(kāi)始
安全可控評(píng)價(jià)
是
是否發(fā)生碰撞
否
是否滿足安全性否
其他要求
是
是否滿足可靠性、否
可控性的要求
單工況評(píng)價(jià)
是
自主高效評(píng)價(jià)透明可釋評(píng)價(jià)
數(shù)據(jù)可護(hù)評(píng)價(jià)責(zé)任可溯評(píng)價(jià)
多工況評(píng)價(jià)綜合得分計(jì)算
可信性得分結(jié)束
圖1特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)流程
特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性總體評(píng)價(jià)流程分為兩個(gè)層次:?jiǎn)喂r評(píng)價(jià)和多工
況評(píng)價(jià),即單次測(cè)試評(píng)價(jià)和多次測(cè)試評(píng)價(jià),評(píng)價(jià)體系架構(gòu)(左)和流程(右)如上
圖所示。用于評(píng)價(jià)的測(cè)試數(shù)據(jù)應(yīng)由仿真測(cè)試或?qū)嵻?chē)測(cè)試輸出,且所有測(cè)試數(shù)據(jù)應(yīng)屬
同一被測(cè)車(chē)輛,并經(jīng)同一測(cè)試平臺(tái)測(cè)試獲得。
2.2.3評(píng)價(jià)方法
特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)指標(biāo)體系如下圖所示:
7
圖2特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)指標(biāo)體系
其中,一級(jí)指標(biāo)包括:(1)安全可控;(2)自主高效;(3)透明可釋?zhuān)唬?)
數(shù)據(jù)可護(hù);(5)責(zé)任可溯。
對(duì)應(yīng)的二級(jí)指標(biāo)包括:
(1)安全可控:安全性;可靠性;穩(wěn)定性。
其中安全性包含碰撞頻次、橫向間距異常頻次、縱向間距異常頻次、縱向時(shí)距
異常頻次四個(gè)三級(jí)指標(biāo);可靠性包含系統(tǒng)平均失效率、違規(guī)違章頻次、異常低速行
駛距離、異常高速行駛距離四個(gè)三級(jí)指標(biāo);穩(wěn)定性包含橫擺角速度異常頻次、橫向
加速度異常頻次、縱向加速度異常頻次三個(gè)三級(jí)指標(biāo)。
(2)自主高效:智能性;高效性;舒適性;生態(tài)性。
其中智能性含接管頻次、自主完成任務(wù)成功率、突發(fā)狀況響應(yīng)時(shí)間、突發(fā)狀況
合理響應(yīng)頻次、合作完成任務(wù)成功率五個(gè)三級(jí)指標(biāo);高效性包含行駛時(shí)間效率、平
均行程車(chē)速兩個(gè)三級(jí)指標(biāo);舒適性包含橫向加速度變化率峰值、縱向加速度變化率
峰值兩個(gè)三級(jí)指標(biāo);生態(tài)性包含行駛里程與能量消耗比一個(gè)三級(jí)指標(biāo)。
(3)透明可釋?zhuān)和该鞫?;可解釋性?/p>
其中透明度含信息公開(kāi)程度和文檔記錄水平兩個(gè)三級(jí)指標(biāo);可解釋性包含解釋
滿意度、用戶理解度、用戶依賴度三個(gè)三級(jí)指標(biāo)
(4)數(shù)據(jù)可護(hù):數(shù)據(jù)安全;隱私保護(hù)。
其中數(shù)據(jù)安全包含訪問(wèn)權(quán)限規(guī)范性以及數(shù)據(jù)危害抵抗性和全生命周期監(jiān)控評(píng)估
三個(gè)三級(jí)指標(biāo);隱私保護(hù)包含隱私規(guī)程明確性、隱私規(guī)程公開(kāi)性、隱私信息屏蔽率、
隱私特征屏蔽率、訓(xùn)練數(shù)據(jù)隔離率和隱私規(guī)程可維護(hù)性六個(gè)三級(jí)指標(biāo)。
(5)責(zé)任可溯:可追溯性;可審計(jì)性;風(fēng)險(xiǎn)管理。
8
其中可追溯性包含責(zé)任主體記錄完善性、問(wèn)責(zé)關(guān)系記錄于文檔評(píng)價(jià)兩個(gè)三級(jí)指
標(biāo);可審計(jì)性包含系統(tǒng)運(yùn)行過(guò)程分析、系統(tǒng)輸入輸出查取以及系統(tǒng)輸出異常判定三
個(gè)三級(jí)指標(biāo);風(fēng)險(xiǎn)管理包含風(fēng)險(xiǎn)識(shí)別評(píng)估能力、風(fēng)險(xiǎn)應(yīng)對(duì)管理能力兩個(gè)三級(jí)指標(biāo)。
得到各個(gè)指標(biāo)的評(píng)價(jià)方法后,可將各級(jí)評(píng)價(jià)指標(biāo)進(jìn)行歸一化并利用層次分析法
得到單工況可信性總體評(píng)價(jià),最終計(jì)算多工況平均性能、穩(wěn)定性以及多工況可信性
總體評(píng)價(jià)。
2.3關(guān)鍵技術(shù)問(wèn)題說(shuō)明
特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)作為充分考慮測(cè)評(píng)需求的先進(jìn)評(píng)價(jià)方法,融
合了多種學(xué)科、不同領(lǐng)域的前沿技術(shù),包括無(wú)人駕駛安全評(píng)價(jià)技術(shù)、無(wú)人駕駛智能
性評(píng)價(jià)技術(shù)、可信人工智能技術(shù)、綜合評(píng)價(jià)技術(shù)等。
2.2.1無(wú)人駕駛安全評(píng)價(jià)技術(shù)
無(wú)人駕駛安全評(píng)價(jià)技術(shù)是一種系統(tǒng)性評(píng)估無(wú)人駕駛預(yù)期功能安全的方法,旨在
驗(yàn)證無(wú)人駕駛車(chē)輛在各種路況和情境下的安全可靠性。預(yù)期功能安全的基本概念由
ISO21448提出和定義,旨在避免由于與其功能或其實(shí)現(xiàn)的功能不足導(dǎo)致危害所產(chǎn)
生的不合理風(fēng)險(xiǎn)。相關(guān)技術(shù)主要包括:SOTIF分析評(píng)估技術(shù),即采用有效的安全分
析技術(shù)例如故障樹(shù)分析、失效模式與影響分析、危害與可操作性分析;SOTIF驗(yàn)證
確認(rèn)技術(shù),即進(jìn)一步發(fā)現(xiàn)不安全場(chǎng)景和證明SOTIF得到充分保障,須綜合考慮所采
用技術(shù)的有效性、可行性和成本,如基于分析對(duì)比的驗(yàn)證、仿真和軟硬件在環(huán)等技
術(shù)成本相對(duì)較低;近年來(lái),基于場(chǎng)景的測(cè)試得到了廣泛研究與實(shí)踐,例如基于知識(shí)
驅(qū)動(dòng)和數(shù)據(jù)驅(qū)動(dòng)的特定場(chǎng)景或用例的生成等;SOTIF功能改進(jìn)技術(shù),主要分為三種
技術(shù)路線:第一、性能提升,如提高特定傳感器或感知模型自身的性能上限;第二、
風(fēng)險(xiǎn)監(jiān)測(cè)與防護(hù);第三、功能冗余,如通過(guò)設(shè)冗余功能模塊以改善整體性能表現(xiàn)。
第3節(jié)將針;SOTIF發(fā)布技術(shù),旨在論證系統(tǒng)是否符合SOTIF發(fā)布準(zhǔn)則,可通過(guò)上
述分析評(píng)估,設(shè)計(jì)改進(jìn)和驗(yàn)證確認(rèn)等活動(dòng)形成完整安全文檔,進(jìn)而可利用目標(biāo)結(jié)構(gòu)
表示法、拓展證據(jù)網(wǎng)絡(luò)等技術(shù)進(jìn)行安全論證。
2.2.2無(wú)人駕駛智能性評(píng)價(jià)技術(shù)
無(wú)人駕駛智能性評(píng)價(jià)技術(shù)是一種評(píng)估無(wú)人駕駛車(chē)輛作為智能系統(tǒng)的任務(wù)決策能
力和復(fù)雜環(huán)境的認(rèn)知和理解能力的技術(shù),有利于促進(jìn)汽車(chē)工業(yè)設(shè)計(jì)、生產(chǎn)和銷(xiāo)售的
良性循環(huán),刺激汽車(chē)生產(chǎn)商提高汽車(chē)智能化水平并為消費(fèi)者購(gòu)車(chē)時(shí)提供參考。無(wú)人
9
駕駛智能性一般可以認(rèn)為是無(wú)人駕駛系統(tǒng)能夠完成需要人類(lèi)智能才能完成的任務(wù),
技術(shù)內(nèi)容包含評(píng)價(jià)指標(biāo)以及評(píng)價(jià)方法。選取評(píng)價(jià)指標(biāo)是無(wú)人駕駛智能性評(píng)價(jià)技術(shù)的
前提和基礎(chǔ),分為明確評(píng)價(jià)目標(biāo)、評(píng)價(jià)對(duì)象、評(píng)價(jià)指標(biāo)三個(gè)步驟;評(píng)價(jià)方法分為定
量評(píng)價(jià)方法和定性評(píng)價(jià)方法:定量評(píng)價(jià)方法采用數(shù)學(xué)的方法,收集和處理數(shù)據(jù)資料,
最終以精確的數(shù)值概括全部的評(píng)價(jià)信息,包括獨(dú)立指標(biāo)評(píng)價(jià)方法和聯(lián)合指標(biāo)評(píng)價(jià)方
法,具有包含層次分析法、客觀賦權(quán)法、灰色關(guān)聯(lián)度法、TOPSIS法等技術(shù);定性
評(píng)價(jià)方法以歸納分析等非量化手段對(duì)自動(dòng)駕駛車(chē)輛智能性進(jìn)行評(píng)價(jià),最終的評(píng)價(jià)結(jié)
果是宏觀的智能性水平劃分,而非精確的數(shù)值,具體技術(shù)例如蛛網(wǎng)模型,從一個(gè)原
點(diǎn)往外輻射出幾條軸,每條軸代表一個(gè)決定智能性的關(guān)鍵技術(shù),在每個(gè)軸上根據(jù)技
術(shù)成熟度分為若干個(gè)等級(jí),最后把每條軸上的對(duì)應(yīng)點(diǎn)連接起來(lái)構(gòu)成蛛網(wǎng)的緯線,以
此評(píng)價(jià)智能性。
2.2.3可信人工智能技術(shù)
可信人工智能技術(shù)是一種注重透明度、責(zé)任、安全和隱私保護(hù)的人工智能技術(shù)
范式,旨在構(gòu)建可被信任和可解釋的AI系統(tǒng)?!翱尚判浴钡母拍钍窃谲浖鹘y(tǒng)的
“可靠”“安全”等概念的基礎(chǔ)上發(fā)展而來(lái),人工智能系統(tǒng)作為軟件系統(tǒng)的一種,
其可信性需要滿足傳統(tǒng)軟件的要求,而作為人工智能系統(tǒng),其可信性又要強(qiáng)調(diào)其本
身的特性和人的特征。人工智能系統(tǒng)可信證據(jù)是指可從人工智能系統(tǒng)中提取且用于
衡量人工智能系統(tǒng)可信性的相關(guān)指標(biāo)。人工智能系統(tǒng)的可信性技術(shù)分為訓(xùn)練數(shù)據(jù)的
可信性度量、學(xué)習(xí)模型的可信性度量和預(yù)測(cè)結(jié)果的可信性度量,并基于此形成可信
度量模型,例如基于主觀邏輯的神經(jīng)網(wǎng)絡(luò)可信量化框架、利用確定性邏輯和主觀邏
輯開(kāi)發(fā)的評(píng)估可信值的理論模型等。
2.2.4綜合評(píng)價(jià)技術(shù)
綜合評(píng)價(jià)技術(shù)指的是運(yùn)用多個(gè)指標(biāo)對(duì)多個(gè)評(píng)價(jià)對(duì)象進(jìn)行綜合性的統(tǒng)計(jì)評(píng)價(jià)的方
法,旨在從而來(lái)判斷系統(tǒng)的整體性能?,F(xiàn)代綜合評(píng)價(jià)方法包括層次分析法、主成分
分析法、數(shù)據(jù)包絡(luò)分析法、模糊評(píng)價(jià)法等。其中層次分析法是指將與決策總是有關(guān)
的元素分解成目標(biāo)、準(zhǔn)則、方案等層次,在此基礎(chǔ)之上進(jìn)行定性和定量分析的決策
方法;主成分分析法是將其分量相關(guān)的原隨機(jī)向量,借助于一個(gè)正交變換,轉(zhuǎn)化成
其分量不相關(guān)的新隨機(jī)向量,并以方差作為信息量的測(cè)度,對(duì)新隨機(jī)向量進(jìn)行降維
處理,再通過(guò)構(gòu)造適當(dāng)?shù)膬r(jià)值函數(shù),進(jìn)一步做系統(tǒng)轉(zhuǎn)化的方法;模糊分析法基于模
糊數(shù)學(xué),不僅可對(duì)評(píng)價(jià)對(duì)象按綜合分值的大小進(jìn)行評(píng)價(jià)和排序,而且還可根據(jù)模糊
10
評(píng)價(jià)集上的值按最大隸屬度原則去評(píng)定對(duì)象的等級(jí)。綜合評(píng)價(jià)法的特點(diǎn)表現(xiàn)為評(píng)價(jià)
過(guò)程不是逐個(gè)指標(biāo)順次完成的,而是通過(guò)一些特殊方法將多個(gè)指標(biāo)的評(píng)價(jià)同時(shí)完成
的;且在綜合評(píng)價(jià)過(guò)程中,一般要根據(jù)指標(biāo)的重要性進(jìn)行加權(quán)處理;評(píng)價(jià)結(jié)果不再
是具有具體含義的統(tǒng)計(jì)指標(biāo),而是以指數(shù)或分值表示參評(píng)單位"綜合狀況"的排序。
2.4標(biāo)準(zhǔn)主要內(nèi)容的論據(jù)
本標(biāo)準(zhǔn)特定應(yīng)用場(chǎng)景無(wú)人駕駛可信性評(píng)價(jià)指標(biāo)體系的每一個(gè)評(píng)價(jià)指標(biāo)的計(jì)算方
法、評(píng)分標(biāo)準(zhǔn)充分研究了國(guó)內(nèi)外標(biāo)準(zhǔn)并在工作組內(nèi)進(jìn)行了充分的討論,并進(jìn)行了相
應(yīng)的技術(shù)驗(yàn)證,最終形成了當(dāng)前結(jié)論。
在上述內(nèi)容的編制過(guò)程中,一級(jí)指標(biāo)安全可控中安全性指標(biāo)參考了TSHJX047
—2022智能網(wǎng)聯(lián)汽車(chē)匝道場(chǎng)景交通和諧性測(cè)試與評(píng)價(jià)方法、GA/T1773.1—2021機(jī)
動(dòng)車(chē)駕駛?cè)税踩拿鞑僮饕?guī)范第2部分:小型汽車(chē)駕駛等對(duì)于碰撞次數(shù)及橫縱向
碰撞異常間距的相關(guān)規(guī)定;可靠性指標(biāo)參考了GB-T5080.7-1986設(shè)備可靠性試驗(yàn)恒
定失效率假設(shè)下的失效率與平均無(wú)故障時(shí)間的驗(yàn)證試驗(yàn)方案、GBT21562-2008軌
道交通可靠性、可用性、可維修性和安全性規(guī)范及示例等對(duì)于可靠性的定義及系
統(tǒng)失效率的相關(guān)評(píng)價(jià)方法;穩(wěn)定性的指標(biāo)參考了《TransportationResearchPartC:
EmergingTechnologies》《ControlEngineeringPractice》等行業(yè)論文。
自主高效中智能性指標(biāo)參考了《IEEETransactionsonIntelligentVehicles》、
《AppliedMechanicsandMaterials》等論文中的相關(guān)計(jì)算方法;高效性指標(biāo)參考了
《IEEETransactionsonIntelligentTransportationSystems》、《TransportationResearch
PartB:Methodological》等高水平論文中的相關(guān)定義及量化方式;生態(tài)性指標(biāo)設(shè)計(jì)參
考了GB/T19753-2021輕型混合動(dòng)力電動(dòng)汽車(chē)能量消耗量試驗(yàn)方法、GB/T
19233-2020輕型汽車(chē)燃料消耗量試驗(yàn)方法等相關(guān)國(guó)家標(biāo)準(zhǔn);舒適性指標(biāo)參考了
GB/T13441.4-2012機(jī)械振動(dòng)與沖擊人體暴露于全身振動(dòng)的評(píng)價(jià)第4部分:振動(dòng)
和旋轉(zhuǎn)運(yùn)動(dòng)對(duì)固定導(dǎo)軌運(yùn)輸系統(tǒng)中的乘客及乘務(wù)員舒適影響的評(píng)價(jià)指南、《車(chē)輛動(dòng)
力學(xué)控制與人體脊椎振動(dòng)分析》等中的定義與計(jì)算方法。
透明可釋中透明度指標(biāo)參考了《EthicsguidelinesfortrustworthyAIAssmentlist
fortrustworthyartificialintelligence(altai)forself-assessment》、《軟件可信性定量評(píng)
估:模型、方法與實(shí)施》等中對(duì)于透明度指標(biāo)的定義以及文檔記錄水平評(píng)價(jià)內(nèi)容;
11
可解釋性指標(biāo)參考了《DARPA’sExplainableArtificialIntelligenceProgram》、《Metrics
forExplainableAI:ChallengesandProspects》等中的定義。
數(shù)據(jù)可護(hù)的數(shù)據(jù)安全指標(biāo)參考了CSAE267-2022智能網(wǎng)聯(lián)汽車(chē)自動(dòng)駕駛地圖
數(shù)據(jù)質(zhì)量規(guī)范、T/ISC-0011數(shù)據(jù)安全治理能力評(píng)估方法、《數(shù)據(jù)安全治理實(shí)踐指南
1.0》等中計(jì)算方案;隱私保護(hù)指標(biāo)參考了《華為隱私保護(hù)治理白皮書(shū)》、GB/T35273
信息安全技術(shù)個(gè)人信息安全規(guī)范。
責(zé)任可溯指標(biāo)的設(shè)計(jì)思路與原則參考了《軟件可信性定量評(píng)估:模型、方法與
實(shí)施》、《D:C-5.1MetricsforAccountability》等文件或行業(yè)論文;可追溯性指標(biāo)具
體參考了《EthicsguidelinesfortrustworthyAI》《JRCSCIECEFORPOLICYREPORT
TrustworthyAutonomousVehicles》等行業(yè)論文,可審計(jì)性指標(biāo)具體參考了《AI
AUDIT-WASHINGANDACCOUNTABILITY》《Auditingmachinele
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 企業(yè)內(nèi)部如何建立高效的醫(yī)療信息安全事件處理機(jī)制
- 辦公自動(dòng)化與AI加密區(qū)塊鏈技術(shù)的安全保障
- 醫(yī)療健康數(shù)據(jù)與疾病預(yù)測(cè)的精準(zhǔn)性
- 健康數(shù)據(jù)驅(qū)動(dòng)的醫(yī)療支出決策模式
- 從醫(yī)療事故看醫(yī)患信任的脆弱性
- 醫(yī)療行業(yè)數(shù)字化轉(zhuǎn)型數(shù)據(jù)驅(qū)動(dòng)的醫(yī)療安全策略
- 以人為本探索更佳的醫(yī)療商業(yè)服務(wù)模式
- 醫(yī)療安全文化在專(zhuān)科護(hù)理教育中的重要性
- 八年級(jí)生物上冊(cè)知識(shí)點(diǎn)總結(jié)模版
- 醫(yī)療事故預(yù)防與風(fēng)險(xiǎn)控制教育
- DBJ33T 1104-2022 建設(shè)工程監(jiān)理工作標(biāo)準(zhǔn)
- 河北省管道直飲水項(xiàng)目可行性研究報(bào)告
- 2024年甘肅省平?jīng)鍪兄锌忌镎骖}卷及答案解析
- 光電效應(yīng)教學(xué)課件
- 腦卒中健康宣教(課堂課件)
- 【微訓(xùn)練】20天 背默填 玩轉(zhuǎn)60篇(高語(yǔ)名默循環(huán)練)-教師版
- 有機(jī)水果市場(chǎng)分析與可行性研究
- 保溫隔熱工程腳手架工程分包協(xié)議
- 勞務(wù)雇傭免責(zé)協(xié)議書(shū)范本兩篇
- 非中醫(yī)類(lèi)別醫(yī)師學(xué)習(xí)中醫(yī)藥專(zhuān)業(yè)知識(shí)管理辦法(試行)
- 第20課 社會(huì)主義國(guó)家的發(fā)展與變化 課件歷史下學(xué)期統(tǒng)編版(2019)必修中外歷史綱要下
評(píng)論
0/150
提交評(píng)論