無(wú)人駕駛汽車和無(wú)人駕駛飛機(jī)不再是未來(lái)概念。截至2023年8月，舊金山兩家出租車公司的自動(dòng)駕駛出租車行駛里程就達(dá)到了800萬(wàn)英里，在美國(guó)注冊(cè)的自動(dòng)駕駛飛行器(無(wú)人機(jī))超過(guò)了85萬(wàn)架。但公眾對(duì)無(wú)人駕駛的安全性卻表示擔(dān)憂，截至2022年，美國(guó)國(guó)家公路交通安全管理局(NHTSA)就報(bào)告了近400起涉及使用自動(dòng)控制技術(shù)導(dǎo)致的車禍。
解決這個(gè)問(wèn)題的通常方法(有時(shí)名為“耗盡測(cè)試”)是指不斷測(cè)試這些系統(tǒng)，直到它們很安全為止，但是我們永遠(yuǎn)無(wú)法確信這個(gè)過(guò)程一定會(huì)發(fā)現(xiàn)所有潛在的缺陷。
目前，Mitra的團(tuán)隊(duì)已成功地證明了汽車車道跟蹤能力和自動(dòng)駕駛飛機(jī)著陸系統(tǒng)的安全性。他們的策略現(xiàn)在被用于幫助無(wú)人機(jī)降落在航空母艦上，波音公司計(jì)劃今年在一架試驗(yàn)飛機(jī)上進(jìn)行測(cè)試。
大體上來(lái)講，許多自動(dòng)駕駛汽車有兩個(gè)組成部分：感知系統(tǒng)和控制系統(tǒng)。比如說(shuō)，感知系統(tǒng)可以告訴你，你的車離車道中央有多遠(yuǎn)，或者飛機(jī)朝哪個(gè)方向飛去、它相對(duì)地平線的角度是多少。該系統(tǒng)可以將來(lái)自攝像頭及其他感測(cè)工具的原始數(shù)據(jù)，提供給基于神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)算法，算法重新構(gòu)建車輛外面的環(huán)境。
然后，這些評(píng)估結(jié)果被發(fā)送到一個(gè)單獨(dú)的系統(tǒng)：控制模塊——它決定執(zhí)行什么操作。比如說(shuō)，如果即將碰到障礙物，它會(huì)決定是踩剎車還是繞過(guò)障礙物。據(jù)麻省理工學(xué)院的副教授Luca Carlone表示，雖然控制模塊依賴成熟的技術(shù)，但“它根據(jù)感知結(jié)果做出決策，無(wú)法保證這些結(jié)果是正確的。”
為了提供安全保證，Mitra的團(tuán)隊(duì)致力于確保車輛感知系統(tǒng)的可靠性。他們先假設(shè)，若可以完美地渲染外界環(huán)境，就可以保證安全。然后，他們確定了感知系統(tǒng)在重新構(gòu)建車輛周圍環(huán)境時(shí)帶來(lái)的誤差。
這種策略的關(guān)鍵是量化所涉及的不確定因素，名為誤差范圍，或者“已知的未知因素”。這番計(jì)算來(lái)自感知契約(perception contract)。
在軟件工程領(lǐng)域，契約是一種承諾，針對(duì)計(jì)算機(jī)程序的給定輸入，輸出會(huì)在指定的范圍內(nèi)。而弄清楚這個(gè)范圍并非易事。汽車傳感器的精度如何? 無(wú)人機(jī)可以承受多大的霧、雨或太陽(yáng)眩光? 但是如果能將車輛保持在指定的不確定范圍內(nèi)，并且這個(gè)范圍足夠準(zhǔn)確，就可以確保其安全性。
感知契約為依賴機(jī)器學(xué)習(xí)的不完美系統(tǒng)的安全性提供了一種保證。Carlone表示，該團(tuán)隊(duì)最大的貢獻(xiàn)在于引入了感知契約這個(gè)概念，并提供了構(gòu)建感知契約的方法。為此，研究團(tuán)隊(duì)利用計(jì)算機(jī)科學(xué)分支技術(shù)做到這一點(diǎn)，形式驗(yàn)證提供了一種數(shù)學(xué)方法來(lái)確認(rèn)系統(tǒng)的行為滿足一系列要求。
Mitra表示，盡管他們不知道神經(jīng)網(wǎng)絡(luò)到底是如何執(zhí)行其操作的，但研究表明仍有可能從數(shù)值上，證明神經(jīng)網(wǎng)絡(luò)輸出的不確定性在一定范圍內(nèi)。而且，如果真是這樣，那么系統(tǒng)將是安全的。他們可以提供一個(gè)統(tǒng)計(jì)保證，表明某個(gè)特定的神經(jīng)網(wǎng)絡(luò)是否(以及在多大程度上)在這些范圍內(nèi)。
航空航天公司目前正在測(cè)試將無(wú)人機(jī)降落在航空母艦上時(shí)的安全性概率。由于飛行涉及另外的維度，這個(gè)問(wèn)題在某些方面比駕駛汽車來(lái)得更復(fù)雜。波音公司人工智能首席技術(shù)專家Dragos Margineantu表示，無(wú)人機(jī)在降落時(shí)，有兩個(gè)主要任務(wù)：將飛機(jī)與跑道對(duì)準(zhǔn)，并確保跑道上沒(méi)有障礙物。波音與Sayan的合作就是為這兩項(xiàng)任務(wù)提供安全保證。Margineantu特別指出，使用Sayan算法的模擬表明，飛機(jī)在降落前在對(duì)準(zhǔn)上確實(shí)有所改善。
參考及來(lái)源：https://www.quantamagazine.org/how-to-guarantee-the-safety-of-autonomous-vehicles-20240116/
來(lái)源：嘶吼專業(yè)版
在線咨詢
在線咨詢
0371-63319761