汽車制造商必須決定自動駕駛汽車可接受的不確定性

為了實現可以安全運行且無需人工輸入的自動駕駛汽車的目標- 即 L5自動化 - 汽車制造商必須培訓AI系統，以便在現實世界中遇到無數條件，以便它們實際上不會遇到現實世界中的任何事情)。正如我們從車輪后面的經驗所知，我們的高速公路和道路是完全不可預測的地方，他們將不斷要求自動駕駛汽車立即解釋并對“邊緣情況”情景做出反應。

雖然機器學習可以指導AI開發對其多次見過的場景的認識和反應，但是對于百萬分之一(或十億)的情況，人工智能訓練存在巨大的障礙。例如，AI可能精通基本的高速公路駕駛，或在預期情況下識別行人。然而，邊緣案件比比皆是。高速公路上可能散落著各種東西，從輪胎廢料到沙發，再到追逐鴨子的祖母 ; 萬圣節服裝可以使行人難以察覺; 你可以設置自動駕駛汽車的陷阱 ; 甚至電動滑板車也可能證明AV有問題。總會存在公司無法模擬的“未知未知數”，因為沒有人能預見到要模擬什么。

成功解決不可預測性對于自動駕駛尤為重要，因為任何意外和未被發現的障礙都可能成為生死攸關的安全問題。因此，解決邊緣情況的風險對于行業來說是巨大的。

解決深度學習的邊緣情況約束

深度學習在解決這些邊緣案例中的應用阻礙了一個主要問題：深度學習并不適合提供這樣的保證。雖然可以根據已知數據集確定AI應用程序的準確性，但在邊緣情況發生且必須處理不熟悉數據的實際情況下，無法保證性能。在處理與之前遇到的數據集非常相似的數據集時，深度學習系統可提供令人驚嘆的結果并超出預期。但是，由于它們推斷信息的能力有限，因此沒有辦法預測它們在這些異常情景中的運作方式。實際上，大量的深度學習理論支持這樣一種觀點，即在某種程度上，這些系統實際上不可能理解與他們所訓練的數據不同的數據領域。

面對這種限制，今天最成功的策略就是為AI應用程序提供大量數據，以便盡可能熟悉盡可能多的潛在邊緣情況。這種強力方法要求汽車一直被驅動，以便在更加陌生的場景中構建體驗，然后將這些數據添加到系統中。這樣做需要自動駕駛汽車系統制造商擁有標記和支持這些令人難以置信的數據量的基礎設施。

然而，即使制造商能夠在這一刻獲得接近無限量的數據，仍然無法為他們在道路上看到的所有東西準備自動駕駛汽車。世界變化，人類行為改變，新車和物體(如前面提到的踏板車)被引入等等。鑒于這一現實，車輛系統制造商有很大的責任來決定他們如何最終解決現實世界的不確定性，同時提供安全舒適的自動駕駛車輛體驗，不會出現每個未知的誤報(即不必要的制動)。

建立衡量成功的方法

今天，AV行業的參與者自然而然地采取對抗的立場來競爭誰擁有最好的技術。然而，這里面臨的問題是如此存在和具有挑戰性 - 例如確定如何最好地測試自動駕駛汽車技術是否真正可以安全使用 - 行業領導者可能需要聯合起來回答這些問題。與此同時，客戶和整個社會需要確信這項技術是安全和有益的。我相信一個開放的標準，由行業建立，用于測試和驗證自動駕駛汽車的安全性，可以幫助實現這一目的。協作和邊緣案例數據共享可能是每個人的最佳策略。

至于自動駕駛汽車必須達到的安全水平，重要的是要認清兩件事。首先，人類是非常好的驅動力; 我們每165,000英里只發生一次事故。其次，在人類和機器方面，我們的期望是雙重標準。我們希望人類犯錯誤，但我們發現當機器出現故障時它更不可接受。鑒于這些期望，自動駕駛汽車可能需要比人類駕駛員安全10倍才能獲得廣泛認可。雖然我們距離看到L5完全自動駕駛的車輛能夠駕馭通道無處不在的情況可能需要幾年的時間，但是當我們到達那里時，我們將會更安全。

Alexandr Wang是Scale公司的首席執行官，該公司通過對智能數據的訪問進行民主化來加速AI的發展。