墜毀的波音737 Max：一部人類無法控制的機器

李根 發(fā)自 凹非寺

量子位 報道 | 公眾號 QbitAI

美國波音飛機的賬，現(xiàn)在正被歸到機器上。

事故信息已眾所周知。3月10日，埃塞俄比亞航空公司的波音客機，在起飛6分鐘后墜毀，機上149名乘客、8名機組成員，全部遇難。其中還包括8名中國公民。

當(dāng)然，不僅因為空難原本就備受矚目，而且圍繞失事飛機機型，大家還迅速發(fā)現(xiàn)：這不是5個月前另一起印尼空難噩夢重演嗎？

波音B-737-800MAX，交付使用剛滿4個月的機型，成為眾矢之的。

并且更關(guān)鍵的問題，被指向該機型新系統(tǒng)的設(shè)計：

波音公司為節(jié)省發(fā)動機油耗，隱蔽修改飛機操作系統(tǒng)，而且機器程序還能在飛行員操縱之上，“擅自”給出控制指令，導(dǎo)致最后災(zāi)難避無可避。

且在人與機器誰對操縱負(fù)有決定權(quán)的“搏斗”中，波音的設(shè)計似乎已倒向機器一方。

于是連美國總統(tǒng)特朗普，也參與到口誅推伐中。

事故完整線

當(dāng)時上午8時38分，埃塞俄比亞航空這架編號“ET 302”飛機原計劃由埃塞俄比亞首都亞的斯亞貝巴，飛往肯尼亞首都內(nèi)羅畢。

那天天氣狀況良好，晴空朗日，沒有任何值得提前預(yù)警的動態(tài)。

但就在起飛后6分鐘左右，飛機失去聯(lián)系，后墜毀于出發(fā)地約50公里外，俯沖著陸，機毀人亡。

更早之前，據(jù)稱地面曾接到當(dāng)事飛機機長問題報告，請求迫降，但旋即失去聯(lián)系，最終沒有避免悲劇發(fā)生。

現(xiàn)在，雖然飛機黑匣子已經(jīng)找到，但具體失事相關(guān)原因還無結(jié)果，誰也不知道在生死之間，157名乘客經(jīng)歷了什么……

只是事故情況太可疑了。

除了天氣狀況良好，該航班機組信息也被進(jìn)一步挖出——履歷紀(jì)錄都非常好啊。

曝光信息稱：

失事班機的機師擁有極佳的飛行紀(jì)錄，飛行時數(shù)超過8000小時。

失事飛機在出事之前，剛從南非飛回埃塞俄比亞，地停3小時后執(zhí)行事故航班，失事前并沒有發(fā)現(xiàn)技術(shù)問題。

而埃塞俄比亞航空，也有良好的飛行安全紀(jì)錄。

在2018年的全球航空公司安全排名中，名位列第40，也是星空聯(lián)盟成員。還曾于2013年和2016年榮獲最佳非洲航空公司大獎，是非洲航空業(yè)的精英，未有過類似重大事故發(fā)生。

于是有心人發(fā)現(xiàn)，這機型怎么跟2018年10月29日印尼獅航的失事飛機一模一樣？

再一查，果然。

不僅機型都是波音737 MAX 8，而且也都是交付不久的新飛機。

更主要的是，失事過程也驚人相似。

當(dāng)時印尼獅航飛機國內(nèi)固定航線飛行，在起飛后13分鐘，于印尼以北海域墜毀，機上189人全部遇難。

而且事故原因，真與該型號飛機有關(guān)。

在黑匣子找到后的調(diào)查中，初步分析結(jié)果是：涉事飛機其中一個迎角感應(yīng)器失靈，導(dǎo)致飛行姿態(tài)修正系統(tǒng)錯誤地判定飛機即將失速，從而控制飛機進(jìn)入俯沖，而飛行員對此系統(tǒng)缺乏認(rèn)知，最終飛機因未能及時改平而墜毀。

此次埃塞俄比亞飛機也類似。

央視援引Flightradar24數(shù)據(jù)顯示，飛機的飛行數(shù)據(jù)記錄了埃航飛機最后的軌跡，飛機在起飛后，曾經(jīng)有過突然下降的跡象隨后又有拉升，之后消失在追蹤畫面中。

而在之前印尼獅航的分析中，還披露了一個更具體的問題：

飛機信號系統(tǒng)接收到一個假信號，信號顯示飛機“抬頭”，所以控制系統(tǒng)持續(xù)給出了“低頭”的指令。機組與控制系統(tǒng)搏斗很長時間，最終發(fā)生事故。

雖然埃航黑匣子調(diào)查結(jié)果還未公布，但不也發(fā)生了不正常的爬升與下降嗎？

背后究竟是怎樣的系統(tǒng)？

新功能MCAS

馬上，就有知名航空網(wǎng)友出來科普。

微博大V@歡樂的云端之上，身份是中國南航機長，介紹了可能讓飛機抬頭-低頭的系統(tǒng)原因所在。

他說大家討論的系統(tǒng)，指的是波音737MAX的新功能MCAS。

全稱：The Maneuvering Characteristics Augmentation System.

要點翻譯即：機動特性增強系統(tǒng)。

△via: The Air Current

波音737MAX設(shè)計之初，波音公司為讓新發(fā)動機更節(jié)油，從而安裝位置只能更高更靠前，但也帶來新問題——產(chǎn)生的抬頭力矩有讓飛機失速的風(fēng)險。

于是就設(shè)計了MCAS，在系統(tǒng)探測到大迎角時，電腦會自動讓飛機低頭。

同時也存在隱患：在接收到錯誤信息時存在自動低頭導(dǎo)致失控的隱患。

機長“歡樂的云端之上”猜測，這可能是關(guān)鍵原因。

還有機組人員進(jìn)一步爆料，更惡劣的是，“MCAS在接收到錯誤的信號后會自動讓飛機低頭”的問題，沒有被寫進(jìn)手冊里，印尼獅航空難時，飛行員就不知道有這個設(shè)計。

所以當(dāng)時的悲劇也與此相關(guān)。

在印尼獅航的波音客機出現(xiàn)防失速自動系統(tǒng)誤判后，不斷壓低飛機的機鼻，飛行員則拚了命想將機鼻拉起來，等于出現(xiàn)“人機搏斗”的情況，飛機在11分鐘內(nèi)升降26次，但飛機仍推向無法挽回的飛行姿勢，最終墜機。

△印尼獅航波音737MAX客機

歸結(jié)來說，在波音737MAX客機中，人類飛行員面對一個“關(guān)鍵時刻難以控制的機器”。

需要說明的是，印尼獅航事故后，波音公司也意識到了問題。

在2018年11月，波音公司向全球737MAX機型的運營商發(fā)布公告，警告該系列飛機的飛行控制系統(tǒng)存在讀數(shù)輸出錯誤的問題，可能會導(dǎo)致飛機自行大角度俯沖并墜落。

聲明稱，波音公司已向相關(guān)航空公司發(fā)出警告：飛機俯沖的問題只會在手動飛行時發(fā)生，且錯誤地輸出迎角傳感器(AOA)，導(dǎo)致飛機傾斜10秒。

更進(jìn)一步，飛行手冊也得到修改，飛行員也被針對性及時培訓(xùn)。

萬萬沒想到，不到5個月，另一起毀滅性空難就在同一機型上再次發(fā)生。

那么問題來了：如果說印尼獅航是飛行員不知情，那埃航噩夢重演，是否意味著在MCAS系統(tǒng)中，人類生死攸關(guān)的抉擇，算法權(quán)重是優(yōu)先于人的？

其實在MCAS系統(tǒng)設(shè)計中，是有相關(guān)機制考慮的，The Air Current有清楚介紹：

但至少從印尼獅航的事故中，看不出人類確實能“奪回”主動權(quán)。

機器決策 or 人類？

所以這樣的人機討論，并非毫無緣由。

外媒大西洋通訊社就直白表示，MCAS作為一個輔助人類的機器系統(tǒng)，卻在生死攸關(guān)時，不僅人類難以完全接管，而且還有“人機搏斗”，最后飛行員也沒能奪回控制權(quán)從而避免空難，需要深思。

這跟我們常說的自動駕駛汽車中輔助系統(tǒng)一樣，決定權(quán)究竟在人還是機器？到底是完全信任機器還是確實有中間態(tài)可走？

不過大西洋通訊社可還沒覺得MCAS能跟自動駕駛系統(tǒng)相提并論。

他們更傾向于把MCAS類比為汽車中的防抱死制動系統(tǒng)，該系統(tǒng)可以檢測到駕駛員在制動器上鼓搗的時間過長，然后進(jìn)行干預(yù)，以防止汽車進(jìn)入打滑狀態(tài)。

或者勉強能跟無人車中車道保持的控制模塊類似。

但說一千道一萬，大西洋通訊社的分析認(rèn)定：完全把人類命運交給機器程序，是不行的呀。

甚至還舉例說，1995年，哥倫比亞發(fā)生飛機撞山事件，核心原因是機組太信任飛機自動駕駛功能，以為已經(jīng)進(jìn)入自動駕駛系統(tǒng)設(shè)定的正確航路，最后導(dǎo)致機毀人亡。

而在已經(jīng)過調(diào)查的印尼獅航分析中，飛行員一直想把機頭拉回來，但機器系統(tǒng)不讓，還不斷推低它，最后還是自動化系統(tǒng)獲勝……

所以大西洋通訊社分析師呼吁：讓飛行員都熟知自動化系統(tǒng)原理顯然是不可能的，那能不能關(guān)鍵時刻直接按掉開關(guān)？

就像AlphaGo比賽中，拔掉電源。

然而這似乎也不能解決所有問題，一方面是波音確實有類似設(shè)計，但在印尼獅航?jīng)]起作用。

另外，這違背自動化系統(tǒng)被打造和應(yīng)用的初衷。

比如有網(wǎng)友就指出：還記得馬航370事件嗎？或者更遙遠(yuǎn)一點的911災(zāi)難。

如果有一個處心積慮的人類試圖控制飛機且做反人類之事，總開關(guān)一斷，我們何以保證安全？

機器，至少是理性客觀的，不會受人類情緒影響。

現(xiàn)在如果有機器導(dǎo)致的問題，那只能說明機器設(shè)計的還不夠好，人類工程師還需更努力。

總之，信任機器或者相信族群同胞，天平兩端都有人站。

特朗普鍵盤反對機器

不過知名網(wǎng)癮老年、美國總統(tǒng)特朗普，觀點就很明確。

他不認(rèn)為越來越技術(shù)化的飛機是好事。

在埃航討論中，特朗普連發(fā)兩推。

首先表示現(xiàn)在太過信任電腦：

飛機現(xiàn)在變得越來越復(fù)雜。飛行員都不需要了，只需要MIT（麻省理工學(xué)院）的電腦科學(xué)家。我看過很多型號的飛機，都是這樣。總是尋求不必要的更進(jìn)一步，而老的和簡單的往往更好。

緊接著補充：

有時需要爭分奪秒做出決定，這時復(fù)雜性就造成了危險……我不知道你們怎么想，但我可不想讓愛因斯坦來當(dāng)我的飛行員。我想要的是偉大的專業(yè)飛行員，可以輕松和迅速地控制飛機！

怎么說呢？特朗普兩條推特似乎相互矛盾。

因為更多MIT計算機科學(xué)家（先不管CMU和斯坦福有沒有意見）進(jìn)入航空領(lǐng)域，正是希望減少飛機操作的繁復(fù)性，從而降低對高門檻專業(yè)性的依賴啊。

而且特朗普也就鍵盤說說。

因為埃航事故發(fā)生后，全球大部分地區(qū)都紛紛宣布暫時停飛所有波音B-737-800MAX型號飛機，特別是中國，第一時間就宣布全部下線，等事故原因和分析結(jié)果出爐后再行討論。

其后英國到澳大利亞，也紛紛宣布暫停波音737MAX機型運營。有的國家甚至不光要求本國航空公司停飛，還禁止相關(guān)型號的飛機飛越他們的領(lǐng)空。

然而美國至今不為所動。

美國西南航空（Southwest Airlines）還表示：不暫停該機型，也不會對該機型做免費改簽。

一直被全球作為航空安全標(biāo)準(zhǔn)龍頭的美國聯(lián)邦航空管理局（FAA），依然堅持其安全認(rèn)定，稱對于波音B-737-800MAX，“根據(jù)現(xiàn)有信息，我們沒有任何依據(jù)向運營方發(fā)布新的指導(dǎo)。”

波音公司則在周二重申：對737 Max的安全性“充滿信心”。

然而大家對這家美國飛機制造商還依然“充滿信心”嗎？

波音737MAX機型遭全球23國禁飛，公司股價兩日下跌11%，市值已蒸發(fā)266.5億美元，約合人民幣1789.28億元。

按照波音737MAX官方1.2億美元架的定價，兩天損失了222架飛機。

然而逝去的生命，又如何用數(shù)據(jù)計算清楚？

世間除了生死，皆為小事。

希望類似悲劇，永遠(yuǎn)止步于此。

One more thing，也有評論將此次空難中被討論的系統(tǒng)，跟機器學(xué)習(xí)、AI直接掛鉤。

需要正名的是，這個鍋，跟人工智能離太遠(yuǎn)了……AI，背不了。