Detroit: Become Human |靈魂是軟體上的必然錯誤,還是機器學習的終極結果?

 

隨著 cyberlife(模控生命)創辦人 Elijah Kamski 建立了第一個通過圖靈測試的彷生人後,在 2038 年的底特律,彷生人已經全面普遍,能夠幫忙處理人們的日常瑣事,舉凡家庭雜物、孩童照顧與作業教學、健康照護和醫療手術、大學教授、警察與士兵人力甚至性工作者等等。

在彷生人不用休息且遵守命令的情況之下,替代了大部分公民的工作,結果使得美國呈現出生產力大增但失業率也達到高峰的詭異情況,勞工被稱作失落的一代,為了填補麻醉這些失業勞工們苦痛的特效藥則是被稱做紅冰的毒品,帶來了另一波難以解決的毒品危機。

人們對於彷生人既需要又討厭,隨著異常彷生人的案例出現,彷生人不僅失蹤、有些更是犯下了傷害人類的事件,使得 cyberlife 必須以底特律警方合作調查這些案件。如此的背景描述為《Detroit: Become Human》的遊戲世界觀設定,

與警方密切合作的彷生人 Connor、發生過損壞被重置後繼續照顧主人 Todd 一家的 Kara 和知名藝術家 Carl 情同父子的 Markus,透過這三位彷生人的故事來探討異常彷生人到底是軟體模擬上的錯誤還是能夠被視為新的智慧生命形式的議題討論。如同遊戲標題所寫的,AI 是否活著、是否為人

AI  科技的發展與道德哲學上的議題從來沒停過,就如同遊戲中提到且現實中也實際存在的圖靈測試,AI 的發展早在二次大戰就以開展,人們用測試對象皆能理解的語言向雙方詢問問題,若觀察者無法判斷雙方的不同,便能判斷受測者具有智慧。當然此方式也並不是所有人都能夠接受,已故 AI 專家 John McCarthy 也認為即使受測者因無法了解人類而無法模仿,也不能就此認知對方並無智慧。


給予自由必形成價值

遊戲中的彷生人會因為其他的事件而迫使自己打破遵守命令的那道無形的牆而形成異常,遊戲的設計也相當有趣,剛開始扮演著彷生人乖乖遵守指令進行各種日常生活瑣事,一個指令一個動作的完成,猶如自動巡路配上自動內掛乖乖農怪的作業感,也是一種巧妙的遊戲教學關卡:讓玩家接受成為仿生人的訓練

但是當成為異常彷生人之後沒有人交付給玩家實際的指令,一切都由玩家自行選擇,選擇所帶來的結果與期待遠超乎遵守命令帶來的想像,遊戲給予玩家感到自由的價值,更進一步認知到異常彷生人有他們的情感、慾望、理念和信仰等等,甚至逐漸認同彷生人為具有生命的存在。

在遊戲的世界觀中彷生人並無明顯有偵測人類情緒的的功能,也並沒有體會到自身情感的體認。遊戲試著告訴玩家,當我們還在思索著我們是否會愛上具有人類智慧的人造物時,似乎也忽略了自己也會被對方視為唯一獲感到不公平等之類的情感訴求。

另外除了 AI 是否具有生命形式的討論外,遊戲中將彷生人視為一般機器所進行的一系列處置,也頗有討論種族歧視的意味,如彷生人無法在公車上與人類共乘、過度的傷害虐待彷生人、因為異常事件將彷生人集中消滅的集中營等,能夠體認到當人們因偏見或刻板印象對部分群體無法視為平等,或對該群體感到恐懼時可能會產生的非人道處置的歷史悲劇重現。


未來 AI 的想像

遊戲團隊對於遊戲世界導入彷生人科技之後的想像,可從遊戲中隨手取得的雜誌或電視新聞上閱讀得知,美俄雙方的較勁已經不是太空競賽,而是彷生人發展,彷生人除了有可替換的生物組件外,也需要藍血來維持生理機能,其原料則來自鈦,因此美俄雙方也對於具有豐富鈦資源的北極領地充滿了野心,也充滿了鉤心鬥角的政治操作。

而彷生人除了能夠處理大部分雜務外,也在音樂上、體育等領域大出風頭,人們反對彷生人甚至討厭他們的理由也可想而知了。另外自動車若無法避免的會撞到人,還會偵測他們的經濟情況、教育背景等來對這些「受害者」進行評級之後選擇對於社會較不重要的人,呃,撞下去。

這些描寫可以得知 Quantic Dream 團隊對於未來科技的想像並不空泛,從遊戲中底特律城市的背景除了有強 AI 如彷生人與人類世界的互動外,也有晚上巡邏的的弱 AI 無人機、制度化且大眾化的自駕交通工具等等,cyberlife 的出現儼然如同 Apple 當初率先推行智慧型手機造成狂熱的開路先鋒一樣,

獨佔整個彷生人市場也暫時沒有其競爭對手,也是當下市值最高的公司,或許 20 年後彷生人的出現與普及似乎多了點幻想,但也有文章指出 2050 年世界將面臨能夠實行人類所有能處理事物的強 AI 出現,也許這樣的情境到來只是時間早晚的問題。


AI 和玩家的情緒

在遊戲主要角色的刻劃上,Connor 因協助人類警察調查異常彷生人的案件勢必會面臨到堅持調查與選擇自己異常的路線,Kara 則是保護被 Todd 家暴的女孩 Alice 之間如同母女的逃亡加拿大邊境之旅,Markus 與藝術家 Carl 如同父子的相處感受到彷生人與人類共處的希望且陰錯陽差地開啟革命之旅,

群像劇的表現方式使得故事格局逐漸擴大,遊戲不斷告訴玩家異常彷生人產生了與人類一樣的情緒、有了共同的信仰,總有一天第一個成為異常彷生人的 rA9 會起身奮鬥彷生人們的價值,透過 Connor 不斷的調查與 Markus 主動表達彷生人們的聲音讓故事逐漸完整。

但也有些令人不自在的處理,當玩家操縱完 A 角色的落腳點時,下一段緊接則是操縱 B 去追捕 A 的任務,玩家的情緒代入可能會感到些許的不適應,無法當下從逃亡者轉換成獵捕者的情境去應對問題,或許這可能是遊戲團隊想要玩家陷入兩難而設計的決策困境,但玩家由於仍處於逃亡當下的心境,而不管自己所操縱的角色而做出一些彆手彆腳的操作,後來發現到不執行這些無謂的操作也依然按照玩家心想的套路走時,多少讓人感到突兀。

另外根據 Perron 的文章指出,玩家尤其在進行以故事為驅動的遊戲中所產生的情緒,大致可分為三種,第一種為 Fiction emotions,簡稱為「F emotions」,指得是玩家進入遊戲世界中所產生的想像,蒸氣世界、劍與魔法等等,或是因為 NPC 本身設定背景的故事情節所引發的情緒。

第二種為 Artefact emotions,簡稱為「A emotions」,為玩家自身所意識到,像是本身的不良設計所導致的情緒、難以破解的謎題造成的挫折感、或是對於物理引擎的表現感到震驚等等。最後則是 Gameplay emotions,簡稱為「G emotions」,為代表玩家的角色進行選擇與決策所引發的事件回應所引發的情緒,此情緒的產生與玩家和遊戲世界的互動有關。

若以這些情緒觀點看待 Detroit: Become Human,以個人經驗來說 Artefact emotions 給我的反應算是毀譽參半,優異的遊戲畫面表現但和物件的互動上非常詭異,手把的右邊蘑菇頭同時操作攝影鏡頭也是互動的主要手段,導致行進中及時與物件的互動有點卡手,QTE 的設計即使是強調操作不當會導致腳色死亡的高手模式,在許多場景沒按到大部分也不會有事,也會觸發一樣既定的事件。

但 Gameplay emotions 的回饋則是高水準表現,做出每個選擇的當下令人期待又怕受傷害,許多選擇更是讓人猶豫到最後一刻才趕緊按下,許多腳色間的互動與結果讓玩家心情也隨之起伏,有歡笑也有訣別,尤其身處在一個不被接受不被視為平等的群體裏面,從逃離到起身奮鬥爭取認同的過程的敘事方式,也是此遊戲能夠觸發玩家情緒感受的重要關鍵,

畢竟認不認同彷生人們具有靈魂、是否為新的生命形式,都是玩家必須去抉擇的。

The Androids will remember this.


Source

Perron, B. (2005). A cognitive psychological approach to gameplay emotions. The Rise of AI Makes Emotional Intelligence More Important,
https://hbr.org/2017/02/the-rise-of-ai-makes-emotional-intelligence-more-important

John McCarthy (2007) WHAT IS ARTIFICIAL INTELLIGENCE? Don’t fear super intelligent AI,
https://www.ted.com/talks/grady_booch_don_t_fear_superintelligence