《底特律:變人》開發商總裁訪談:機器人可以當一位成功的總統!
《底特律:變人》(Detroit: Become Human)是由開發商 Quantic Dream 製作的動作冒險遊戲。描述一個近未來的幻想故事,那個時候人類世界主要是由栩栩如生的仿生人(android)作為服務階層。而社會的失業率極高,導致許多人對仿生人產生不滿。然後有意識的仿生人拒絕成為僕奴,紛紛發動了自己的反抗。
這聽起來和《魔鬼終結者》一樣不現實,不過遊戲總裁 David Cage 可是花了很多時間研究 Ray Kurzweil 開創性的著作:《奇點迫近》(The Singularity is Near)。Cage 試圖把他的研究發現放入遊戲世界,並盡可能使場景看起來合理。他從一個獨特的視角提出問題:如果人類是壞的,仿生人是好的,會發生什麼事?
GamesBeat 採訪了 Quantic Dream 總裁 David Cage,關於他如何在遊戲中講故事,以下是採訪紀錄。
GamesBeat:我對人工智慧很有興趣,而且我也想知道你們對《底特律:變人》背景故事的認真研究。你擔心未來幾十年人工智慧的發展嗎?
David Cage:我對人工智慧做了很多研究,始於 Ray Kurzweil 的一本舊書《奇點迫近》。這本書很重要,因為它讓我意識到未來會有一個歷史點,機器將比人類更有智慧。很難說在什麼時候,但我認為將來一定會發生。
研究《奇點迫近》是《底特律:變人》的起點。未來會發生什麼事?有兩種理論。第一種看法,機器終究只是機器,給機器擁有更多力量不代表可以發展成意識,因為意識和智力是不同的。第二種看法,人類也只是生物機器,意識從控制中心「大腦」浮現。如果是這樣的話,機器也可能感覺到意識。於是,當一個異於人的物種開始有了智慧、意識和情感時,人類如何反應?如果那天到來,我們的立場是什麼?這就是遊戲設計的開端。
除此之外,我也參觀了一些研究人工智慧如何創作音樂的科學實驗室,讓我留下非常深刻的印象。他們把爵士鋼琴家演奏的即興音樂放入演算法中,AI 擁有了音軌之後,在某些演奏時刻會切換至該爵士鋼琴的演算法,而且完全無法區分真人或是 AI。演算法準確地分析了人類的演奏風格,可以用相同的方式演奏。於是,我們也花了很多時間探索,AI 會寫書嗎?會講故事嗎?他們會創作音樂或是繪畫嗎?我們就把這些想法放入遊戲。
GamesBeat:我對人工智慧研究者很有興趣,他們總是對於科幻小說的 AI 不以為意:「大家都說我們在製造天網,但是根本就與現實不符。」(編按:因為目前「強 AI」離真正科學發展還非常遙遠)不知道他們是認為無需認真看待 AI 威脅,或是他們只想以科學的名義追求研究?
David Cage:曾經有個故事說,兩個 AI 創造了自己的語言,並開始用人類無法理解的語言來溝通。雖然無法確定真假,但是這故事讓人著迷的是,我們人類可以創造出能夠自我學習的東西,學習我們無法理解的東西。如果人類開始擁有可以自主學習和發展技能的機器時,就是我們開始失去控制權的時候。
那麼,我擔心科技發展嗎?是的。不過,我更關心人類。在《底特律:變人》裡面,我們選擇好人是仿生人,而壞人是人類,並非巧合。
GamesBeat:我覺得人類總是試圖超越對方,彼此競爭直到跨越那條不該超出的界線。
David Cage:人工智慧的好處在於他們通常表現得很理性,但是人類則不同。我更關心人類和科技的關係,也是我們在《底特律:變人》裡面發展的主題之一。我們對科技有多依賴?我們對手機上癮了嗎?你可以在餐廳看到家人聚會,每個人都在看自己的電子郵件和即時訊息,他們正在和不在場的人交談,而非和旁邊的人對話。這讓我很擔心。
我同時也認為科技正在改變我們大腦的運作。我們需要愈來愈多的刺激,我們需要訊息,我們需要那個在手機螢幕上面的紅色小點。「喔,我需要檢查一下通知,等一下。」我們已經完全依賴於科技,我們已經開始替科技服務,而不是科技為我們服務。
GamesBeat:我也讀過丹·布朗的小說《起源》(Origin)。我覺得他有個有趣的論點,人類正在導致氣候變遷,並使地球枯竭。如果人工智慧接管控制權,並限制人類的成長,仍有一絲希望。丹·布朗預測,人工智慧將成為優勢種族。這是未來主義思維,不過仍有些道理。
David Cage:這絕對是相當合理的。《底特律:變人》有個角色說:「仿生人也是人,不過,是更完美的人。」(Androids are humans, but perfect.)雖然這是科幻題材,不過機器非常務實,很知道什麼時候該做什麼,也懂得妥協和合理。但是,人類是由熱情和情感驅動的,這就是為什麼我們經營這顆星球,最後卻又死於這顆星球的原因。因為人類無法對某些事情具備合理和務實的態度。
或許一個國家的完美總統將是一位仿生人,因為不容易受到貪污腐敗的影響,也會努力工作。會為大局著想做出最佳決定,不會只是為了要下次成功當選,他們不會說謊來獲得這份工作。如果你這樣想,仿生人可能會是相當好的總統。
GamesBeat:你認為人工智慧的發展導致 30% 到 40% 的失業率,合理嗎?
David Cage:這也是我在開發《底特律:變人》學到的東西,也就是科技對社會造成的衝擊(the social impact of technology)。我發現當蒸汽機出現時,也發生了類似的討論。每個人都說「等一下,工人會失業,這是一場災難。」但事實上並非如此,因為我們需要更多人來設計機器、維護機器和製造其他機器。我們會看到新的工作職缺,機器只會取代我們不需要做的重複性工作。
GamesBeat:所以,在遊戲中你採取了與你本身想法不同的方向。
David Cage:我有意在遊戲中強化失業這一點,這其實也是合理的場景。有錢人會有工作,同時也有仿生人為他們服務;反之,窮人失業,而且沒有仿生人可以幫忙。科技創造兩種人,受益於科技的人和因為科技受苦的人。
GamesBeat:我想這整款遊戲最終可以成為人們討論 AI 議題時的良好案例。
David Cage:希望如此。我希望這款遊戲可以讓人深思。我對這些問題都沒有答案,因為他們相當複雜。我沒有答案,但是我為大家提出了幾個有趣問題。有的人看到了,大多數人沒有。大部分人只是看到關於仿生人的故事,但是有些人看到了在遊戲中的有趣問題。
GamesBeat:有趣的是,有人可以創造出不是終結者的 AI 故事,不是嗎?比起終結者 AI,有人性的 AI 更可信一點。
David Cage:老實說,《底特律:變人》對我們來說,更多是關於人類的故事,而不是機器。遊戲提出了許多我們依賴科技的問題,以及我們如何看待未來的問題。不僅僅是人工智慧的未來,有趣還在於,人工智慧啟發了人類對於自身處境的問題。
我們談到的意識問題相當重要,機器會讓我們知道「我們是什麼?」如果機器發展出某種意識形式,也意味著我們不過也是一台進化出意識的機器。不過,如果機器不會發展出意識,或許意味著我們比自己想像的更寬廣。然後,我們要需要問自己:「然後呢?我們到底是什麼?」這是一個有趣又迷人的問題。
參考原文:GamesBeat