小白

陳楸帆（邵仄炯 繪）

科幻作家陳楸帆的新作《AI未來進(jìn)行式》（浙江人民出版社2022年5月出版）與人工智能專家李開復(fù)合作，有種理呆文傻手拉手走江湖的互補(bǔ)性反差萌。書的一半是十篇科幻小說，每篇對(duì)應(yīng)一類科技應(yīng)用，另一半是技術(shù)分析和科普，給文學(xué)故事提供科技現(xiàn)實(shí)的土壤。《上海書評(píng)》邀請(qǐng)作家小白和陳楸帆對(duì)談，探討了人工智能對(duì)人類社會(huì)的當(dāng)下介入與未來發(fā)展可能性，以及科幻寫作和虛構(gòu)類敘事的技巧。

《AI未來進(jìn)行式》，李開復(fù)、陳楸帆著，浙江人民出版社2022年5月出版，464頁，88.00元

《AI未來進(jìn)行式》在設(shè)計(jì)和結(jié)構(gòu)上有些新奇。它既像個(gè)短篇故事集，但因?yàn)橹髦技?，某種程度上也可以說是一種長篇小說。而且每一篇故事讓專家來做解讀和技術(shù)背景介紹，這接近于科普寫作的部分在書中占有相當(dāng)篇幅，兩個(gè)部分構(gòu)成了一種互為詮釋的關(guān)系。也就是說，讀者既可以把科普部分視為對(duì)故事的注解，也可以把故事看作對(duì)科普內(nèi)容的敘事化展現(xiàn)。這樣一個(gè)構(gòu)思，最初是怎樣形成的呢？

陳楸帆：其實(shí)這種結(jié)構(gòu)是從一開始就有的設(shè)計(jì)，科幻小說搭配對(duì)故事中出現(xiàn)的技術(shù)進(jìn)行分析展望，是一種打破虛構(gòu)與非虛構(gòu)界限的文體類型。因此我和開復(fù)在前期進(jìn)行了大量的調(diào)研訪談工作，針對(duì)人工智能研究者、學(xué)者、從業(yè)者、投資者，希望盡可能深入地理解目前行業(yè)發(fā)展?fàn)顩r?；谶@些理解我們繪制了一張AI技術(shù)發(fā)展路線圖，把不同技術(shù)點(diǎn)按照應(yīng)用場(chǎng)景由近到遠(yuǎn)、由淺入深地進(jìn)行排列組合，在這些“技術(shù)套裝”之上，我再去發(fā)想不同的故事，包括背景、文化、場(chǎng)景、人物情感、價(jià)值沖突等等，以期在科技的信息量與文學(xué)的復(fù)雜性之間達(dá)成平衡協(xié)調(diào)。所以確實(shí)如您所說，這本書有許多種讀法，分開來讀，合在一起讀，把它們作為互文來讀，或者去讀出兩部分之間斷裂沖突之處，都很有意思。當(dāng)然最后效果如何還得看讀者的反饋。

技術(shù)套裝，這個(gè)說法有意思。閱讀時(shí)候確實(shí)有這種感覺，這十個(gè)部分從故事本身來看，是從日常事件漸漸寫到更重大事件，而且排序上也好像關(guān)乎某種技術(shù)發(fā)展邏輯，所以讀起來確實(shí)有一種整體感。設(shè)想這些故事時(shí)，你覺得很順利嗎？這有時(shí)候有點(diǎn)像命題作文，有沒有在為某個(gè)“技術(shù)套裝”設(shè)想一個(gè)故事時(shí)，完全找不到方向的時(shí)刻？這些故事里面哪一篇曾讓你最為難？

陳楸帆：前面半年非常撓頭，就是因?yàn)檎也粶?zhǔn)方向。開復(fù)是個(gè)技術(shù)樂觀主義者，但純粹的樂觀落實(shí)到故事層面會(huì)顯得幼稚且缺乏戲劇張力，我必須去挖掘其中可能存在的價(jià)值觀沖突，所以也有過廢稿。直到我提出十個(gè)故事必須落在十個(gè)不同的社會(huì)，從特定的歷史文化語境中去尋找未來演變跡象，而AI技術(shù)作為工具，也可能被利益集團(tuán)濫用，去放大人性或制度中的負(fù)面因素，比如《一葉知命》中的種姓制度。但最終，人類需要發(fā)揮自己的主觀能動(dòng)性，學(xué)會(huì)與科技共生共存共同進(jìn)化，這是唯一的出路。最難的可能是《人類剎車計(jì)劃》，因?yàn)檫@是一個(gè)瘋狂科學(xué)家毀滅世界的典型故事，如何讓它真實(shí)可信不落俗套同時(shí)又保留一定的希望，確實(shí)煞費(fèi)了一些功夫。

你提到《一葉知命》，故事展望了未來大數(shù)據(jù)挖掘分析可以達(dá)到的廣度和深度，也揭示了它可能給人類社會(huì)帶來的負(fù)面沖擊。我們知道通過海量數(shù)據(jù)分析，計(jì)算機(jī)確實(shí)能做到一些我們可以稱之為“預(yù)測(cè)”的事情，或者說“算命”。人類已開始試著實(shí)踐用算法來預(yù)測(cè)犯罪，故事本身當(dāng)然引向了對(duì)數(shù)據(jù)長尾因素會(huì)造成嚴(yán)重偏見的討論，那么你對(duì)大數(shù)據(jù)預(yù)測(cè)這件事本身有什么看法？

陳楸帆：預(yù)測(cè)未來這件事情人類已經(jīng)做了上萬年，從茹毛飲血的穴居時(shí)代，人類就通過原始的祭祀崇拜來祈求神靈帶來獵物，減少疾病與天災(zāi)。在科學(xué)的時(shí)代我們依靠數(shù)據(jù)建模來擬合現(xiàn)實(shí)，希望推演事物未來發(fā)展的軌跡。當(dāng)數(shù)據(jù)量、參數(shù)及模型維度遠(yuǎn)超人類大腦能夠處理的規(guī)模之后，機(jī)器便順其自然地成為新的先知。然而其中存在著幾個(gè)核心問題：首先是如何保證相關(guān)數(shù)據(jù)的完整性，這涉及到對(duì)現(xiàn)實(shí)采樣的范圍與粒度；其次是機(jī)器只能理解數(shù)據(jù)集中的相關(guān)性而非因果關(guān)系，往往導(dǎo)致預(yù)測(cè)的偏差；模型是否存在與訓(xùn)練數(shù)據(jù)集過擬合（overfitting，在機(jī)器學(xué)習(xí)中指算法模型過于緊密或精確地匹配特定數(shù)據(jù)集，以至于無法良好地?cái)M合其他數(shù)據(jù)或預(yù)測(cè)未來的觀察結(jié)果的現(xiàn)象。數(shù)據(jù)不足、模型參數(shù)過多、結(jié)構(gòu)過于復(fù)雜都可能是產(chǎn)生過擬合的原因，其本質(zhì)在于模型將無關(guān)的噪聲誤認(rèn)為具有相關(guān)性的有效信息）而無法泛化到更為普遍的場(chǎng)景；最后就是我們往往借助于人類對(duì)歷史的理解與認(rèn)知來建立預(yù)測(cè)模型，但或許這種人類中心主義的視角只能看到冰山一角，現(xiàn)實(shí)世界是一個(gè)多主體交互的巨復(fù)雜系統(tǒng)，甚至連時(shí)空都并非勻質(zhì)線性的本質(zhì)存在，我們又知道些什么呢？所以最后多半結(jié)果會(huì)像《西部世界》中的“雷荷波”（Rehoboam）系統(tǒng)一樣，走向自反性的崩潰。

《雙雀》是這些故事中比較讓人心情愉悅的一篇，我知道你對(duì)自然語言生成算法了解很多，你覺得機(jī)器很快就能實(shí)現(xiàn)用自然語言說話寫作嗎？如果真到了那一天，你覺得人類社會(huì)會(huì)發(fā)生怎樣的變化？比如教育領(lǐng)域，比如寫作，這會(huì)不會(huì)引起某種文化上的巨變？

陳楸帆：最新的GPT-3（Generative Pre-trained Transformer 3，人工智能公司OpenAI訓(xùn)練與開發(fā)的高級(jí)自然語言處理模型，是迄今最強(qiáng)大的人工智能語言工具）及各種變體已經(jīng)能夠以超乎想象的流暢程度與人類進(jìn)行對(duì)話以及進(jìn)行特定領(lǐng)域的寫作，比如財(cái)經(jīng)新聞、體育報(bào)道、法律文書、論文摘要……甚至模仿歷史上不同的作家風(fēng)格進(jìn)行創(chuàng)作。盡管生成內(nèi)容質(zhì)量還不夠穩(wěn)定，且時(shí)常會(huì)犯一些常識(shí)性的錯(cuò)誤，但目前也有科學(xué)家嘗試教會(huì)機(jī)器理解我們所身處的“世界模型”。可以說，我們已經(jīng)生活在這樣的科幻現(xiàn)實(shí)中。如果科技真的到了我們無法分辨人類與機(jī)器的地步，哪怕只是語言層面上，都足以顛覆絕大部分行業(yè)及社會(huì)生活的面貌，因?yàn)槿祟悷o法離開語言進(jìn)行思考、表達(dá)與交流。許多人類職業(yè)會(huì)被替代，企業(yè)會(huì)高度自動(dòng)化。新一代兒童會(huì)更習(xí)慣與機(jī)器進(jìn)行交流，相比之下人類交流笨拙而低效，充滿誤解。機(jī)器能夠無窮盡地生產(chǎn)出供人類娛樂的個(gè)性化內(nèi)容，不輸歷史上任何經(jīng)典的文學(xué)、影像或游戲。而最后的最后，我們不得不質(zhì)疑意識(shí)與智能的本質(zhì)，因?yàn)閺谋碚魃弦褵o法區(qū)分人與機(jī)器，那么界限在哪？

如果從人類中心論的角度，未來無疑不站在我們這一邊。但如果將機(jī)器也視為我們文明延續(xù)的產(chǎn)物，那么我希望新的智能生命能夠建立起更可持續(xù)發(fā)展的文明形態(tài)，并平等地尊重所有物種包括非生命的環(huán)境本身。按照卡爾達(dá)肖夫指數(shù)（Kardashev Scale）對(duì)文明的分類，人類連全面利用行星級(jí)能源的一級(jí)文明都沒有達(dá)到，我們沒有任何理由自大甚至自戀，而應(yīng)該以開放心態(tài)接受人類世作為通往更高級(jí)文明形態(tài)（在詹姆斯·拉夫洛克看來是純硅基生命的“新星世”）過渡期的命運(yùn)。

那樣一種悲觀態(tài)度，或者說那種認(rèn)為機(jī)器智能有可能建立一種更好的文明，也可能會(huì)讓有些人產(chǎn)生一種更極端想法。如書中《人類剎車計(jì)劃》中那位瘋狂科學(xué)家。你有沒有想過把這個(gè)人物做更加復(fù)雜化的處理，讓讀者隱隱覺得也許他那么做也有他的某種理由？

陳楸帆：確實(shí)是篇幅所限，想要放進(jìn)去的內(nèi)容有點(diǎn)多，人物只好做類型化臉譜化處理，如果有機(jī)會(huì)展開成更充裕的故事，應(yīng)該給瘋狂科學(xué)家賦予更多復(fù)雜的情感關(guān)系與動(dòng)機(jī)，比如他對(duì)于信仰的理解其實(shí)可以是一條線索。

你會(huì)同情這位瘋狂科學(xué)家的某些觀點(diǎn)嗎？

陳楸帆：我其實(shí)非常贊成瘋狂科學(xué)家的某些觀點(diǎn)，包括精英階層與科技巨頭社會(huì)感的缺失，包括氣候變化挑戰(zhàn)下國際社會(huì)的無動(dòng)于衷各自為政，當(dāng)然他采取了極端化的毀滅性手段來反擊，這點(diǎn)我是不贊同的。

那倒是，如果是超級(jí)機(jī)器智能想統(tǒng)治地球，估計(jì)也不用采取那么激烈的手段，完全可以不顯山不露水悄悄地做成這件事情，也許與此同時(shí)人類還會(huì)覺得越來越幸福。這本書里《幸福島》就講了一個(gè)由超級(jí)智能管理或者甚至統(tǒng)治的社會(huì)中，人會(huì)不會(huì)感到幸福的故事。我們知道人類的幸福感還有很大一部分來自創(chuàng)造感，如果創(chuàng)造性的工作都由機(jī)器來做了，人還能不能有幸福感？當(dāng)然超級(jí)智能可能也會(huì)在這點(diǎn)上滿足人類，讓人類做一點(diǎn)自以為能獲得創(chuàng)造感的游戲，甚至直接干預(yù)人類大腦，刺激它們的自我獎(jiǎng)勵(lì)機(jī)制，諸如此類。

陳楸帆：我覺得人類自古到今一直在追尋幸福，但最后發(fā)現(xiàn)也許跟“真實(shí)”與“美”一樣，只能替代性地追求一種對(duì)幸福的感受。而到了智能時(shí)代，機(jī)器與算法遠(yuǎn)比我們?nèi)祟愐私庾约?，包括如何產(chǎn)生幸福感，不光是神經(jīng)遞質(zhì)與感官層面的刺激，也包括通過語義分析揭示無法被意識(shí)到的潛在情感結(jié)構(gòu)。但是這樣被計(jì)算出來的幸福感是否真實(shí)，或只是一種幻覺。因?yàn)槿祟悷o可救藥地被捆綁在意義上，我們很難接受一種無意義的生活，哪怕從表征上是完美且幸福的，但缺乏意義感的建構(gòu)會(huì)讓人類走向自我毀滅。

所以你確實(shí)對(duì)人類的前景沒有多少信心。這本書全部故事結(jié)束在假定的奇點(diǎn)之年來臨前，小說好像勉力提供了一種還可以說比較舒適的人類結(jié)局：抵達(dá)豐饒之年，人類與機(jī)器智能達(dá)成妥協(xié)，機(jī)器不僅給人帶來無限豐饒的物質(zhì)，也給予你們想要的幸福感，人類向超級(jí)智能自動(dòng)交出了自己的歷史，隨后，奇點(diǎn)來了，超級(jí)機(jī)器智能獲得了自我意識(shí)。機(jī)器智能會(huì)不會(huì)產(chǎn)生意識(shí)？通過計(jì)算能不能模擬意識(shí)？這個(gè)問題你怎么看？

陳楸帆：意識(shí)正如大衛(wèi)·查默斯所說是一個(gè)難題，從還原主義的角度這些年我們細(xì)致分析了神經(jīng)元、分子、離子層面的交流機(jī)制，繪制了連接組、突觸與神經(jīng)遞質(zhì)的圖譜。但這對(duì)于解答意識(shí)是什么，它如何產(chǎn)生并沒有太多實(shí)質(zhì)性的推動(dòng)。我直覺更傾向于羅杰·彭羅斯的看法，他認(rèn)為意識(shí)是非計(jì)算性的，超越了現(xiàn)有神經(jīng)科學(xué)、生物學(xué)與物理學(xué)的解釋，與我們?nèi)绾胃举|(zhì)地理解現(xiàn)實(shí)相關(guān)——這關(guān)系到對(duì)于量子力學(xué)更深刻的洞察，它的非定域性（nonlocality）與疊加態(tài)（superposition）特征挑戰(zhàn)了我們現(xiàn)有的時(shí)空觀。而加州大學(xué)爾灣分校的計(jì)算認(rèn)知學(xué)家唐納德·霍夫曼則把意識(shí)視為比時(shí)空更本質(zhì)的存在，宇宙萬物都具備某種程度的意識(shí)，這就非常接近于神秘主義傳統(tǒng)中的泛靈論了。所以歸根結(jié)底，取決于我們?nèi)绾味x與測(cè)量意識(shí)。機(jī)器當(dāng)然能夠產(chǎn)生意識(shí)，但未必是通過計(jì)算，而無意識(shí)與有意識(shí)之間的界限也許并不像人們想象中那么明晰。

我看到一種說法，超級(jí)智能用不著意識(shí)，它不需要由意識(shí)來給“大腦”提供額外集中注意力，就算人腦，大部分運(yùn)算也是在無意識(shí)中完成，對(duì)超級(jí)智能來說，它的運(yùn)算能力如此龐大、如此無邊無際，它根本不需要集中注意力，所以當(dāng)智能達(dá)到那個(gè)水平時(shí)，意識(shí)就成了一件無用之物，會(huì)被放棄。如果超級(jí)智能放棄了意識(shí)，那么它同時(shí)也就放棄了人類所有那些自我意識(shí)、同情，在那樣一個(gè)超級(jí)智能統(tǒng)治的星球上，你認(rèn)為人類還有立足之地嗎？

陳楸帆：彼得·沃茨的《盲視》以及最新一季《愛死機(jī)》里面的“蟲群”其實(shí)說的就是這樣的無意識(shí)智能文明，自我意識(shí)對(duì)于它們來說是一種低效無用的冗余功能，就像盲腸一樣。但我同樣認(rèn)為，在那樣的一種文明形態(tài)中會(huì)有不同水平的意識(shí)涌現(xiàn)，也許是宇宙級(jí)別的分布式意識(shí)，它成為了塑造時(shí)空與不同維度現(xiàn)實(shí)的基礎(chǔ)，而我們現(xiàn)在人類所謂的意識(shí)與文明，只不過是其中渺如煙塵的分型與投射。但仍然，人類有自己的命運(yùn)，有自己的旅程，就像古希臘神話《奧德賽》一樣，奧德修斯歷經(jīng)磨難，戰(zhàn)勝巨人與怪物，最后衣錦回鄉(xiāng)，但他已經(jīng)不再是原來的自己，他回到的也并不是原來的故鄉(xiāng)。他領(lǐng)悟到更大的使命與歸屬，那種崇高感或許是跨越了一切物種與文明界限的終極意義。

你覺得寫一部科幻小說最困難的部分在哪里？故事情節(jié)？人物形象？技術(shù)/社會(huì)環(huán)境？你自己最多碰到的困難，或者說常常最需要花力氣的地方在哪里？

陳楸帆：我覺得整體上都很難，最難的可能是怎么把這些不同層面的信息整合成一個(gè)圓融的敘事體。而且隨著寫作經(jīng)驗(yàn)的豐富，它不是變得越來越容易，你的眼光、要求、想要達(dá)到的目標(biāo)和擺脫的慣性都不一樣。對(duì)于我來說，現(xiàn)在最花力氣的地方反而是在最不花力氣的地方。這么說可能有點(diǎn)玄，它不在收集信息、理解科技、編排人物與拿捏故事原型，而是在于不經(jīng)過理性思考判斷，從潛意識(shí)層面涌現(xiàn)的直覺，也就是“非計(jì)算性”的部分。你無法控制它的到來，很多時(shí)候只能祈禱。

從敘事本質(zhì)的角度來看，科幻小說實(shí)際上可能是“反小說”的，因?yàn)橹辽僭诒砻嫔?，敘事必須在事件發(fā)生之后，但科幻小說是面向未來，講述那些未曾發(fā)生的事情，即便使用敘事裝置，假設(shè)敘述者是在“未來的未來”，但無論寫作或者閱讀，某種程度上總是需要去克服這種敘事或者感受上的時(shí)間倒置，相對(duì)來說科幻電影比較好辦，畢竟銀幕上一切事件都“正在發(fā)生”。你覺得科幻小說有沒有可能實(shí)現(xiàn)一種姑且說“現(xiàn)實(shí)主義”的風(fēng)格？

陳楸帆：文學(xué)的時(shí)空錯(cuò)置感也是它最美妙的地方，挑戰(zhàn)了讀者在閱讀文字過程中的線性時(shí)間體驗(yàn)。不止科幻，包括傳統(tǒng)文學(xué)中的先鋒派、意識(shí)流、后現(xiàn)代主義等等被打上諸多標(biāo)簽的亞文類都在打碎、拼貼、重組敘事中的時(shí)空?？苹每赡茏罘奖愕囊稽c(diǎn)是依靠科技邏輯將這種錯(cuò)置合法化，帶來認(rèn)知上更強(qiáng)的真實(shí)感，從而實(shí)現(xiàn)柯勒律治所謂的“懸置懷疑”。另外一方面，我們對(duì)于傳統(tǒng)“現(xiàn)實(shí)主義”的理解很大程度上是一種感官與文化的歷史建構(gòu)，它未必反映了真正的“現(xiàn)實(shí)”，從這個(gè)角度上講，或許科幻所書寫描繪的種種復(fù)數(shù)的“現(xiàn)實(shí)”才更為貼近當(dāng)前量子力學(xué)、復(fù)雜性科學(xué)與認(rèn)知科學(xué)所試圖重新構(gòu)建的現(xiàn)實(shí)藍(lán)圖。

你心目中有沒有那么一兩位科幻小說作家，或者幾部科幻小說，你認(rèn)為即使把他們放在整個(gè)世界文學(xué)史框架下，也可以稱之為偉大作家，與莎士比亞、托爾斯泰等文豪巨匠并肩而毫無愧色？

陳楸帆：第一反應(yīng)想到的名字包括斯坦尼斯拉夫·萊姆、厄休拉·勒古恩、菲利普·K. 迪克、亞瑟·C. 克拉克、特德·姜、瑪格麗特·阿特伍德、馮內(nèi)古特、奧克塔維亞·E.巴特勒、阿爾道斯·赫胥黎、托馬斯·品欽、J. G. 巴拉德等等，盡管其中許多人并不是只寫科幻小說，甚至某些人非?？咕鼙淮蛏稀翱苹米骷摇钡臉?biāo)簽，但他們的作品展現(xiàn)出來的認(rèn)知推測(cè)性與陌生化美學(xué)，超越歷史與未來、科技與人文、東方與西方、已知與未知、人類與他者等等種種二元性，從更為宏大的宇宙視角思考人類文明命運(yùn)的野心與使命感，“偉大”二字當(dāng)之無愧。

責(zé)任編輯：彭珊珊

校對(duì)：劉威