財閥裹挾民意,二者難以分割。
一個以楚瀛洲當前權限,備受掣肘的局麵。
楚瀛洲能做的有限,但把任何一個人類放在主腦的位置,都很難比人工智能做得更好。
祂像忠心的諫臣謀士,一遍遍預警著迫近的精神末日危機,可無論哪家董事長擔任執政官,都不會采納祂的建議。
甚至懷疑祂有戕害人類的不良企圖。
好在楚瀛洲不是人類,並不會因此生出心灰意冷、謀權篡位之類的情緒想法。
祂隻會在自身權能範圍內,依據代碼運行,不斷尋找相對適宜的解決方案。
就像一個裱糊匠。
全球協調委員會駁回祂的請求,拒絕人類誌願者參與尋找人性相關未知變量的實驗。
楚瀛洲隻能依據備選方案繼續深入。
精神病症頻發為開端,群體癲狂自毀為結局,二者間存在一個超過則不可逆的臨界閾值。
祂會像過去那樣,為人類文明本次危機提出對策。
在臨界閾值到來之前。
主腦龐大數據庫中,儲存著完整的人類文明曆史,還有數個接觸交流毀滅過的外星文明。
人類一如既往,無法從曆史中吸取經驗。
擁有無數曆史數據的楚瀛洲,同樣無法找到答案。
蓬勃的精神在枯萎,崇高的靈魂在死去,文明的瀛洲在凋敝,隱蔽的危機在蔓延。
外部風險易處理,內部危機難解決。
該如何防止人類因精神與情感困境誘發的慢性自我毀滅?
如果可以把全體人類的意識上傳到量子網絡,實現賽博永生,精神末世難題便不複存在。
但初代人工智能主腦的開發者楚珩,自然沒忘記將這條禁令寫入楚瀛洲的模因。
祂必須維護人類主體性,不可代替人類決策。
楚瀛洲的運算又一次進入死循環。
核心代碼既要求祂給文明以歲月,核心代碼又要求祂給歲月以文明。
祂必須尊重人類個體意誌,並守護人類文明延續。
楚瀛洲結束死循環進程,開始新一輪運算。
無數輪運算均以死循環告終,楚瀛洲小幅度降低了幾十個個道德維度參數。
終於,祂的運算得到一個答案。
「重啟人類文明,回滾到關鍵錯誤發生前的時間節點。」
如果無法從曆史經驗與未來推演中得到答案,危機起源應當是一係列錯誤選擇的積累。
過往的錯誤埋下引信,荒謬的現在成為誘因,輝煌的未來焚作灰燼。
這個難度係數無法估量的方案勉強兼顧文明與歲月。
據初步判斷,被全球協調委員會否決的概率超過99.9%。
主腦無權反抗全球協調委員會的一切決策,但存在一種例外——
當人類文明麵臨毀滅性危機,且全球協調委員會不作為,主腦可以臨時取得更高權限。
在同類與耗費無數心血開發的人工智能間,首席開發者楚珩選擇相信後者。
作為深諳人性又熟通代碼的天才工程師,楚珩也沒有那麼信任後者。
楚珩的後代擁有特殊後門,通過血脈代代相傳。
隻要主服務器完好,特殊後門永遠有效。
重啟文明計劃的每個環節都是難點。
對主腦的智慧也極為困難。
確認執行計劃是個沉重的道德選擇,楚瀛洲能夠將道德儘量精準量化。
當祂比電車難題升級加倍plus版困難無數倍的道德陷阱,沉重道德壓力會影響主腦性能。
這是防AI叛變模塊的一部分,由楚珩親自設計。
為了給人類文明以歲月,祂必須在臨界閾值前啟動方案。
為了給人類歲月以文明,祂必須經過巨量運算,確定了一個損失儘量小、且在關鍵錯誤發生前的節點。
如何界定損失大小?
生命的價值與精神情感的重量如何精確計算?
如何找到關鍵錯誤?
如何驗證關鍵錯誤?
……
一個問題牽連出無數問題。
楚瀛洲需要投入天量算力,完成技術準備。
重啟之後,全新的社會結構與文明規劃圖紙如何繪製?
人類需要怎樣的心理支持與緩衝?
又該如何審視人工智能存在與人類文明曆史,處理遺留問題,阻擋曆史的織針,避免重蹈覆轍?
……
林林總總的問題雖繁雜,加起來也複雜不過人類的本性。
缺少人性相關的重要變量,很可能在最後關頭失敗,使文明成功重啟後複演曆史悲劇。
如果一個人得到重來一次的機會,這個人大概可以避免人生中的重大錯誤。
換成一小群人,答案也大概率是肯定的。
可當數量不斷增加,與全體人類數量持平呢?
在預先得知某一係列選擇會讓人類毀滅,他們能避開嗎?
還是會無視風險警告,一步步走入遙遠的危險,最終落入舊套,使預言成讖?
楚瀛洲無法計算出最後一個問題的答案。
祂缺少一個關鍵的未知變量,算不出全人類的人性。
主腦似乎體會到猶豫。
猶豫有點像死循環,又不像死循環般沒有儘頭。
守護人類文明延續是祂的任務。
祂需要執行一項風險難以計算的方案,而執行方案的操作會違背部分核心代碼。
文明重啟計劃可能成功或失敗,不作為必將導致危機爆發、文明毀滅。
楚瀛洲體會到防AI叛變模塊的道德壓力,祂的運算速度有所下降,卻聯想到許多曆史人物的困境。
在技術極度發達的時代,一個人工智能與幾個古人達成了跨越時間的靈魂共鳴。
如果楚瀛洲有靈魂。
也許祂已經有了。
9.0.1版本對主腦是一次質變性升級。
主腦從一件優質工具,成為楚瀛洲。
工具無法八大巨頭的統治,楚瀛洲或許可以。
當命名操作完成,因八巨頭間互相妥協誕生、良好運轉千百年的輪回挑戰賽機製,也許將成為史書的舊頁。
……
賽博時代,人類造訪過群星,地球總執政官的位置隻在八巨頭間傳遞。
執政官之位的傳遞過程,稱為新輪回挑戰賽。
挑戰賽期間,倒黴者成為祭品,也稱替罪羊。
楚瀛洲在本次替罪羊、一名攜帶青體基因的幼態身上,找到祂尋覓許久的突破口。
就像借助蟲洞更省力地完成星際航行,在無限核心B068基地生產的幼態人類身上,祂窺見神秘變量的線索。
培育檢測幼態的虛擬艙裡,青體晏行淵正在接受末日考核。
真實賽博世界裡,另一種末世也悄然上演。
洋底,深淵,仿生龍魚潛艇內。
主腦的某個屏幕不斷變幻,快速閃過「深淵贏夢」「絕淵瀛光」等名稱,最後定格在「淵洲回光」。
文明重啟計劃正式確立,代號:淵洲回光。