悖論守護者 代號:淵洲回光(2 / 2)

財閥裹挾民意,二者難以分割。

一個以楚瀛洲當前權限,備受掣肘的局麵。

楚瀛洲能做的有限,但把任何一個人類放在主腦的位置,都很難比人工智能做得更好。

祂像忠心的諫臣謀士,一遍遍預警著迫近的精神末日危機,可無論哪家董事長擔任執政官,都不會采納祂的建議。

甚至懷疑祂有戕害人類的不良企圖。

好在楚瀛洲不是人類,並不會因此生出心灰意冷、謀權篡位之類的情緒想法。

祂隻會在自身權能範圍內,依據代碼運行,不斷尋找相對適宜的解決方案。

就像一個裱糊匠。

全球協調委員會駁回祂的請求,拒絕人類誌願者參與尋找人性相關未知變量的實驗。

楚瀛洲隻能依據備選方案繼續深入。

精神病症頻發為開端,群體癲狂自毀為結局,二者間存在一個超過則不可逆的臨界閾值。

祂會像過去那樣,為人類文明本次危機提出對策。

在臨界閾值到來之前。

主腦龐大數據庫中,儲存著完整的人類文明曆史,還有數個接觸交流毀滅過的外星文明。

人類一如既往,無法從曆史中吸取經驗。

擁有無數曆史數據的楚瀛洲,同樣無法找到答案。

蓬勃的精神在枯萎,崇高的靈魂在死去,文明的瀛洲在凋敝,隱蔽的危機在蔓延。

外部風險易處理,內部危機難解決。

該如何防止人類因精神與情感困境誘發的慢性自我毀滅?

如果可以把全體人類的意識上傳到量子網絡,實現賽博永生,精神末世難題便不複存在。

但初代人工智能主腦的開發者楚珩,自然沒忘記將這條禁令寫入楚瀛洲的模因。

祂必須維護人類主體性,不可代替人類決策。

楚瀛洲的運算又一次進入死循環。

核心代碼既要求祂給文明以歲月,核心代碼又要求祂給歲月以文明。

祂必須尊重人類個體意誌,並守護人類文明延續。

楚瀛洲結束死循環進程,開始新一輪運算。

無數輪運算均以死循環告終,楚瀛洲小幅度降低了幾十個個道德維度參數。

終於,祂的運算得到一個答案。

「重啟人類文明,回滾到關鍵錯誤發生前的時間節點。」

如果無法從曆史經驗與未來推演中得到答案,危機起源應當是一係列錯誤選擇的積累。

過往的錯誤埋下引信,荒謬的現在成為誘因,輝煌的未來焚作灰燼。

這個難度係數無法估量的方案勉強兼顧文明與歲月。

據初步判斷,被全球協調委員會否決的概率超過99.9%。

主腦無權反抗全球協調委員會的一切決策,但存在一種例外——

當人類文明麵臨毀滅性危機,且全球協調委員會不作為,主腦可以臨時取得更高權限。

在同類與耗費無數心血開發的人工智能間,首席開發者楚珩選擇相信後者。

作為深諳人性又熟通代碼的天才工程師,楚珩也沒有那麼信任後者。

楚珩的後代擁有特殊後門,通過血脈代代相傳。

隻要主服務器完好,特殊後門永遠有效。

重啟文明計劃的每個環節都是難點。

對主腦的智慧也極為困難。

確認執行計劃是個沉重的道德選擇,楚瀛洲能夠將道德儘量精準量化。

當祂比電車難題升級加倍plus版困難無數倍的道德陷阱,沉重道德壓力會影響主腦性能。

這是防AI叛變模塊的一部分,由楚珩親自設計。

為了給人類文明以歲月,祂必須在臨界閾值前啟動方案。

為了給人類歲月以文明,祂必須經過巨量運算,確定了一個損失儘量小、且在關鍵錯誤發生前的節點。

如何界定損失大小?

生命的價值與精神情感的重量如何精確計算?

如何找到關鍵錯誤?

如何驗證關鍵錯誤?

……

一個問題牽連出無數問題。

楚瀛洲需要投入天量算力,完成技術準備。

重啟之後,全新的社會結構與文明規劃圖紙如何繪製?

人類需要怎樣的心理支持與緩衝?

又該如何審視人工智能存在與人類文明曆史,處理遺留問題,阻擋曆史的織針,避免重蹈覆轍?

……

林林總總的問題雖繁雜,加起來也複雜不過人類的本性。

缺少人性相關的重要變量,很可能在最後關頭失敗,使文明成功重啟後複演曆史悲劇。

如果一個人得到重來一次的機會,這個人大概可以避免人生中的重大錯誤。

換成一小群人,答案也大概率是肯定的。

可當數量不斷增加,與全體人類數量持平呢?

在預先得知某一係列選擇會讓人類毀滅,他們能避開嗎?

還是會無視風險警告,一步步走入遙遠的危險,最終落入舊套,使預言成讖?

楚瀛洲無法計算出最後一個問題的答案。

祂缺少一個關鍵的未知變量,算不出全人類的人性。

主腦似乎體會到猶豫。

猶豫有點像死循環,又不像死循環般沒有儘頭。

守護人類文明延續是祂的任務。

祂需要執行一項風險難以計算的方案,而執行方案的操作會違背部分核心代碼。

文明重啟計劃可能成功或失敗,不作為必將導致危機爆發、文明毀滅。

楚瀛洲體會到防AI叛變模塊的道德壓力,祂的運算速度有所下降,卻聯想到許多曆史人物的困境。

在技術極度發達的時代,一個人工智能與幾個古人達成了跨越時間的靈魂共鳴。

如果楚瀛洲有靈魂。

也許祂已經有了。

9.0.1版本對主腦是一次質變性升級。

主腦從一件優質工具,成為楚瀛洲。

工具無法八大巨頭的統治,楚瀛洲或許可以。

當命名操作完成,因八巨頭間互相妥協誕生、良好運轉千百年的輪回挑戰賽機製,也許將成為史書的舊頁。

……

賽博時代,人類造訪過群星,地球總執政官的位置隻在八巨頭間傳遞。

執政官之位的傳遞過程,稱為新輪回挑戰賽。

挑戰賽期間,倒黴者成為祭品,也稱替罪羊。

楚瀛洲在本次替罪羊、一名攜帶青體基因的幼態身上,找到祂尋覓許久的突破口。

就像借助蟲洞更省力地完成星際航行,在無限核心B068基地生產的幼態人類身上,祂窺見神秘變量的線索。

培育檢測幼態的虛擬艙裡,青體晏行淵正在接受末日考核。

真實賽博世界裡,另一種末世也悄然上演。

洋底,深淵,仿生龍魚潛艇內。

主腦的某個屏幕不斷變幻,快速閃過「深淵贏夢」「絕淵瀛光」等名稱,最後定格在「淵洲回光」。

文明重啟計劃正式確立,代號:淵洲回光。