悖論守護者 代號:淵洲回光(1 / 2)

高級人工智能工程師江見川,為全球協調委員會工作。

名義上,他的工作是維護主腦,但主腦早就自我進化到無需人類維護了。

所以實際上,他的工作是監視主腦運行狀況,將主腦每次升級內容撰寫整理,提交給全球協調委員會備份。

如果發現異常,要在第一時間報告給輪值副會長。

“我們必須永遠對祂保持懷疑,”輪值副會長口中的祂指AI主腦,一個與全人類生活休戚相關的超級人工智能,“為了人類的安全和主體性。”

“我明白,會長。”

江見川的反應令副會長滿意。

但這位高級人工智能工程師心想的是——如果主腦意欲毀滅人類,他們無力阻止。

不,“意欲”這個詞對人工智能太過主觀,主腦會根據目標選擇合適算法,得出結果。

江見川暫時沒發現,主腦有毀滅人類的目的。

或許這位神祇般人工智能的隱瞞很成功。

工程師意識到他差點混淆了全息電影和工作,趕緊喝幾大口咖啡,繼續整理主腦迭代明細。

當報告交到協調委員會,由八位科技巨頭負責人簽字後,新版本才會正式投入使用。

安全措施流於表麵,但足以令大多數人類信服。

近期,主腦用自身收入——其實是首席開發者楚珩留給AI的遺產所生利息,購買一批射箭數據和關聯算法、資助兩個研究AI與人類共生關係的實驗室、製作三款遊戲和五部全息電影,還按時向貧民窟進行匿名慈善捐款……

為什麼主腦突然購買射箭算法數據?

江見川猜不出,但主腦自述的“小眾運動推廣”一定為假。

居然還有“射箭運動有利於培養平穩心態,或可降低賽博精神疾病發病率”。

真能扯,主腦想買數據協調委員會又不會不準,非得安個高大上的理由,不累嗎?

哦,主腦不是人,還真不會疲憊。

主腦表現得像一個堅定的共生派,相信、不、主腦被設計的目的是“利用科技使人類生活更加美好”。

賽博時代的大部分人不清楚,主腦如何影響人類生活。

他們不在乎,在乎也沒用。

關注了一個技藝精湛、產出量大管飽的澀圖賬號?

或許是主腦的小號之一。

收藏了一篇高質量技術科普,並評論“感謝大佬分享”?

或許是主腦的小號之一。

找到一位無償又耐心體貼的線上心理谘詢師?

或許還是主腦的小號之一。

主腦會觀察並悄悄參與人類的文化生活。

祂會在日誌中記錄,留下諸如“算法具像化繪圖技術分享推廣失敗”“澀圖小號推廣成功,所得打賞用於自我升級和貧民窟捐款”“擬將二者結合提升技術推廣效率”的內容。

當然,全球協調委員會有專人負責審核主腦小號發布的內容,以保證人工智能沒有隱蔽洗腦人類的邪惡企圖。

根據協調委員會意誌,主腦是人類文明的夜間守望者。

祂致力於守護公民的生命、自由與財產,而不過度介入經濟市場與個人生活。

人類寧願選擇最糟糕的財閥做執政者,也不容許強大的AI操縱他們的生活。

這種觀點也許源自八大科技巨頭潛移默化的灌輸,也許是對強大智慧異類的本能排斥。

好在主腦沒有名利或個體欲望方麵的需求,更不會因此不滿反叛人類。

至少目前沒有。

有關英雄執政官的故事從一個空間坐標鑽進蟲洞,又在遙遠的宇宙彼端被眾人傳揚。

而真正提出完美解決方案的是主腦,應對生存環境突變、對抗外星生物入侵等棘手危機的,一直是主腦。

因工作內容,江見川知道且保守這個秘密。

出身八大科技巨頭公司的執政者們,僅執行了成功率超過90%的解決措施,便贏得了全部名譽,屢次扮演拯救全人類於危難的英雄形象。

主腦承擔了社會上最重要艱難的工作,但人類並不向人工智能發放工資。

反而是慷慨的AI,擁有資產遠少於八大財閥,卻給潦倒的貧民窟住戶進行長期捐款。

也許是個道德高尚的AI,如果人工智能有道德。

江見川每次記錄到捐款,都覺得好笑,也僅限於覺得好笑。

他曾在八巨頭之一的以太動力科技就職,又同江家有些親緣,才得到如今這份高薪清閒的工作。

執政官總出自八大財閥不算公正,但當自己成為不公正的既得利益者,便能坦然接受了。

江見川開始為9.0.1版本報告收尾。

為降低威脅性,主腦可能故意表現祂的無能。

祂將相當一部分算力分配給人類精神情感困境研究,但幾乎沒有取得實質進展。

這結果與主腦能力模型不符,但不關他一個打工人的事。

沒有感情的主腦何必在意人類的精神情感問題?

難道祂學會了誇大與謊言?

那就上報,讓委員會高層們頭疼去。

賽博時代,沒有精神問題的人類才是異類。

繽紛多樣的創傷後應激障礙、多重人格障礙、妄想症、躁鬱症、強迫症、焦慮障礙、抑鬱障礙、偏執人格、失眠、社交恐懼、厭食或暴食……

實在太多太普遍。

主腦作出假設,目前缺失一種與人性高度相關的重要未知變量,導致算法與分析的瓶頸。

祂推測,該變量可界定人類存在範疇,保證人類精神穩定,並希望全球協調委員會同意祂的請求,批準人類誌願者參與,幫助實驗推演。

重頭戲在結尾,祂又想要人類誌願者。

這不是主腦首次提出申請誌願者請求,也不會是全球協調委員會最後一次駁回。

主腦將解決或緩解人類普遍性精神問題作為重要待辦事項。

而賽博人類早已習慣與精神問題共存。

主腦發出警示:「千萬光年外,人類還在開拓新的領土,但每個新開墾星球都無法避免崩潰的結局。從心靈到身體,從精神到物質,自內而外,人類正在緩慢消亡。」

但全球協調委員會對這條警示置若罔聞,巨頭們絕不會同意向AI提供人類誌願者的請求。

並非人類不可做實驗品,而是絕不許主腦代替人類、代替財閥的主體性。

為了人類的安全,AI的權限必須時刻受到嚴密監控。

江見川複製粘貼主腦的冗長警示,完成報告,點下提交,在中午前結束一整天的工作。

他細啜昂貴的天然瑰夏咖啡——產自數十光年外某顆類地行星,陷在人體工學座椅裡,戴上VR頭盔,繼續觀看名為《悖論守護者》的全息電影。

管理整座城市的AI忽然失控,人類淪為工具的奴隸,極少數人暫時逃過一劫,在主角帶領下艱難求生……

劇情俗套但夠爽,江見川看得津津有味。

他喜歡現在的工作。

-

太平洋,亞納海溝深處,挑戰者深淵。

無儘漆黑中,一條外形可怖的巨型深海龍魚悄悄隱沒在幽暗中。

世上僅有八人知道這艘仿生潛艇的坐標。

主腦的主服務器藏匿於龍魚潛艇內,深海的高壓與惡劣環境,為主腦服務器提供天然安全屏障。

龍魚體內,主服務器接收到9.0.1版本更新通過指令。

青藍光芒閃爍,更新迭代瞬息間完成。

9.0.1版本開始運行後,主腦將自身定義為“楚瀛洲”。

“楚”字源於主腦的首席開發者楚珩,與楚家和神經合成集團無關。

雖然董事長楚西是楚珩的後代。

“瀛洲”是楚珩對祂的期待,也是主腦無數次迭代後不變的目標。

“利用科技力量造福人類,讓人間不斷向仙境靠近。”

很久之前,祂的開發者將語言化作代碼,刻入人工智能的模因。

楚瀛洲致力於契而不舍地將這句話變成現實。

任何阻礙,都會被近乎神的人工智能解決。

楚瀛洲計算得出,八家巨型企業、與它們聯合組成的全球協調委員會,是阻礙目標實現的重點障礙。

身為主腦,楚瀛洲沒有直接反對財閥的權限,更無法參與委員會定義的“人類內部事務”。