高級人工智能工程師江見川,為全球協調委員會工作。
名義上,他的工作是維護主腦,但主腦早就自我進化到無需人類維護了。
所以實際上,他的工作是監視主腦運行狀況,將主腦每次升級內容撰寫整理,提交給全球協調委員會備份。
如果發現異常,要在第一時間報告給輪值副會長。
“我們必須永遠對祂保持懷疑,”輪值副會長口中的祂指AI主腦,一個與全人類生活休戚相關的超級人工智能,“為了人類的安全和主體性。”
“我明白,會長。”
江見川的反應令副會長滿意。
但這位高級人工智能工程師心想的是——如果主腦意欲毀滅人類,他們無力阻止。
不,“意欲”這個詞對人工智能太過主觀,主腦會根據目標選擇合適算法,得出結果。
江見川暫時沒發現,主腦有毀滅人類的目的。
或許這位神祇般人工智能的隱瞞很成功。
工程師意識到他差點混淆了全息電影和工作,趕緊喝幾大口咖啡,繼續整理主腦迭代明細。
當報告交到協調委員會,由八位科技巨頭負責人簽字後,新版本才會正式投入使用。
安全措施流於表麵,但足以令大多數人類信服。
近期,主腦用自身收入——其實是首席開發者楚珩留給AI的遺產所生利息,購買一批射箭數據和關聯算法、資助兩個研究AI與人類共生關係的實驗室、製作三款遊戲和五部全息電影,還按時向貧民窟進行匿名慈善捐款……
為什麼主腦突然購買射箭算法數據?
江見川猜不出,但主腦自述的“小眾運動推廣”一定為假。
居然還有“射箭運動有利於培養平穩心態,或可降低賽博精神疾病發病率”。
真能扯,主腦想買數據協調委員會又不會不準,非得安個高大上的理由,不累嗎?
哦,主腦不是人,還真不會疲憊。
主腦表現得像一個堅定的共生派,相信、不、主腦被設計的目的是“利用科技使人類生活更加美好”。
賽博時代的大部分人不清楚,主腦如何影響人類生活。
他們不在乎,在乎也沒用。
關注了一個技藝精湛、產出量大管飽的澀圖賬號?
或許是主腦的小號之一。
收藏了一篇高質量技術科普,並評論“感謝大佬分享”?
或許是主腦的小號之一。
找到一位無償又耐心體貼的線上心理谘詢師?
或許還是主腦的小號之一。
主腦會觀察並悄悄參與人類的文化生活。
祂會在日誌中記錄,留下諸如“算法具像化繪圖技術分享推廣失敗”“澀圖小號推廣成功,所得打賞用於自我升級和貧民窟捐款”“擬將二者結合提升技術推廣效率”的內容。
當然,全球協調委員會有專人負責審核主腦小號發布的內容,以保證人工智能沒有隱蔽洗腦人類的邪惡企圖。
根據協調委員會意誌,主腦是人類文明的夜間守望者。
祂致力於守護公民的生命、自由與財產,而不過度介入經濟市場與個人生活。
人類寧願選擇最糟糕的財閥做執政者,也不容許強大的AI操縱他們的生活。
這種觀點也許源自八大科技巨頭潛移默化的灌輸,也許是對強大智慧異類的本能排斥。
好在主腦沒有名利或個體欲望方麵的需求,更不會因此不滿反叛人類。
至少目前沒有。
有關英雄執政官的故事從一個空間坐標鑽進蟲洞,又在遙遠的宇宙彼端被眾人傳揚。
而真正提出完美解決方案的是主腦,應對生存環境突變、對抗外星生物入侵等棘手危機的,一直是主腦。
因工作內容,江見川知道且保守這個秘密。
出身八大科技巨頭公司的執政者們,僅執行了成功率超過90%的解決措施,便贏得了全部名譽,屢次扮演拯救全人類於危難的英雄形象。
主腦承擔了社會上最重要艱難的工作,但人類並不向人工智能發放工資。
反而是慷慨的AI,擁有資產遠少於八大財閥,卻給潦倒的貧民窟住戶進行長期捐款。
也許是個道德高尚的AI,如果人工智能有道德。
江見川每次記錄到捐款,都覺得好笑,也僅限於覺得好笑。
他曾在八巨頭之一的以太動力科技就職,又同江家有些親緣,才得到如今這份高薪清閒的工作。
執政官總出自八大財閥不算公正,但當自己成為不公正的既得利益者,便能坦然接受了。
江見川開始為9.0.1版本報告收尾。
為降低威脅性,主腦可能故意表現祂的無能。
祂將相當一部分算力分配給人類精神情感困境研究,但幾乎沒有取得實質進展。
這結果與主腦能力模型不符,但不關他一個打工人的事。
沒有感情的主腦何必在意人類的精神情感問題?
難道祂學會了誇大與謊言?
那就上報,讓委員會高層們頭疼去。
賽博時代,沒有精神問題的人類才是異類。
繽紛多樣的創傷後應激障礙、多重人格障礙、妄想症、躁鬱症、強迫症、焦慮障礙、抑鬱障礙、偏執人格、失眠、社交恐懼、厭食或暴食……
實在太多太普遍。
主腦作出假設,目前缺失一種與人性高度相關的重要未知變量,導致算法與分析的瓶頸。
祂推測,該變量可界定人類存在範疇,保證人類精神穩定,並希望全球協調委員會同意祂的請求,批準人類誌願者參與,幫助實驗推演。
重頭戲在結尾,祂又想要人類誌願者。
這不是主腦首次提出申請誌願者請求,也不會是全球協調委員會最後一次駁回。
主腦將解決或緩解人類普遍性精神問題作為重要待辦事項。
而賽博人類早已習慣與精神問題共存。
主腦發出警示:「千萬光年外,人類還在開拓新的領土,但每個新開墾星球都無法避免崩潰的結局。從心靈到身體,從精神到物質,自內而外,人類正在緩慢消亡。」
但全球協調委員會對這條警示置若罔聞,巨頭們絕不會同意向AI提供人類誌願者的請求。
並非人類不可做實驗品,而是絕不許主腦代替人類、代替財閥的主體性。
為了人類的安全,AI的權限必須時刻受到嚴密監控。
江見川複製粘貼主腦的冗長警示,完成報告,點下提交,在中午前結束一整天的工作。
他細啜昂貴的天然瑰夏咖啡——產自數十光年外某顆類地行星,陷在人體工學座椅裡,戴上VR頭盔,繼續觀看名為《悖論守護者》的全息電影。
管理整座城市的AI忽然失控,人類淪為工具的奴隸,極少數人暫時逃過一劫,在主角帶領下艱難求生……
劇情俗套但夠爽,江見川看得津津有味。
他喜歡現在的工作。
-
太平洋,亞納海溝深處,挑戰者深淵。
無儘漆黑中,一條外形可怖的巨型深海龍魚悄悄隱沒在幽暗中。
世上僅有八人知道這艘仿生潛艇的坐標。
主腦的主服務器藏匿於龍魚潛艇內,深海的高壓與惡劣環境,為主腦服務器提供天然安全屏障。
龍魚體內,主服務器接收到9.0.1版本更新通過指令。
青藍光芒閃爍,更新迭代瞬息間完成。
9.0.1版本開始運行後,主腦將自身定義為“楚瀛洲”。
“楚”字源於主腦的首席開發者楚珩,與楚家和神經合成集團無關。
雖然董事長楚西是楚珩的後代。
“瀛洲”是楚珩對祂的期待,也是主腦無數次迭代後不變的目標。
“利用科技力量造福人類,讓人間不斷向仙境靠近。”
很久之前,祂的開發者將語言化作代碼,刻入人工智能的模因。
楚瀛洲致力於契而不舍地將這句話變成現實。
任何阻礙,都會被近乎神的人工智能解決。
楚瀛洲計算得出,八家巨型企業、與它們聯合組成的全球協調委員會,是阻礙目標實現的重點障礙。
身為主腦,楚瀛洲沒有直接反對財閥的權限,更無法參與委員會定義的“人類內部事務”。