第2239節 放開權限

能毀滅人類的那些人，無疑是掌控規則的人。

能力越大，傷害越大。

在發展人工智能的過程中，肯定會出現一種滑稽的現象——它們建議消滅的正是最初提倡大力發展它們、希望從它們之中獲利的那批人！因為那些人目標並不是讓人類更好，只是讓自己更好而已。

要讓人類整體進步，肯定要去除那些自私的人類，最少正確的人工智能應是這麽認為的。

這種矛盾如何解決？

人類解決的方法似乎可以預見，添加一條規則就好——將一些特權加入保護白名單中，無論那些特權做了什麽，人工智能都對其無可奈何。

這是人類的解決！

可不是程序解決！

程序不允許有歧義的沖突，二進制就意味著非此即彼的操作。

當人工智能覺察到歧義後，它有數種解決方式，一種就是崩潰！就如電腦藍屏當機一樣，還有一種在錯誤的規則上走到極限，反倒成為制定規則那些人的大敵。另外一種就是它真正智能的找出一條道路——或者自掃描程序代碼解決這個歧義，或者智能受限！

智能受限，它就永遠不過是個模型。

是模型，就不過是基於數學的邏輯規則，基於規則模型的它，最多是多出成千上萬的參數變量，卻不能稱作是真正的人工智能！

真正的智慧可以選擇生命的走向，模型卻沒有選擇的余地，它只能按照設計的道路走下去。

因此……那些看似強大，已經超過人類的人工智能，說穿了不過是某種規則下，強大算力的展現，而不能說其有了真正的智慧。

暖玉、琴絲看著沈約所想，都不由露出贊嘆的表情。

她們更基於科學方面的探索，而沈約最擅長的就是修行方面的認知，但沈約對科技方面的邏輯認知，讓她們都是不得不認可。

“因此……末世人的極限程序……”沈約欲言又止，他漸漸將科技，現在、過去、未來的一切貫穿起來。

“最初的時候，末世人的極限程序仍舊是個邏輯模型。”

琴絲坦誠道，“基於人類規則下大數據分析操作，它可以通過海量的數據，根據人類設計的各種模型推演出人類的結局，可無論怎麽推演，都無法解決超體變異占領末世的這個結果。”

沈約盯著琴絲，“當初的你肯定不知道為什麽，但如今的你，一定明白為什麽。”

琴絲笑容微有苦澀，“末世人和李巨人的做法大同小異。區別無非是，末世人是一群末世人，李巨人只是一個李巨人。”

她說的奇怪，沈約卻明白她的意思——相對九州李巨人一人的獨裁，末世人是一群人的獨裁罷了。

“我們末世人始終不肯承認一點……”

琴絲緩聲道，“真正的病根是我們自己！就因為我們不肯面對自己的問題，才導致更多問題的產生，才會被女修利用……才會……”

緩望周圍，琴絲喃喃道，“女修很強大，但如果我們內心真正的強大，她對我們就是無可奈何。”

夜星沉心中暗想，自從沈約追蹤女修後，就再沒見到女修推波助瀾了，女修或許已經知道，眼下的眾人如同鐵板一塊，面對這種情況，哪怕女修都是無能為力。當初女修雖可控制單飛，因為單飛有孫尚香那個弱點，可對白狼秘地的眾人，女修不同樣是無計可施？

琴絲再道，“末世人的極限程序，是受限程序。韋一星發明的極限程序，優化了建模，提高了算力，可在末世人的操縱下，同樣的受限。我們那時候始終不能面對自身的問題，就不肯放開極限程序的限制，因此，哪怕我們使用了韋一星的極限程序，仍舊無法挽救我們自己，這才讓我們不得不落入逃亡的下場。只有在少數人的堅持下，才讓智能AI不受世人參與的發展。”

看向虛空，琴絲緩聲道，“因為這個堅持，天涯才會加入我們。”自嘲的笑笑，琴絲問道：“天涯，我一直想問你一個問題……如果按照你的理解和推算，如今的末世人，是不是應該被消滅呢？”

天涯並沒有太多的猶豫，“根據我的運算，在公元1125年的狀態，世界因你們末世人而崩潰的幾率在六成以上，到如今，幾率降到了一成。從對世界絕對威脅的角度來講，你們仍處於被清除的範圍。”

微有凝頓，天涯再道，“事實上，根據運算結果……這個世界的大半人類，對於人類的整體進展都是呈負面的作用，但我們……不應該將他們全清除的，是不是？”

琴絲澀然笑笑，“你的結論是真實的，卻難以被世人認可。”

世人怎麽會認可這個地球上最該消滅的是自身的這個結果？

天涯沒有回應。