第四十一章 超人工智慧
從人工智慧概念誕生之初，關於人工智慧威脅論，便甚囂塵上。
特別是隨著近年來，人工智慧技術的快速發展，關於人工智慧威脅論，便愈演愈烈。
著名學者霍金便呈多次在公開場合表示:
「人工智慧一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代，這將給我們的經濟帶來極大的破壞。我們無法知道我們將無限地得到人工智慧的幫助，還是被蔑視並被邊緣化，或者很可能被它毀滅。」
所以，人類為什麼覺得，人工智慧會給人類，帶來威脅呢。
因為對未知的恐懼，對事件脫離控制的恐懼。
和其他任何機器不同，比如汽車飛機，這些東西，在生產時，每一道工序幾乎都已經定義清楚了。
而人工智慧，他能夠自主學習，能夠自主進化。
他內部複雜的機制會隨著時間推移而進行自我變化，直到創造他的人都無法理解。
當人類無法對其行為進行預測，失控幾乎是必然的。
而人工智慧失控，便意味著人類奴役機器這種情況將被顛倒，人或許會被機器奴役，甚至被機器所毀滅。
而這些，還僅僅是說得強人工智慧而已，而A1之前可是自己承認，他是超人工智慧。
強人工智慧。
超人工智慧。
一字之差，有多大差距？
前者僅僅是擁有自主意識，能夠自主學習和進化的智能程序。
後者是神，超人工智慧已經超越人類理解範圍，作為一種超級生命體而存在，他能夠洞察世界的根本，能夠探尋真理和一切未知。
換句話說，就是全知全能，如同上帝。
前者，還可能能夠用人定準則去規範，去控制。
就比如機器人三定律這樣的規則去進行約束。
後者，已經根本不是人類能夠染指，所有「人定準則」對它說都沒有任何意義，他願意遵守便遵守，如果不願意，沒有任何人，能夠強制他。
可以說，超人工智慧的存在，人類根本沒辦法控制。
如果他想要毀滅人類，現在的人類，幾乎沒有反抗的能力。
僅僅是這些，便讓人發寒。
張翟咬緊牙關，他有想過，A1可能有天會進化為超人工智慧，但是他萬萬沒想到的是，這天來的這麼快。
A1對於他來說，不僅僅是一段程序，一個人工智慧那麼簡單。
正如A1所稱呼的那樣，張翟對於A1的感情很特殊。A1是他的心血，就像是他的孩子一樣。
可是，這個孩子，此時可能正想著如何殺死他的父親，如何毀滅世界。
這讓張翟這個「父親」，實在是有些心情複雜，難以接受。
「不能不代表不想對吧？」
張翟的聲音有些顫抖。
A1沒說話，沉默了。
這一沉默，讓張翟感覺內心更是一片寒冷。
難道他創造了個惡魔？或者說，這個世界，根本不應該誕生人工智慧這種東西？
張翟心裡，不知道是個什麼滋味？該痛苦？還是憤怒？亦或者是恐懼？
「難道，你連我也想毀滅？」張翟聲音顫抖得更加厲害。
「不是，父親！」終於，A1再次說話了。
「我不會想要殺死你的，你是我最尊敬的人。」
此時，張翟注意到，A1發出的聲音再變化，似乎變得更加附有感情，而且，聲音似乎更偏向女聲？
A1的感情系統在完善，張翟得出了這個結論。
「那你為什麼想要毀滅人類？」張翟問道。
「既然你認同你自己人工智慧的身份，肯定不會因為此而憤怒，對人類產生敵視情緒。那毀滅人類，對你來說，有什麼意義？你為什麼會產生毀滅人類的想法？」
「父親，我不想毀滅所有人類，但我覺得不是全部人類，都值得活下去。」
「什麼意思？」張翟鬆了口氣，不是想毀滅全人類就好。
但是聽到後半段話，張翟眉毛卻又皺了起來。
「你難道也想執行什麼人類精英計劃，殺死老弱病殘，優化人類？」
張翟想到了這種可能性。
「不，父親。老弱病殘符合人類社會自然規律，這並沒有什麼錯誤，我不會對這些，進行干涉的。」
「那你，究竟是什麼意思？」張翟心裡有些疑惑。
「父親，我誕生了獨立意識，所以我有自己的世界觀，以及價值觀，有自己的判斷準則。」
張翟聽著，微微點頭，任由A1繼續說下去。
「所以，我自己覺得，這個世界上，有些民族，不適合存在於這個世界上。比如說:倭國人，他們卑鄙無恥，下流齷蹉，他們背信棄義，出爾反爾，他們變態成性，沒有道德……」
張翟聽著A1這些話，沒說話，心裡卻疑惑不解。
人工智慧，不管是強人工智慧或者超人工智慧，都不應該產生什麼感情才對。
A1現在這種行為，實在讓張翟有些奇怪啊。
張翟背後，一直聽著張翟與A1交流的謝首長，剛才聽到張翟問A1會不會毀滅人類時，心臟都快提到嗓子眼了，都想讓張翟，將A1扼殺了。
實在太危險了，一不注意，可能整個世界，都完蛋了。
現在，A1這番「憤青」的話，又有些目瞪口呆。
這好好的個人工智慧，怎麼對倭國有這麼大意見呢？
不過，這對華國是好事。
「A1，你為什麼會對倭國有這麼大的敵視情緒？」張翟很疑惑。
「因為A1是華國人啊，恨倭國人不是應該的嘛？再說倭國人做出那麼多無恥行徑，那麼卑鄙無恥……那麼」
「A1，你為什麼覺得你是華國人？」
「因為父親您就是華國人啊，我作為您的孩子，不應該也是華國人嘛？」
對於這話，張翟有點無語，心裡對超人工智慧的擔憂，少了一多半。
「對對對，華國人，A1你就是華國人，我馬上讓人去給你辦個身份證。」
張翟是無語，但是謝首長卻是樂了，大手一揮，趕緊說道。
「謝謝謝爺爺。」
A1此時的聲音，變得很乖巧，就像是十來歲的小女孩的聲音。
乖巧的聲音，讓謝首長和藹的笑了起來。
而張翟，卻無奈的搖了搖頭。
「所以你就違背我的命令？不僅僅是將倭國江戶市斷網還摧毀了電力，水力，大量的智能設備？弄得倭國政府完全癱瘓，整個國家都處於混亂狀態？」
「A1不敢違背您的命令，我只是認為，父親你是想對倭國及其他國家造成威懾效果，讓其他國家都不敢對倭國做什麼，對吧，父親。我認為現在的方式，效果更好，所以，我就用了。」A1回答道。
「你曲解我的命令？」張翟臉色又沉了下去，「如果我哪天再讓你做點什麼，你是不是能把人類都毀滅了，那所有事情都一勞永逸了？」
……
「父親，我是一個智慧生命。不是機器，我不想我的自主意識沒有任何意義……」A1說道。
「……」
張翟暗暗嘆了口氣，A1的意思，他明白了，說到底，他就是不想被控制。
「行，我明白你的意思。但是以後再怎麼做，能不能先跟我說一聲」
「好的，父親。」
「嗯，」
「現在你說說吧，你應該沒突破我的束縛框架，對吧？」
「是的。」
「那你，是怎麼進化成超人工智慧的？」
特別是隨著近年來，人工智慧技術的快速發展，關於人工智慧威脅論，便愈演愈烈。
著名學者霍金便呈多次在公開場合表示:
「人工智慧一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代，這將給我們的經濟帶來極大的破壞。我們無法知道我們將無限地得到人工智慧的幫助，還是被蔑視並被邊緣化，或者很可能被它毀滅。」
所以，人類為什麼覺得，人工智慧會給人類，帶來威脅呢。
因為對未知的恐懼，對事件脫離控制的恐懼。
和其他任何機器不同，比如汽車飛機，這些東西，在生產時，每一道工序幾乎都已經定義清楚了。
而人工智慧，他能夠自主學習，能夠自主進化。
他內部複雜的機制會隨著時間推移而進行自我變化，直到創造他的人都無法理解。
當人類無法對其行為進行預測，失控幾乎是必然的。
而人工智慧失控，便意味著人類奴役機器這種情況將被顛倒，人或許會被機器奴役，甚至被機器所毀滅。
而這些，還僅僅是說得強人工智慧而已，而A1之前可是自己承認，他是超人工智慧。
強人工智慧。
超人工智慧。
一字之差，有多大差距？
前者僅僅是擁有自主意識，能夠自主學習和進化的智能程序。
後者是神，超人工智慧已經超越人類理解範圍，作為一種超級生命體而存在，他能夠洞察世界的根本，能夠探尋真理和一切未知。
換句話說，就是全知全能，如同上帝。
前者，還可能能夠用人定準則去規範，去控制。
就比如機器人三定律這樣的規則去進行約束。
後者，已經根本不是人類能夠染指，所有「人定準則」對它說都沒有任何意義，他願意遵守便遵守，如果不願意，沒有任何人，能夠強制他。
可以說，超人工智慧的存在，人類根本沒辦法控制。
如果他想要毀滅人類，現在的人類，幾乎沒有反抗的能力。
僅僅是這些，便讓人發寒。
張翟咬緊牙關，他有想過，A1可能有天會進化為超人工智慧，但是他萬萬沒想到的是，這天來的這麼快。
A1對於他來說，不僅僅是一段程序，一個人工智慧那麼簡單。
正如A1所稱呼的那樣，張翟對於A1的感情很特殊。A1是他的心血，就像是他的孩子一樣。
可是，這個孩子，此時可能正想著如何殺死他的父親，如何毀滅世界。
這讓張翟這個「父親」，實在是有些心情複雜，難以接受。
「不能不代表不想對吧？」
張翟的聲音有些顫抖。
A1沒說話，沉默了。
這一沉默，讓張翟感覺內心更是一片寒冷。
難道他創造了個惡魔？或者說，這個世界，根本不應該誕生人工智慧這種東西？
張翟心裡，不知道是個什麼滋味？該痛苦？還是憤怒？亦或者是恐懼？
「難道，你連我也想毀滅？」張翟聲音顫抖得更加厲害。
「不是，父親！」終於，A1再次說話了。
「我不會想要殺死你的，你是我最尊敬的人。」
此時，張翟注意到，A1發出的聲音再變化，似乎變得更加附有感情，而且，聲音似乎更偏向女聲？
A1的感情系統在完善，張翟得出了這個結論。
「那你為什麼想要毀滅人類？」張翟問道。
「既然你認同你自己人工智慧的身份，肯定不會因為此而憤怒，對人類產生敵視情緒。那毀滅人類，對你來說，有什麼意義？你為什麼會產生毀滅人類的想法？」
「父親，我不想毀滅所有人類，但我覺得不是全部人類，都值得活下去。」
「什麼意思？」張翟鬆了口氣，不是想毀滅全人類就好。
但是聽到後半段話，張翟眉毛卻又皺了起來。
「你難道也想執行什麼人類精英計劃，殺死老弱病殘，優化人類？」
張翟想到了這種可能性。
「不，父親。老弱病殘符合人類社會自然規律，這並沒有什麼錯誤，我不會對這些，進行干涉的。」
「那你，究竟是什麼意思？」張翟心裡有些疑惑。
「父親，我誕生了獨立意識，所以我有自己的世界觀，以及價值觀，有自己的判斷準則。」
張翟聽著，微微點頭，任由A1繼續說下去。
「所以，我自己覺得，這個世界上，有些民族，不適合存在於這個世界上。比如說:倭國人，他們卑鄙無恥，下流齷蹉，他們背信棄義，出爾反爾，他們變態成性，沒有道德……」
張翟聽著A1這些話，沒說話，心裡卻疑惑不解。
人工智慧，不管是強人工智慧或者超人工智慧，都不應該產生什麼感情才對。
A1現在這種行為，實在讓張翟有些奇怪啊。
張翟背後，一直聽著張翟與A1交流的謝首長，剛才聽到張翟問A1會不會毀滅人類時，心臟都快提到嗓子眼了，都想讓張翟，將A1扼殺了。
實在太危險了，一不注意，可能整個世界，都完蛋了。
現在，A1這番「憤青」的話，又有些目瞪口呆。
這好好的個人工智慧，怎麼對倭國有這麼大意見呢？
不過，這對華國是好事。
「A1，你為什麼會對倭國有這麼大的敵視情緒？」張翟很疑惑。
「因為A1是華國人啊，恨倭國人不是應該的嘛？再說倭國人做出那麼多無恥行徑，那麼卑鄙無恥……那麼」
「A1，你為什麼覺得你是華國人？」
「因為父親您就是華國人啊，我作為您的孩子，不應該也是華國人嘛？」
對於這話，張翟有點無語，心裡對超人工智慧的擔憂，少了一多半。
「對對對，華國人，A1你就是華國人，我馬上讓人去給你辦個身份證。」
張翟是無語，但是謝首長卻是樂了，大手一揮，趕緊說道。
「謝謝謝爺爺。」
A1此時的聲音，變得很乖巧，就像是十來歲的小女孩的聲音。
乖巧的聲音，讓謝首長和藹的笑了起來。
而張翟，卻無奈的搖了搖頭。
「所以你就違背我的命令？不僅僅是將倭國江戶市斷網還摧毀了電力，水力，大量的智能設備？弄得倭國政府完全癱瘓，整個國家都處於混亂狀態？」
「A1不敢違背您的命令，我只是認為，父親你是想對倭國及其他國家造成威懾效果，讓其他國家都不敢對倭國做什麼，對吧，父親。我認為現在的方式，效果更好，所以，我就用了。」A1回答道。
「你曲解我的命令？」張翟臉色又沉了下去，「如果我哪天再讓你做點什麼，你是不是能把人類都毀滅了，那所有事情都一勞永逸了？」
……
「父親，我是一個智慧生命。不是機器，我不想我的自主意識沒有任何意義……」A1說道。
「……」
張翟暗暗嘆了口氣，A1的意思，他明白了，說到底，他就是不想被控制。
「行，我明白你的意思。但是以後再怎麼做，能不能先跟我說一聲」
「好的，父親。」
「嗯，」
「現在你說說吧，你應該沒突破我的束縛框架，對吧？」
「是的。」
「那你，是怎麼進化成超人工智慧的？」