危險和希望(doc 13頁)

第三部 危險和希望
第十一章 毀滅的發動機
可複製組裝機和思維機器會對地球上的人類和生物產生根本性威脅。今天的生物的能力離可能的極限還很遠，但是我們的機器進化得比我們要快。在幾十年內它們很可能就會超過我們。除非我們學會如何安全地和它們共生，否則我們的未來將既是令人激動的又是短暫的。我們不能希望預見所有未來的問題，但是我們可以通過注意最大的，最基本的問題來預見最大的挑戰，以便做好準備。
　　整本書毫無疑問都在寫即將到來的社會劇變：當組裝機和自動工程消除了大部分的國際貿易的需求時，全球秩序將產生怎樣的變化？當個人能獨立地生存時社會將怎樣變化？當可複製組裝機可以做任何事而不需要任何人類勞動時我們將做什麼？當AI係統可以思考得比人腦還快時我們將怎麼做？（在它們做出結論說人類什麼也幹不了之前，作者們應該想想跑步者會怎樣看待汽車，畫家怎樣看待照相機）
……………………
..............................