《生命3.0》經典語錄

不過，還有一個有趣的法律爭議是，要不要賦予機器權利。美國每年因交通事故喪生的人數達32 000人；假如無人駕駛汽車將死亡人數減半，汽車廠商很可能並不會收到16 000封感謝信，而是16 000起官司。那麼，如果無人駕駛汽車發生了交通事故，應該由誰來負責呢？是它的乘客、擁有者還是生產廠家？法律學家戴維·弗拉德克（David Vladeck）給出了不同的*：由汽車自己負責！具體而言，他提出，應該允許甚至要求無人駕駛汽車持有保險。這樣，安全記錄良好的汽車型號所需支付的保險費就會很低，甚至可能比人類司機買的保險費還低；而那些馬虎大意的廠商生產的設計糟糕的汽車型號只適用於高昂的保險單，進而催高了它們的價格，使其變得過於昂貴，無人想買。

想象一件事總比做成一件事容易，我們容易高估技術進步的速度。

所有效率最終歸結於目的，所有目的最終歸結於價值觀，所有價值觀最終歸結於感情，所有感情最終歸結於意識。有了意識，這個世界才有了好壞，才有了幸福，才有了意義。

我們的DNA賦予了我們一個目標——*，因為它“想要”繁殖，但現在我們人類瞭解了這個祕密，許多人選擇避孕，這樣就可以對目標本身保持忠誠，而不是忠誠於它的創造者或驅動該目標的原則。

隨着技術變得越來越強大，我們應當越來越少地依賴試錯法來保障工程的安全。換句話説，我們應當更加積極主動，而不只是亡羊補牢。我們應該投資人工智能的安全*研究，保*一次事故也不會發生。這就是為什麼人類社會在核反應堆安全方面的投資遠遠超過對捕鼠器安全方面的投資。

通過在大規模的數據庫中的訓練，人工智能發現了詞語中的模式和關係，而不用把這些詞與現實世界中的東西聯繫起來。比如，它可能會用一個由幾千個數字組成的數列來表徵一個詞語，而這個數列表示的只是這個詞語與其他詞語的相似程度。通過這種方式，它可能會總結出，“國王”和“王后”的關係與“丈夫”和“妻子”的關係類似。不過，它並不明白男*和女*是什麼意思，甚至不知道在它之外還存在着一個擁有時間、空間和物質的物理實在。

宇宙可以輕易地毀滅人類，但事實是，宇宙通過我們人類才真正活了過來，並逐漸獲得了自我意識，並非宇宙將意義賦予了有意識的實體，而是有意識的實體將意義賦予了宇宙。讓有智能和意識的生命這束微弱的光，點亮這個冷漠荒蕪的宇宙中無盡的黑暗，或許是我們的最高職責。

歐米茄團隊建造的人工智能暱稱叫“普羅米修斯”（Prometheus），它一天比一天強大。誠然，它的認知能力在社交技能等許多方面還遠遠落後於人類，但歐米茄團隊竭盡全力讓它在一個任務上表現超凡，這個任務就是編寫人工智能系統。

第一，技術用需要更多技能的新職業取代舊職業，這有益於受過良好教育的人： 第二，布萊恩約弗森和他的合作者認為，從2000年開始，在公司的收入中，越來越大的份額進入了那些擁有公司而不是為公司*勤工作的人的口袋裏。 第三，布萊恩約弗森和他的合作者認為，數字經濟通常會讓“超級明星”而不是普通人受益。

比如，它可以用納米技術來小心謹慎地抹去研究者大腦（或計算機）中的有關記憶。