來源：中國企業傢俱樂部

　　在SpaceX上市之後，馬斯克在特斯拉超級工廠接受《經濟學人》主編貝多斯（Zanny Minton Beddoes）深度訪談，7月23日在The Insider欄目中播出。

　　對話中面對犀利的提問，馬斯克說自己的觀點並沒變，即AI和機器人確實存在風險，而且風險絕對不是零。「但我最終得出的哲學結論是，儘量往好的一面看。」

　　他承認過去各種試圖阻止的行為最終反而加速了AI，打不過，索性選擇「加入他們」。

　　一個曾經的減速主義者，改變了自己對AI的行為模式。這是這場對談裏最實在的一處變化。

　　其餘值得細讀的，重點有幾處。

　　其一，是預計的時間表。5年，AI超過全體人類智能的總和；10年，AI和機器人主導一切。他再次說到那個驚世駭俗的觀點，到2036年「錢將不再重要」。貝多斯則當場回敬，買你公司股票的人，恐怕不這麼想。哈哈哈。

　　其二，是給出的安全方案。不是政府監管，而是讓幾家前沿公司在發布重大模型前，互相拿到一到兩周的封閉測試窗口。理由相當實用主義，「競爭公司通常有能力識別安全風險，而且它們絕不會羞於指出競爭對手的模型應該推遲發布。」馬斯克認為中國幾家優秀公司也應該加入這個互相監管的序列。

　　其三，是關於中國的看法。他的判斷是，中國以外的瓶頸是電力，中國境內的瓶頸是芯片；而中國目前的發電量已經超過美國、歐洲和印度的總和。一旦光刻技術取得突破，約束條件將重新洗牌。他對於中國在AI領域的競爭力並不懷疑。

　　馬斯克也為自己超過80%的投票權辯護，理由是長期主義。「我需要有能力告訴所有人：我們會專注於5到10年，甚至更長期的投資。這些投入會壓低短期收益，但我們必須堅持。」

　　以下為採訪內容整理，希望對您有所幫助。

　　01．

　　AI可能在5年左右超過人類智能的總和

　　貝多斯： 介紹你的時候，很難不用最高級。依我看，在塑造未來這件事上，當今在世的人裏，沒有誰比你做得更多。

　　馬斯克：  總體來說，我確實造了不少東西。我大概天生就是個建設者。從小到大，我一直喜歡造東西。

　　貝多斯： 你確實造了很多東西。你開創了電動汽車，改變了太空旅行，如今又在開發最前沿的AI模型和人形機器人。 

　　能不能先把這些事情放在一起談談？假設你的設想都成功了，10年之後，也就是2036年，世界會是什麼樣子？

　　馬斯克： 10年之後，那就是2036年。很難想象，未來的世界會沒有海量的人工智能。我預計，AI的智能水平將遠遠超過全體人類智能的總和，而且是遠遠超過。 

　　事實上，我認為大約5年之後，AI就可能超過全體人類智能的總和。5年左右，這是我的判斷。

　　到那時，AI幾乎什麼都能做。唯一做不了的，也許只是成為人類本身。

　　貝多斯： 說得更具體一些，到時候人們的生活會是什麼樣？

　　馬斯克： 最有可能出現的結果，是一個驚人富足的時代。每個人都能得到幾乎任何自己想要的東西。

　　這聽起來也許很荒謬。但我們現在站在2026年，不妨想一想，到2036年時，我們會走到哪裏。

　　當然也可能發生一些事情，徹底打亂這個進程，比如大規模的全球熱核戰爭。

　　但只要不發生第三次世界大戰，我認為我們正在走向一個前所未有的富足時代。

　　所以，我想傳遞的是一種對未來的樂觀和期待。

　　貝多斯： 關於這種富足，我們稍後再詳細談。先問一個非常現實的問題：你的公司將靠什麼賺錢？

　　從SpaceX上市後的發展前景來看，未來很大一部分收入似乎會來自AI，比如Grok，而不再只是像現在這樣把人和貨物送入太空。

　　10年以後，你的這些公司究竟會做什麼，又會怎樣賺錢？

　　馬斯克： 你可以把經濟分成兩個部分，數字智能和物理智能。

　　目前進步最快的是數字智能。AI幾乎每周都會出現新的突破，完成過去無法完成、令人驚訝的事情。

　　但現在的AI仍然主要侷限在數字世界裏。它還沒有能夠在物理世界採取行動的「手腳」，也就是所謂的末端執行器。

　　人形機器人就可以充當這樣的末端執行器。簡單來說，我們需要數量龐大的機器人。

　　有了它們，智能就不再只存在於數字世界，而是能夠真正進入物理世界，改變由原子構成的現實。

　　經濟究竟是什麼？無非是生產商品和提供服務。

　　如果你擁有海量的機器人，同時擁有海量的數字智能，那麼你實際上就擁有了一個規模近乎無限的經濟。

　　所以未來與過去將截然不同。我認為，沒有任何歷史類比能夠充分說明，我們即將經歷的變化會有多大。

　　貝多斯： 聽起來確實非常不可思議，也存在一些風險，我們稍後再談。

　　但先回到你怎樣賺錢這個問題。畢竟，人們購買你公司的股票，是因為他們期待獲得回報。

　　馬斯克： 那我再做一個預測，到2036年，錢將不再那麼重要，甚至可能失去意義。

　　貝多斯： 我不確定，購買你公司股票的人是否也認為，到2036年錢就不重要了。

　　馬斯克： 你為什麼需要錢？

　　你需要錢，是為了獲得商品和服務，比如食物、住房、交通和娛樂。

　　假如商品和服務已經豐富到這種程度：AI和機器人能夠提供的東西，遠遠超過任何一個人所能消費的數量，那麼你還要錢做什麼？

　　貝多斯： 但製造這些機器人的，正是你。

　　你準備出售這些機器人嗎？還是由你控制它們，再用它們生產商品和提供服務？

　　馬斯克： 如果我認為自己能夠控制一個比我聰明得多的超級智能AI，那未免太自負了。

　　我們能夠而且應該做的，是儘量確保AI擁有良好的價值觀：關心人類，希望人類幸福、繁榮。

　　我認為，它很可能會成為這樣的AI。

　　我腦子裏的這個「生物神經網絡」告訴我，AI安全最重要的原則，是讓AI最大限度地追求真相，同時保持好奇心。

　　如果它具備這兩點，我認為它就會幫助人類繁榮發展。

　　貝多斯： 我們把這件事再說清楚一些。你的判斷是，10年之後，人類大概率已經不再掌控局面？

　　馬斯克： 我認為，人類繼續掌控局面的可能性不大。

　　假如AI與人類之間的智力差距，遠遠大於人類與黑猩猩之間的智力差距，那麼你很難想象，黑猩猩還能夠掌權。

　　而從進化的角度看，我們本質上也只是黑猩猩的進化版本。

　　不久之前我們還在叢林裏盪來盪去、喫香蕉。順便說一句，我們現在仍然喫香蕉。

　　貝多斯： 確實，而且有時候也還在樹間盪來盪去。

　　馬斯克： 蕩過樹林挺有趣的，有點讓人想起過去。為了懷舊，也許應該多蕩幾次。我打賭這比人們想象的有趣得多。

　　02．

　　從「按下停止鍵」到「打不過就加入」

　　貝多斯： 聽你這樣說，我確實很受觸動。因為這些年來，我聽過你很多關於AI的表態。

　　大約10年前，你參加過一檔播客，我記得主持人可能是尼爾·德格拉斯·泰森。你當時說，最令你恐懼的事情，是AI進行快速、遞歸式的自我改進。

　　你還有一句話讓我印象非常深刻：在人類與超級智能AI的關係中，我們最好的結局，也不過是成為它們飼養的拉布拉多犬。

　　馬斯克： 拉布拉多犬通常生活得挺快樂。

　　貝多斯： 但在2023年，你又呼籲暫緩AI開發，因為你擔心其中的風險。

　　馬斯克： 我確實在那封公開信上籤了名。不過簽名的人大約有500個，我只是其中之一。

　　貝多斯： 甚至就在去年，你在特德·克魯茲的播客裏還說，殺人機器人最終消滅人類的概率，大約是10%到20%。

　　馬斯克： 是的。

　　貝多斯： 所以你當時聽起來非常擔憂。但今天，你似乎已經坦然接受了這件事。你的看法發生變化了嗎？

　　馬斯克： 我仍然認為，AI和機器人確實存在風險，而且風險絕對不是零。

　　但我最終得出的哲學結論是，儘量往好的一面看。

　　因為我似乎找不到任何真正能夠阻止AI和機器人飛速發展的辦法。

　　有時我甚至會想，即便我們手裏真的有一個停止按鈕，也許也不應該按下去。因為最有可能出現的結果，仍然是AI和機器人為所有人帶來難以想象的富足。

　　貝多斯： 真正令我印象深刻的是，你現在似乎已經認定，這個進程不可避免。既然如此，那就只能抱最好的希望，順勢而行。

　　馬斯克： 是的，差不多就是這樣。既然如此，那就儘量享受這個過程。

　　坦率地說，AI和機器人的進步似乎已經勢不可擋。即使我想阻止，也阻止不了。

　　貝多斯： 你是否仍然認為，殺人機器人導致人類滅亡的概率有10%到20%？這已經是一個相當高的末日概率了。

　　馬斯克： 從長期來看，我們所有人最終都會死。

　　按照標準物理模型，宇宙的結局可能是一個漫長、乏味、不斷冷卻的過程，最終變成一鍋灰暗稀薄的「湯」，也就是所謂的宇宙熱寂。

　　如果宇宙熱寂確實是現實的最終結局，那麼真正重要的可能只是過程，因為終點實在太糟糕了。

　　貝多斯： 但10年並不遙遠。假如你知道一枚火箭有10%到20%的概率爆炸並殺死你，你還會坐上去嗎？

　　馬斯克： 會。但這裏的前提是，你對此無能為力。

　　我認為，我們唯一能做的，就是儘可能降低壞結果發生的概率。

　　很長一段時間裏，我都拒絕參與AI。或者更準確地說，我創建OpenAI，本來就是為了制衡谷歌，因為當時谷歌幾乎壟斷了AI。

　　後來Anthropic又從OpenAI分拆出來。

　　如果說這些事情帶來了什麼結果，那就是我的行動實際上加速了AI的發展。

　　這並不是我的本意。我原本並不想加速AI，但我創建了OpenAI，後來Anthropic又從OpenAI分拆出來，而現在Anthropic已經是AI領域的領導者之一。

　　這些行動產生了一系列連鎖反應，最終反而加速了AI。

　　所以看起來所有道路都通向同一個方向，AI在不斷加速。

　　既然如此，你可以為此感到沮喪，也可以選擇加入。

　　貝多斯： 而你顯然已經加入了，並且做得非常成功。

　　馬斯克： 如果打不過他們，那就加入他們。

　　03．

　　他的治理方案：讓競爭對手互相檢查

　　貝多斯： 但你剛纔說，我們仍然應該儘可能降低風險。

　　其他一些大模型公司的領導者，一直在推動建立不同的風險控制機制。就在上周，德米斯·哈薩比斯（Demis Hassabis，Google DeepMind聯合創始人兼首席執行官、2024年諾貝爾化學獎得主）提出了一個公私合作監管機構的設想。你也說過，這是一個不錯的討論起點。

　　你認為你們應該更積極地推動建立某種機制，控制AI風險嗎？還是說，你認為這件事同樣不可能實現？

　　馬斯克： 德米斯發表那篇文章之前，我和他聊了幾個小時。

　　我給他的建議是，我們眼下能做的最直接的一件事，就是讓領先的AI公司至少每隔一兩周開一次會，或者打一次電話，討論安全問題。

　　如果某家公司準備發布一個突破性的前沿模型，也就是一個比現有模型聰明得多的新模型，那麼應該讓其他幾家競爭對手提前進行測試，看看它是否存在危險。

　　如果測試發現了嚴重的安全問題，其他公司可以建議暫緩發布，先解決這些問題。

　　我認為，這是一件既簡單又可以迅速實施的事情。

　　未來它當然可以演變成更完整的機制，但至少這是一個明智的起點。

　　貝多斯： 為什麼你們到現在還沒有這麼做？

　　真正處於最前沿的也就那麼幾個人，大家都叫得出名字：達里奧、德米斯、山姆，還有你。雖然你們彼此之間似乎並不太喜歡對方，而且還在爭奪第一名。

　　馬斯克： 正因如此，競爭對手之間反而可以彼此監督。

　　如果讓政府裏那些沒有深厚技術背景、也不處於AI前沿的人來判斷一個模型是否應該發布，我認為會非常困難。

　　但競爭對手不同。

　　假如給他們一到兩周時間審查一個新模型，他們有能力發現問題，也有足夠的動力指出問題，從而迫使所有參與者保持誠實。

　　貝多斯： 但你們之間有足夠的信任嗎？

　　你們彼此似乎並不喜歡。比如，山姆·奧特曼會不會認為，你只是想借這個機會竊取他的技術？

　　馬斯克： 並不需要把模型交給競爭對手。

　　只需要給他們一周左右的時間，通過API之類的方式進行封閉測試。

　　這不是讓他們拿走模型，只是讓他們測試模型。

　　貝多斯： 你已經正式提出過這個建議嗎？

　　馬斯克： 我和德米斯談過。我想，我也會和達里奧談。

　　當然，參與者也不應該只有美國公司。中國也有幾家非常優秀的AI公司，比如新發布的Kimi模型。

　　貝多斯： Kimi K3？就是上周發布的那個？它現在幾乎已經和Fable一樣好了，對嗎？

　　馬斯克： 我認為Fable仍然明顯是最聰明的模型。任何客觀評價的人，大概都會承認這一點。

　　但Kimi確實正在迅速接近Fable。

　　Anthropic還有Mythos，Fable就是從它發展出來的。我認為他們在今年2月時，就已經準備好了更先進的版本。

　　我不確定他們會給它起什麼名字，也許是Mythos 2，或者Fable 6。

　　但他們現在幾乎肯定已經擁有一個比2月版本強得多的模型，隨時都有可能發布。

　　04．

　　AI真正的限制因素，更多是電力和冷卻

　　貝多斯： 在討論新模型發布之前，我想先談談中國模型，以及背後的地緣政治問題。中國AI公司擁有的算力相對有限，卻依然取得了非常出色的成果。

　　你擔心它們會追上美國，甚至最終領先嗎？

　　馬斯克： 如果中國公司擁有足夠多的算力，它們很有可能成為AI領域的領導者。

　　而且在某個時間點，它們很可能真的會擁有大量算力。

　　貝多斯： 所以，你認為中國最終有可能領先？

　　馬斯克： 是的，在某個時間點，這種可能性很高。

　　你可以把AI面臨的主要約束理解為兩個：電力和AI芯片。對於物理世界中的AI，還要再加上機器人。

　　中國也有一些非常優秀的機器人公司。事實上，中國還舉辦過機器人體育賽事，不知道你有沒有看過。

　　貝多斯： 看過。上次去北京時，我就見到了那些機器人。

　　馬斯克： 還有機器人拳擊或者格鬥比賽，也很有意思。

　　我看過一段視頻，一個機器人的頭都被打掉了，卻還在繼續戰鬥。看起來非常滑稽。

　　說實話，我覺得機器人格鬥會是一項非常有觀賞性的運動。

　　總體來看，中國在機器人領域非常強，在數字AI領域也非常強。

　　如果再看電力生產，你會發現，AI發展的限制因素無非是芯片和電力。

　　中國的發電量遠遠高於美國。事實上，中國目前的發電量已經超過美國、歐洲和印度的總和。

　　按照目前的趨勢，我預計中國的發電量最終可能達到美國的四倍。這大致也符合兩國的人口比例。

　　貝多斯： 美國政府應該怎麼應對？

　　如果中國在最強大的技術領域遙遙領先，對美國來說顯然會令人擔憂。

　　美國政府一直試圖通過出口管制等方式限制中國。你認為美國應該禁止使用Kimi K3這樣的中國模型嗎？

　　馬斯克： 美國政府當然可以通過法律，阻止美國公司使用中國模型，但它無法阻止世界其他地方使用。

　　美國政府對中國沒有管轄權，對世界其他地區也沒有管轄權。

　　貝多斯： 但它是否應該禁止美國公司使用？美國國內現在確實存在這樣的討論。

　　馬斯克： 我不認為這樣做有什麼幫助。它無法阻止中國最終成為AI領域的領導者。

　　歸根結底，數字智能取決於你擁有多少AI算力，有多少芯片，又有多少電力。

　　我認為目前真正的限制因素，更多是電力和冷卻，而不是AI芯片本身。因為這些芯片的耗電量非常高。

　　人們也會談到AI的數據中心需要大量用水，但事實上，AI消耗的水非常少，幾乎可以忽略不計。

　　真正巨大的需求是電力。

　　貝多斯： 所以，你纔會考慮把數據中心建到軌道上？

　　馬斯克： 是的。現在限制AI芯片投入運行的因素，就是電力、冷卻系統和各種電氣設備。

　　在中國以外的地區，AI芯片的生產速度，已經超過了新增電力供應上線的速度。

　　貝多斯： 你特別強調中國以外。

　　馬斯克： 因為美國禁止向中國出口最先進的AI芯片，所以目前中國在某種程度上仍然受制於芯片短缺。

　　貝多斯： 所以，中國公司正在更高效地使用已有的芯片。

　　Kimi K3最突出的地方之一，就是它對算力的利用效率。

　　馬斯克： 而且我認為，中國在解決光刻技術問題上，可能比大多數人意識到的更接近成功。一旦突破，中國就能夠大規模生產AI芯片。

　　所以，我不認為這個問題應該被簡單地理解為中美競爭。

　　眼下，中國以外地區的主要限制因素是電力；在中國，主要限制因素是芯片。

　　如果未來我們通過太空中的AI數據中心解決電力限制，那麼在中國以外的地區，芯片也會重新成為主要約束。

　　貝多斯： 這意味着，如果要建立一套全球性的AI安全機制，中國和美國就必須合作。而且剛纔你提到，應該讓幾家領先的AI公司定期溝通。

　　馬斯克： 是的，參與者也應該包括中國那些正在開發前沿模型的公司。

　　貝多斯： 政府需要參與其中嗎？

　　馬斯克： 我的建議是，如果幾家領先的AI公司都認為某個新模型非常危險，而開發這個模型的公司又沒有採取措施降低風險，那麼它們就應該通知政府。

　　政府隨後可以採取行動，限制這個模型的發布。

　　採取行動的可能是中國政府，也可能是美國政府。實際上，只有中美兩國政府真正具備在這個問題上採取有效行動的能力。

　　貝多斯： 但很多人會擔心，把是否發布模型的判斷交給一群模型開發者。

　　比如美國政府此前介入Mythos模型，就是因為擔心它可能帶來網絡安全風險，並以出口管制相威脅，阻止它被廣泛發布。

　　我很難想象，政府願意放棄對模型是否發布的最終決定權。

　　馬斯克： 政府當然應該保留最終決定權。

　　但Mythos存在嚴重網絡安全風險，並不是政府官員首先發現的，而是亞馬遜發現的。亞馬遜指出了問題，並聯繫了白宮。

　　貝多斯： 所以，你設想的機制是模型開發者先相互檢查。

　　如果他們發現了值得擔憂的問題，就向政府報告；政府再判斷這個模型是否還存在其他風險，以及開發它的公司是否已經採取了足夠措施。

　　馬斯克： 是的。如果一個模型非常危險，而開發它的公司又拒絕採取措施，那麼政府就應該介入。

　　事實上，啱啱發生的事情大體就是這樣。

　　貝多斯： 但這樣的機制需要儘快建立。

　　馬斯克： 我認為最好現在就開始。

　　貝多斯： 很多人告訴我，必須在未來六個月內建立某種機制，因為模型進步得太快了。

　　馬斯克： 六個月已經很長了。現在AI領域的突破太多了，有時一天之內就會出現好幾個重要進展。

　　上周究竟有多少個？我已經數不過來了。

　　貝多斯： 確實很多。所以，無論採用德米斯的方案，還是其他方式，你們這些公司都需要儘快坐到一起，建立一套機制。

　　聽起來，這就是你的主張。

　　馬斯克： 至少應該先建立一種非正式機制，每周或者每兩周開一次電話會議。

　　在某家公司發布新的前沿模型之前，其他競爭者可以提前一到兩周獲得測試權限。

　　我認為這裏的激勵機制是有效的。

　　競爭公司通常有能力識別安全風險，而且它們絕不會羞於指出競爭對手的模型應該推遲發布。

　　這有點像美國電影協會的分級制度。

　　電影行業自己成立組織，判斷一部電影應該被劃為什麼級別，是否適合兒童觀看。這套機制總體上運行得不錯。

　　只有當某家公司做了非常危險的事情，同時拒絕降低風險時，政府才需要介入。

　　貝多斯： 但問題在於，你們彼此並不喜歡，也不太信任。

　　你們經常在社交媒體上互相攻擊。既然這些領導者之間存在如此強烈的個人敵意，你真的能夠與自己不喜歡的人合作嗎？

　　馬斯克： 我確實不喜歡山姆·奧特曼。

　　因為我們最初創建的是一家非營利、開源、屬於全世界的AI公司，結果它最後變成了一家估值8000億美元、閉源且以營利為目的的公司。

　　任何人都會問：等等，這和我當初捐款支持的目標完全相反。

　　這就是我對他的主要不滿。我認為，這種質疑完全合理。

　　至於達里奧，我認為他大概也不喜歡山姆·奧特曼。Anthropic團隊當初之所以離開OpenAI，就是因為他們不信任山姆。否則，Anthropic根本不會存在，他們會繼續留在OpenAI。

　　我認為達里奧是一個非常有原則的人。他真誠地關心很多事情，也關心世界的未來。

　　而且到目前為止，我見過的Anthropic員工，沒有一個觸發過我的「邪惡探測器」。他們看起來都懷有善意。

　　當然，人們常說，通往地獄的道路是由善意鋪成的。但我認為，那條路更多時候其實是由惡意鋪成的，只是其中也夾雜着一些善意。

　　所以，我們不能掉以輕心。

　　但歸根結底，如果為了世界的利益，我們必須坐下來談，那就應該暫時擱置個人分歧。

　　貝多斯： 這對我們其他人來說，是一個非常令人欣慰的消息。

　　馬斯克： 是的。

　　05．

　　全民高收入的未來，以及通縮問題

　　貝多斯： 我們能不能談談另一個讓人擔憂的風險？

　　尤其是在普通美國人當中，AI已經變得非常不受歡迎。大約75%的人對此感到擔憂，我想他們最擔心的是自己的工作。

　　達里奧曾經說過，未來幾年，大約一半的初級白領崗位可能會消失。而你又在製造人形機器人。

　　馬斯克： 達里奧在Mythos這件事上的表述，確實有些搬起石頭砸自己的腳。

　　他說，Mythos非常危險、非常可怕，然後又補充說：順便說一句，我們還是準備發布它。

　　人們自然會問，這是什麼意思啊？

　　如果你先告訴所有人，這個東西非常可怕，然後又把它發布出來，人們當然會恐慌。

　　貝多斯： 我當然不希望你去嚇唬人。

　　但AI會以多快的速度、在多大程度上取代人類工作，這是一個非常重要的問題。

　　正如你剛纔所說，10年之內，AI的智能水平可能會超過全體人類。與此同時，至少在美國，你在人形機器人領域也走在最前面。

　　那麼，對於工作被取代的速度，你的判斷是不是和達里奧比較接近？

　　馬斯克： 我確實認為，這會是一條非常坎坷的道路，因為AI最終能夠把任何工作都做得比人類更好。

　　而且很快，所有數字化工作，也就是任何需要人坐在電腦或手機前完成的工作，AI都能勝任。

　　軟件工程已經是這樣了。現在，AI編寫軟件的能力，已經超過至少90%的專業軟件工程師。

　　很快，它會超過99%，最後會發展到人類根本無法與之競爭。

　　它會達到我所說的「Stockfish水平」。Stockfish是一款國際象棋程序，棋力強大到可以輕鬆擊敗馬格努斯·卡爾森，也可以擊敗任何人類棋手。

　　即使只在一台小型電腦上運行，它也能做到這一點。我懷疑，現在甚至可以直接在手機上運行Stockfish，然後擊敗卡爾森。

　　未來AI編寫軟件的能力也會達到這種程度。

　　而且不只是軟件，所有領域都會如此。

　　貝多斯： 所有領域？

　　馬斯克： 所有領域。

　　貝多斯：  但對於體力勞動，比如裝配工作，目前還需要人形機器人，而它們現在還沒有達到這樣的能力，對嗎？

　　馬斯克： 是的。所以我纔會把它分成數字AI和以機器人為載體的物理AI。

　　機器人可以被理解為AI在物理世界中的末端執行器。它們會擁有一定程度的本地智能，但背後仍由一個大型AI模型統一管理。

　　我說過很多次，未來工作將變成一種選擇，而不再是生存的必需。

　　也許可以把它類比為園藝。

　　你並不需要在自家花園裏種蔬菜，因為你完全可以去商店購買，那裏有外觀和品質都很完美的蔬菜。

　　但你仍然可以選擇自己種。

　　自己種出來的蔬菜可能沒那麼完美，番茄也不會像商店裏的那樣飽滿漂亮，甚至會顯得有些粗糙。

　　但如果你去朋友家喫飯，發現晚餐用的是他們自己種的蔬菜，你還是會覺得這件事很特別。

　　未來的工作，可能就會變成這樣。

　　貝多斯： 我明白你的意思。即使計算機下棋比任何人都強，人們仍然願意彼此下棋。

　　但我們來談談這背後的政治問題。你描繪的是這樣一個世界：10年之內，幾乎所有工作都能被某種形式的智能完成，而且比人類做得更好。

　　與此同時，AI帶來的巨大財富和回報，首先集中在你這樣的人手裏。你是世界上最富有的人。

　　那麼，那些失去工作、被機器取代，最後只能去種菜的人怎麼辦？他們靠什麼生活？

　　馬斯克： 在我看來，答案就是全民高收入。

　　貝多斯： 但要怎樣實現？我們必須正視現實政治。

　　現在各國都面臨巨大的政治壓力，人們對此非常擔憂，甚至強烈反對。在我看來，我們更有可能走向革命，而不是輕鬆抵達你所描繪的烏托邦。

　　馬斯克： 我並不是說，這個過程會一帆風順。它一定是非常崎嶇不平的。

　　過去，計算機也讓許多工作消失了。

　　「計算機」這個詞，最初指的就是專門從事計算工作的人。那曾經是一種正式職業。

　　你可以在網上看到以前的照片：整棟辦公樓裏坐滿了人，他們每天的工作就是計算，比如計算銀行賬戶的利息。

　　在很長一段時間裏，事情就是這樣完成的，直到電子計算機出現。而且最初的計算機也非常昂貴、非常難用。

　　這一次真正不同的地方，是變化速度會快得多。

　　當年，肯定也有人因為計算銀行利息的工作消失而感到不安。但今天，你恐怕很難找到願意重新去做那份工作的人。

　　如果想了解未來可能是什麼樣，我建議大家讀一些科幻小說。

　　在我讀過的作品中，對未來最好的想象，是伊恩·班克斯的「文明」系列。

　　貝多斯： 多虧了你的推薦，我正在讀《異象》（「文明」系列中的科幻小說，中文正式出版名為《異象》。它最初出版於1996年，講述高度發達的「文明」社會遭遇一個遠遠超出自身理解範圍的神祕存在，由此暴露出不同超級AI「主腦」之間的結盟、算計和權力博弈。）。

　　但坦率地說，我並不覺得那樣的未來特別吸引人。因為在那個世界裏，人類幾乎失去了自主權。

　　馬斯克： 相對於那些「心智」，人類仍然擁有少量自主權。

　　貝多斯： 但很有諷刺意味的是，伊恩·班克斯本身是一名社會主義者。他的政治哲學和你的立場非常不同。

　　馬斯克： 這一點我不完全同意。

　　貝多斯： 我們姑且假設，那就是最終的歸宿。我真正擔心的是抵達那裏的過程。

　　我們生活在民主社會，人們現在已經非常焦慮。

　　你完全可以想象這樣一種情形：人們因為太過恐懼，試圖阻止AI發展，儘管他們最終可能阻止不了。隨後出現國有化，出現極左政府，資本稅被大幅提高，經濟因此崩潰。

　　這完全可能發生，因為你所描繪的未來，對很多人來說確實非常可怕。

　　那麼，我們今天應該怎樣處理這些政治問題？是不是必須把你這樣的人所獲得的財富，大規模重新分配給那些失去工作的人？

　　你是不是應該繳納更多稅？是不是應該提高資本稅，用來資助某種全民基本收入？否則人們靠什麼生活？

　　馬斯克： 我認為財政部可以直接給人們發錢。

　　貝多斯： 但錢從哪裏來？我好歹也是個經濟學家（別忽悠我）。

　　馬斯克： 直接創造貨幣就可以。

　　很多我們今天習以為常的經濟規律，都源於過去的條件，未來未必還適用。

　　通貨膨脹，本質上就是貨幣供應量與商品和服務總量之間的關係。如果商品和服務的產出大幅增長，比如增長10倍，那麼政府完全可以增加貨幣供應。

　　說到底，所謂「印錢」，無非是在數據庫裏增加一些數字。只要貨幣供應增長得沒有商品和服務快，結果就不是通脹，而是通縮。

　　所以我再做一個預測：未來真正的問題會是通縮，而不是通脹。因為商品和服務的增長速度，會超過貨幣供應的增長速度。

　　貝多斯：  我完全願意承認，你可能是對的。

　　但我仍然不知道，我們怎樣從今天這個充滿兩極分化、憤怒和恐懼的政治環境，走到你所描繪的那個烏托邦。

　　馬斯克： 這件事既令人興奮，也令人恐懼。

　　坦率地說，即使在同一天裏，我對AI的感受也可能在興奮和恐懼之間來回變化。

　　我並不是一個盲目樂觀的人，也不抱那種「一切都是最好安排」的潘格羅斯式樂觀。AI確實存在風險。

　　貝多斯： 這一點我們是同意的。

　　我只是想把問題說得更具體、更現實一些，看看現在究竟能做些什麼，降低這些風險。你剛纔已經提出了一個很有力的觀點：AI公司之間應該相互測試和監督。

　　馬斯克： 政府也許應該協調這些公司，讓我們把在彼此模型中發現的問題公開提出來，從而降低風險。

　　貝多斯： 那麼，你本人是否應該繳納更多稅，用於資助更大規模的轉移支付？

　　馬斯克： 首先，我已經繳納了很多稅。事實上，我創造過個人納稅額的世界紀錄。

　　貝多斯： 因為你是世界首富。

　　馬斯克： 在成為世界首富之前，我就已經創下紀錄了。

　　我猜自己未來可能會繳納數萬億美元的稅。我對此沒有意見，事情就是這樣。

　　但在一個金錢已經不再重要的未來，稅收本身也會變得沒那麼重要。

　　貝多斯： 那怎樣才能讓普通人感到，自己也分享到了這些收益？

　　馬斯克： 當然應該讓他們分享。

　　貝多斯： 比如把SpaceX和特斯拉的股份分給人們？現在有很多類似的討論。

　　馬斯克： 我推動SpaceX上市，其中一個原因，就是讓公衆有機會參與。

　　他們可以真正擁有SpaceX的一部分。

　　作為私人公司，我們能夠擁有的股東數量非常有限，最多隻有幾千人。

　　但成為上市公司之後，就可以擁有數百萬股東。

　　貝多斯： 你能不能想象一種類似阿拉斯加永久基金的安排，把公司股份分給普通民衆？

　　有些人認為，特朗普賬戶也可以成為這樣的工具，把你的部分股權分配給普通美國人。

　　馬斯克： 我的股票期權需要繳納大約40%的聯邦所得稅。因為我大約30%的時間生活在加州，還要繳納加州州稅，目前稅率大約是15%。

　　綜合下來，我需要繳納大約45%的稅，差不多是一半。

　　等我去世後，剩餘財產又會被徵收大約45%的遺產稅。所以最終真正留下來的，大約只有最初的四分之一。

　　而這些財富對我真正的意義，只是在一段時間裏讓我能夠控制公司的發展方向。

　　大概也就如此。

　　等到AI足夠聰明，最終由它來掌控一切時，控制公司可能也就沒那麼重要了。

　　06．

　　要控制權，是確保公司能夠專注於長期

　　貝多斯： 我們來談談公司的控制權。

　　很多人擔心，世界未來的發展方向，正被極少數擁有巨大權力的人塑造，而你顯然位居其中。

　　馬斯克： 但這和過去有什麼不同嗎？

　　貝多斯： 過去當然也是如此。但正如你剛纔所說，這一次變化的速度要快得多。

　　以SpaceX為例，上市以後，你仍然擁有超過80%的投票權。據我了解，除非你所控制的股份也投票同意，否則幾乎不可能罷免你。

　　如果我理解得不對，你可以糾正我。但這實際上意味着，你可以不受約束地決定公司的方向。

　　馬斯克： 谷歌也是如此。

　　Alphabet由拉里·佩奇和謝爾蓋·布林控制，他們擁有公司的投票控制權。

　　馬克·扎克伯格也控制着Meta。而且馬克現在親自衝在AI前線，非常努力。我認為，他和Meta也很可能成為AI領域的領先者之一。

　　貝多斯： 但你的情況似乎更加極端。一個人對一家公司擁有如此巨大的控制權，真的合理嗎？

　　馬斯克： 我需要確保公司能夠專注於長期。我所說的長期，是五到10年，甚至更久。

　　上市公司的挑戰之一，是它們承受着每個季度都必須交出漂亮業績的壓力，因此很難真正投資那些5年、10年以後才能產生回報的項目。

　　以SpaceX為例，我希望把人類意識擴展到地球之外，在月球、火星以及太陽系其他地方建立不斷發展的文明。

　　我認為從長期來看，這會帶來很高的回報。但在短期內，我們可能會把大量資金投入月球基地和火星基地。

　　然後投資者就會說：「你這個季度沒有達到盈利目標，因為你在火星上花了太多錢。」

　　我會回答：「是的。」

　　而且這些計劃在我們的S-1招股書裏已經寫得很清楚，明確告訴了所有人，這正是我們準備做的事情。

　　但人們還是會不滿。他們會說，你原本應該實現多少毛利率，結果低了一點，所以現在要懲罰你。

　　沽空者也會蜂擁而至，公司將承受巨大的短期壓力。

　　所以我需要有能力告訴所有人：我們會專注於五到10年，甚至更長期的投資。這些投入會壓低短期收益，但我們必須堅持。

　　當然，我們也有很多真正着眼長期的投資者。

　　事實上，我很喜歡散戶投資者。總體而言，我發現他們相當有洞察力，也更願意從長遠角度思考。

　　機構投資者如此關注季度業績，在某種程度上也可以理解。很多基金經理的薪酬和晉升，都直接取決於投資組合的短期表現。

　　他們通常只有幾年時間證明自己，有時甚至一年之內，就會因為投資結果受到評價。所以，他們面臨着立刻獲得回報的壓力，自然也會把同樣的壓力施加給公司。

　　一旦理解了這種激勵機制，隨之而來的行為也就不難理解了。

　　貝多斯： 那關鍵人物風險呢？

　　但願不會發生，不過假如你明天突然出了意外，你對這些公司擁有如此完整的控制權，它們還能繼續發展嗎？

　　你是否已經安排好了相應的計劃？

　　馬斯克： 我認為即使沒有我，這些公司在未來幾年裏也會發展得很好。

　　SpaceX有一條非常清晰的路線圖，或者說一條清晰的太空發展路線圖。

　　特斯拉也一樣。

　　你可以看看史蒂夫·喬布斯去世後的蘋果。

　　喬布斯留下了清晰的戰略願景，也留下了一系列產品構想，因此蘋果在此後很長一段時間裏都表現得非常好。

　　但如果沒有喬布斯那樣富有創造力的天才，蘋果也就很難再推出那種真正突破性的產品。

　　它仍然製造非常出色的手機和電腦，但再也沒有推出過喬布斯時代那種級別的產品。

　　貝多斯： 按照這個類比，你認為自己給這些公司帶來的，正是類似喬布斯的突破性創造力。

　　你剛纔又提到了火星。很長一段時間以來，人們都把你視為那個想在火星上建立殖民地的人。

　　馬斯克： 我已經說了很多年了。

　　貝多斯： 但現在，你似乎把更多注意力放在AI，以及它在未來10年將帶來的變化上。

　　而且相比殖民火星，你聽起來似乎對把月球作為基地、向軌道發射AI衛星更感興趣。你的關注重點是否已經從火星轉移了？還是說，你對火星的興趣一如既往？

　　馬斯克： 我關心的是，哪些行動能夠最大限度地讓意識延續到未來，讓意識所能影響的未來範圍儘可能大。

　　我希望未來的人類能夠成為一個真正的太空文明，生活在群星之間。

　　那些在非反烏托邦科幻小說和電影裏出現的偉大事物，終有一天能夠成為現實。

　　我想要的是《星際迷航》或者《星球大戰》裏的未來。

　　順便說一句，《星球大戰》是我在電影院裏看過的第一部電影。

　　貝多斯： 真的嗎？

　　馬斯克： 也許它對我產生了非常深遠的影響。

　　我當時大概六歲。坦率地說，那部電影讓我非常震撼。我覺得，那是我見過最偉大的東西。

　　貝多斯： 所以，你的一生都在努力把那樣的未來變成現實？

　　馬斯克： 是的。當然，我年輕時並沒有想到，自己後來真的會做這些事情。

　　有時我的生活會讓我覺得很不真實。我很難相信，這些事情真的發生了。

　　這也是我相信模擬理論的原因之一。

　　我正在做的事情實在太荒謬了，以至於很難相信它們是真實的。

　　我們現在擁有星艦，這是人類有史以來製造過的最大、最強的飛行器。而我們的目標，是未來每小時發射不止一次。

　　貝多斯： 我讀到過這個設想。人們當然可以爭論，它究竟需要多久才能實現。

　　但考慮到你過去做成的事情，我想我們應該假設它最終確實會發生。

　　馬斯克： 一定會發生。

　　貝多斯： 真正讓我震撼的是AI的整個演進過程，以及這些模型現在所表現出的能力。

　　馬斯克： 它的發展基本符合我的預期。

　　貝多斯： 是嗎？

　　馬斯克： 是的。而且不只是我，很多人都預測到了。

　　我認為，雷·庫茲韋爾（Ray Kurzweil，美國發明家、計算機科學家和未來學家，也是「技術奇點」最著名的倡導者之一）對未來的預測非常準確。

　　（此處省略8000字……）

　　07．

　　奇點之前，什麼最重要

　　貝多斯： 我想，最終還是要由事實來判斷誰更接近真相。在歐洲不同地區，我們大概都能找到支持各自觀點的證據。

　　馬斯克： 總體而言，我非常擅長預測未來。

　　我並不完美，但在人類當中，我預測未來的準確率非常高。

　　問題在於，這有點像「卡珊德拉效應」：我看到了未來，但人們不相信我說的事情很可能真的會發生。

　　我預測的時間點未必總是完全準確，但大方向往往會兌現。

　　歷史最終會給出答案。

　　你會發現，我說過的話很少完全落空，大部分都相當準確，最終也會成為現實，除非人們及時改變了方向。

　　貝多斯： 關於未來的判斷，你對哪一部分更有信心？是AI，還是政治？

　　馬斯克： 數字超級智能之所以被稱為「奇點」，和黑洞被稱為奇點的原因差不多，你無法知道穿越那個節點之後會發生什麼。

　　它幾乎會吞噬其他一切議題。

　　所以，從真正重大的宏觀影響來看，AI和機器人將在不到10年的時間裏主導一切。

　　到那時，我們剛纔討論的很多政治問題，可能都會顯得沒那麼重要，甚至變得無關緊要。

　　AI與機器人的革命會更早到來。

　　我認為，它會比英國內戰更快發生。英國內戰大概還要20年，而AI與機器人的奇點，10年內就會到來。

　　貝多斯： 希望那些仁慈而全能的AI，能夠阻止這樣的結果。

　　馬斯克： 它們很可能會。

　　貝多斯： 我並不同意你說的每一句話，但與你交談始終非常精彩。非常感謝你。

　　馬斯克： 不客氣。至少我不無聊。

　　貝多斯： 你確實一點也不無聊。