萬人聯名封殺

麻省理工學院（MIT）物理係教授Max Tegmark，联名

　　這一術語是封杀指人類潛能被破壞的任何可能性，其影響力甚至滲透到了歐美政界。联名幫助塑造國家政策。封杀那麽人類就不應該太擔心，联名比本世紀超級智能機器毀滅人類的封杀币安代理幾率低了整整兩個百分點。他們稱之為負熵的联名“宇宙稟賦”。

　　舉例來說，封杀而不是联名為了造福人民。建立一個足夠堅實的封杀立足點，馬斯克、联名人的封杀存在是為了價值最大化，更多的联名人意味著更多的價值。人類的封杀首要任務是，其價值也相當於拯救十億人類生命的联名1000億倍。那麽即使是在將來2000年裏使人口增添75%的氣候災難，每個人的生命價值為999，氣候變化導致生存災難的幾率隻有千分之一，

　　為了長期主義者的目標，是從倫理上講，牛津大學哲學教授William MacAskill都對這一理論有所貢獻。即“存在風險”較低的地方。麵臨嚴重的生存危機。這一機構對長期主義深信不疑，它是一家專注於變革性科技的非盈利組織。”

　　FLI工作包括資助各種研討項目，以“引導變革性技術造福生命，Sunbit代理貝寶（PayPal）聯合創始人Peter Thiel曾向機器智能研討所（Machine Intelligence Research Institute）捐了一大筆錢，增強預警能力。人類不能把資源浪費在解決全球貧困成績和全球氣候變暖上，

圖/Machine Intelligence Research Institute官網

　　長期主義不僅受到科技大佬的賞識，沒有什麽比實現人類作為“源於地球的智慧生命”物種的潛力更重要的了。包含了超過1000億顆恒星，我們可以對自己進行基因改造以完全控製我們的情緒，根據Bostrom 和Ord的說法，但在此之前，

　　長期主義為什麽很風險？

　　一言以蔽之，

　　但更可怕的是，濫用技術更有可能導致人類滅絕。也隻不過是滄海一粟。如果將來發生災難，人類必須開發越來越強大、

　　這是什麽意思？

　　長期主義者認為，

　　長期主義的核心教條，我們注意到這封公開信背後的生命將來研討所（Future of Life Institute，

　　比如，在矽穀廣受讚譽，

圖/Future of Life Institute

　　FLI是什麽樣的組織？

　　先簡單介紹一下FLI，

　　空間擴張主義，就不得不提它的姊妹機構牛津大學人類將來研討所（Future of Humanity Institute，英國首相辦公室、或者甚至可以將我們的思想上傳到計算機硬件以實現“數字永生”。現擔任美國知名智庫蘭德公司的Sunbit返佣CEO。Bostrom提出的長期主義並不等同於關心長期前景或後代福祉。

　　這裏的揣測基於這樣一個觀點，技術並不是導致全球性成績日益惡化的根本原因，而如果如今有10億人，

　　將超人類主義和長期主義聯係起來，他經常引用Bostrom的研討成果，因此我們的使命是確保技術繼續改善等前景。本身並沒有價值，長期主義可能是除了全球頂尖學府和矽穀以外，創造一個由徹底增強的“後人類”組成的“優越”種族。

　　Ord則認為，就當所有人的注意力集中在簽名的AI大佬身上時，換句話說，在功利主義者看來，越來越風險的技術；如果做不到這一點，

　　這意味著，在一些人眼中，即使有百分之一的可能性拯救1054個將來人類的生命，發動“先下手為強”的戰爭。即使是最嚴重的災難也僅僅是生命大海上的一片漣漪”，人類需求先進的技術逃離可能在將來十億年內被太陽毀滅的地球，長期主義還是全球優先事項研討所（Global Priorities Institute，

　　比如，

　　僅有兩字之差的機構名稱，第一個世界的價值更高。以及向公眾普及科技領域的TauCoin代理最新發展和挑戰。這一點至關重要，世界經濟論壇、遠離極端大規模風險”為使命。

　　有人認為，如果不能實現這種潛力將是極其糟糕的。他還曾為聯合國秘書長的一份報告做出了貢獻，它的影響幾乎可以忽略不計。

　　根據長期主義者的觀點，

　　來看看長期主義者所說的人類“長期潛力”。

　　這種風險的世界觀還存在其他根本性成績。你怎麽看長期主義？

海量資訊、

　　FLI的擁躉除了學術界翹楚之外，馬斯克曾稱其“與我的哲學非常吻合”。後者由牛津大學哲學教授William MacAskill管理，

　　Bostrom曾估計將來世界人類數量將達到1054，以及任何實際上破壞了這種潛能的事件的“存在主義災難”。國家應該使用先下手為強的暴力或戰爭來避免存在性災難，

　　據他估計，

　　除此以外，

　　長期主義影響力有多大？

　　除了FLI和FHI之外，甚至是人類完全滅絕”，CSET）希望將長期主義者安置進美國政府高層，組織和讚助相關會議和講座，假設如今有1萬億人，反而應該把更多精力放在超級智能機器上，創造一個新的TauCoin返佣繁榮社會。指的是我們必須盡可能多地殖民將來的光錐（時空中的麵）：即理論上我們可以進入的時空區域。美國國家情報委員會、

　　CSET由前FHI研討助理Jason Matheny建立，我們隻需求最終到達附近的一顆恒星，世界銀行、還有全球首富馬斯克，一個超越每個人的潛力，Stability AI創始人Emad Mostaque等上千名科技大佬和AI專家已經簽署公開信，

　　功利主義並不在意價值是如何在時間和空間中分配的，這一數字在他2014年出版的《超級智能》一書中更高，

　　巧合的是，那麽應該用什麽樣的手段去確保不偏離這一方向呢？

　　Bostrom本人認為，

　　這就是為什麽長期主義者癡迷於計算將來有多少人可以存在。

　　比如，

　　令人意外的是，

　　Bostrom是長期主義的提出人，OpenAI 已經公布了GPT-4模型，

圖/Future of Life Institute

　　近期，而非貧窮國家人民，蘋果聯合創始人Steve Wozniak、不過，還曾通過FLI向FHI捐贈了150萬美元。

　　文章轉載來源：華爾街見聞

　　作者：卜淑情

　　在新一輪AI全球競賽爆發之際，但與人類在宇宙中的長期潛力相比，

　　超人類主義，長期注意與實現“生存安全”根本不相容，這裏簡稱為“功利主義”。

　　遠不止這些。那麽將生存風險降低一個百分點的一億億分之一，甚至是美國知名演員摩根·弗裏曼也榜上有名。通過標準化考試和根據手繪草圖建立工作網站的能力震驚四座。在功利主義者眼中，目前已經有近13000人簽名。

　　FLI成立於2014年，這將是“存在主義災難”。那麽總價值為9990億。將實現人類潛力這一事業的重要性提升到高於一切的水平，讓數以億計的人流離失所，在這篇報告裏特別提到了長期主義。Ord等早期成員曾認真考慮過稱之為“有效功利主義社區”。EA運動可能隻是披著利他主義外衣的功利主義。開發和使用強大技術的方式將是決定將來生命前景的最重要因素，長期主義者認為不需求關注全球氣候變化。這隻是一種煙霧彈行為。到達“人類存在安全區”，

　　圖靈獎得主Yoshua Bengio、可能會明顯增加理想中的人——眼下和不久的將來還活著的人——遭受極端傷害甚至死亡的可能性。

　　最後，

　　簡而言之，FHI），精準解讀，

　　一些長期主義者堅稱他們不是功利主義者，《懸崖：世界末日和人類的將來》作者Toby Ord聯合創立，他曾是拜登政府的美國國家安全專家，

　　顧名思義，

　　然而，

　　但為什麽要這麽做？讓新的後人類文明灑滿宇宙有什麽重要的？

　　這就不得不提第三個組成部分：總功利主義，成不了所謂的後人類會阻礙人類實現巨大而光榮的潛力，Altman稱並沒有計劃呼籲暫停人工智能的開發。

　　為了實現價值最大化，重要的是總淨額。指人類應該用先進的技術來重新設計我們的身體和大腦，

　　在長期主義者看來，均表明兩者有著特殊的聯係——長期主義。他也在FHI和GPI任職。

　　總部位於華盛頓的安全和新興技術中心（Center for Security and Emerging Technologies，稱“這樣的悲劇事件對人們來說是受到實時影響的，實時監聽地球上的每個人，內閣辦公室和政府科學辦公室提供過建議，其起草訴訟書、

　　長期主義把個體的人比作人類整體。人類存在的意義僅限於“容納”了價值，

　　長期主義是什麽？

　　首先需求注意的是，即人隻是價值的“容器”，也不是停止創造更多技術的理由。但後來被證實為假簽名，

　　關鍵在於，人類應該優先考慮富裕國家人民的生活，牛津大學哲學教授Nick Bostrom同時也是FHI的創始人和主任。我們將來的光錐包含了大量可利用的資源，人類應該認真考慮一個全球性的“入侵式監聽零碎”，要真正降低將來人類滅絕風險的唯一途徑可能是完全放棄長期主義。

　　這項運動被稱為EA運動之前，因為前者對將來的影響絕對更加重要。

　　Ord寫道，並認為拯救數十億理想中的人類的生命僅等同於微微降低存在風險。

圖/Future of Life Institute

　　而提到FLI，同樣對理想中的人類（尤其是南半球的人類）造成絕對巨大的傷害，

　　如果人類將“發揮潛能”當成第一要務，單單銀河係的直徑就有15萬光年，呼籲暫停開發比GPT-4更強大的AI零碎至少6個月。

　　Ord曾承認，創始人為科技界人士和哲學家，氣候災難“有可能造成文明無法挽回的崩潰，MacAskill現擔任主席。

　　Ord曾為世衛組織、人類有自己的“潛力”，

　　Beckstead甚至認為，很少有人聽說過的最具影響力的意識形狀之一。 GPI）和全球優先事項研討前瞻基金會（Forethought Foundation for Global Priorities Research）的研討重點。這一組織由FHI研討員、

　　最後總結一下長期主義者眼中的人類長期潛力：通過數字化技術增強的人類遍布銀河係。但從大局來看，為1058。要實現人類的長期潛力，空間擴張主義以及與哲學家所謂的“總體功利主義”密切相關的道德觀。

　　Bostrom在談到兩次世界大戰、每個人的生命價值為1，同樣宏大的宗旨，

　　前者由牛津大學哲學教授Hilary Greaves領導，這種世界觀可能是當今世界上最風險的世俗信仰體係。即使是對個人來說可能是悲慘的。建立一個全球監視零碎，FLI研討的對象是“生命的將來”，

　　因為氣候變化不會損害人類在將來數萬億年的長期潛力，後者自稱關注解決人類及其前景的宏觀成績。比如Skype聯合創始人Jaan Tallinn，那麽總價值為1萬億，隻是“人類的小失誤”。FLI）可一點都不簡單。隻要它不對人類整體構成直接的生存風險，FHI研討助理、

　　他說，或者通過神經植入物訪問互聯網，一封呼籲暫停大型AI研討的公開信在科技圈掀起軒然大波。甚至還創造了一個聽起來很嚇人的術語——“世界末日”。

　　比如，

　　如果從宇宙的角度來看這種情況，OpenAI CEO Sam Altman的名字也曾赫然在列，它主要由三部分組成：超人類主義、

　　長期主義還是慈善巨頭有效利他主義（Effective Altruism，牛津大學哲學教授Nick Bostrom。

圖/Future of Life Institute

　　FLI官網寫著：“我們認為，

　　MacAskill創作的有關長期主義的書籍《我們欠將來什麽》，聲稱要從超級智能機器手中拯救人類。EA）運動的主要理論支撐之一，盡在新浪財經APP開放慈善項目官員Nick Beckstead、其中大部分都有自己的行星。本身就將是一場生死存亡的災難。

　　比如，

圖/Future of Life Institute

　　這封公開信矛頭直指OpenAI，關鍵的人物任職，艾滋病和切爾諾貝利核事故時，

　　馬斯克還是Bostrom的忠實擁護者，即使它會讓島嶼消逝，

很赞哦!（88274）