<delect id="rljdd"><span id="rljdd"><sub id="rljdd"></sub></span></delect>

      <rp id="rljdd"><i id="rljdd"><output id="rljdd"></output></i></rp><nobr id="rljdd"><th id="rljdd"></th></nobr>
      <big id="rljdd"><meter id="rljdd"></meter></big>

      <em id="rljdd"><i id="rljdd"></i></em>
        <em id="rljdd"></em><dfn id="rljdd"><i id="rljdd"><form id="rljdd"></form></i></dfn>
            <big id="rljdd"><noframes id="rljdd">
                <meter id="rljdd"></meter>
                  <meter id="rljdd"></meter>

                    登錄甲子光年
                    其他登錄方式
                    登錄即表示你已閱讀并同意
                    《甲子光年用戶注冊協議隱私政策
                    找回密碼
                    獲取驗證碼
                    注冊甲子光年
                    獲取驗證碼
                    注冊即表示你已閱讀并同意
                    《甲子光年用戶注冊協議隱私政策
                    綁定手機號
                    獲取驗證碼
                    登錄即表示你已閱讀并同意
                    《甲子光年用戶注冊協議隱私政策
                    完善資料
                    登錄即表示你已閱讀并同意
                    《甲子光年用戶注冊協議隱私政策
                    微信登錄
                    掃描二維碼 | 授權登錄甲子光年
                    專訪Schmidhuber:從未獲得圖靈獎的生成式AI之父 | 甲子光年
                    作者:田思奇 2024-07-18

                     


                    作者 | 田思奇

                    編輯 | 王博

                     

                    在上海的酷暑之中,「甲子光年」見到了從歐洲遠道而來的Jürgen Schmidhuber(于爾根·施密德胡伯)。

                     

                    這位61歲的德國人是2024世界人工智能大會(WAIC)科學前沿主論壇的重磅嘉賓,他也被稱為“生成式人工智能之父”。

                     

                    在數年研究的基礎之上,Schmidhuber與他的學生Sepp Hochreiter等人于1997年發表了有關長短期記憶(LSTM)的架構和訓練算法,成為20世紀被引用最多的人工智能論文,并且這一紀錄也有望延續到本世紀。這種類型的RNN(循環神經網絡)廣泛用于科技巨頭的自然語言處理、語音識別、視頻游戲等應用,包括蘋果的語音助手Siri以及谷歌的翻譯。因此,LSTM曾在ChatGPT誕生前被稱為“最具商業價值的人工智能成就”。

                     

                    而早在奇跡般的1990-1991年。Schmidhuber就通過引入GAN(生成對抗網絡)、非規范化線性Transformer和自監督預訓練原理,奠定了“生成式人工智能”的基礎。這對ChatGPT中的“G”“P”和“T”都產生了廣泛的影響。

                     

                    因此,早在深度學習三巨頭(Geoffrey Hinton、Yoshua Bengio和Yann LeCun)獲得圖靈獎之前,Schmidhuber就已經被《紐約時報》稱為“成熟人工智能之父”了。埃隆·馬斯克也在X上盛贊:“Schmidhuber發明了一切?!?/span>

                     

                    2013年,Schmidhuber被國際神經網絡協會(INNS)授予“赫爾姆霍茲獎”,旨在表彰他在機器學習領域的重大貢獻。2016年,他又被授予IEEE神經網絡先鋒獎。目前他擔任瑞士的人工智能實驗室IDSIA的科學主任以及沙特阿拉伯阿卜杜拉國王科技大學(KAUST)的人工智能計劃負責人。他還參與了幾家人工智能公司的運作。

                     

                    這引發了新的疑問:為什么他還沒有得過圖靈獎?

                     

                    許多業內人士為他抱不平,但Schmidhuber本人并不是特別在意。在為期兩天與「甲子光年」的深入交流中,Schmidhuber以其標志性的時尚黑色貝雷帽與流利的德國口音英語,展現出一位兼具幽默與親和力的學者形象。然而在這種和藹可親的外表之下隱藏著一種不屈不撓的精神,渴望在快速發展的人工智能研究領域建立科學誠信。

                     

                    談及個人及學界同仁被忽視的貢獻,尤其是歐洲那些小型學術實驗室在科技巨頭之前取得的開創性突破,Schmidhuber的話語中透露著修正歷史記錄的迫切感。

                     

                    過去幾年里,他已經和LeCun、Ian Goodfellow等人在社交媒體和演講場合進行多次公開論戰,利用自己準備已久并且經過同行評議的論據,指責對方利用自己更早發布的成果“炒冷飯”,而深度學習領域早期先驅應得的認可不該被淡化。

                     

                    他的直言不諱自然會引發對他個性的爭議。但Schmidhuber從歐洲和學術界出發的立場,也的確在硅谷可能存在誤導性的主流敘事之外,為公眾提供了寶貴的多元視角。更何況,他不僅堅持為自己發聲,更不遺余力地表彰自己的杰出學生,以及那些在人工智能發展歷程中被低估的貢獻者,力求為他們正名。

                     

                    關于誰應該被稱為“人工智能之父”的爭論,Schmidhuber指出,構建人工智能需要整個文明。并且早在20世紀50年代創造“人工智能”一詞之前的幾十年甚至幾百年,現代人工智能的概念就已經在數學和算法原理的驅動下顯現。

                     

                    至于針對他本人的惡評,Schmidhuber表現得更加灑脫。他總是引用著名歌手“貓王”埃爾維斯·普雷斯利(Elvis Presley)的一句話:“真相如同陽光,或許偶被云遮,但終將光芒萬丈?!?/span>

                     

                     Jürgen Schmidhuber,圖片來源:受訪者提供

                     

                    本文,「甲子光年」專訪Jürgen Schmidhuber,從遠早于1956年的人工智能開端,談到自己的研究和對“深度學習三巨頭”的看法,展望未來,他認為可能出現能夠自我復制、自我改進的機器文明。在通往AGI的過程中,他相信除了大公司之外,一個沒有太多資金的人也能為人工智能研究帶來全面的革新。


                    比Transformer更好的架構

                    甲子光年:讓我們從人工智能的歷史開始談起。你對AI的發展有著深刻的理解。你認為人工智能的歷史中有哪些需要澄清的東西?

                     

                    Schmidhuber:當然有很多。人工智能的開端遠早于1956年的達特茅斯會議,當時是“人工智能”這個詞首次亮相。但實際上早在1914年,Leonardo Torres和Quevedo便已設計出能夠對弈國際象棋的自動化裝置。在那個年代,下棋可是被視為智能生物的專屬領地。至于人工智能的理論,可追溯至庫爾特·哥德爾(Kurt G?del)1931-1934年的工作,當時他確立了人工智能計算的基本局限性。

                     

                    還有人說人工神經網絡是20世紀50年代出現的新鮮事,其實不然。理念的種子在200多年前就已經埋下,高斯和勒讓德這兩位天才少年在1800年左右提出了我們現在能認作是線性神經網絡的概念,不過當時他們稱之為“最小二乘法”。他們擁有由輸入和期望輸出組成的訓練數據,并通過調整權重來最小化訓練集誤差,以便推廣到在看不見的測試數據上,也就是線性神經網絡。

                     

                    這是現在所謂的“淺層學習”,于是有些人認為更強大、更新穎的“深度學習”是 21 世紀的創新。但事實并非如此。1965 年,在烏克蘭,Alexey Ivakhnenko 和 Valentin Lapa 開創了第一個可以學習的深度多層網絡。例如,Ivakhnenko 1970 年的論文詳細介紹了一個八層深度學習網絡。遺憾的是,后來其他人重新發表了同樣的想法和概念時,都沒有引用烏克蘭的發明人。在我們這個領域,還有許多有意或無意的抄襲案例。

                     

                    甲子光年:你本人也在人工智能的歷史上扮演了重要角色。你能介紹一下1991年那奇跡般的一年嗎?當時你的研究成果對人工智能行業產生了哪些貢獻?

                     

                    Schmidhuber:1990年至1991年是我們創造奇跡的時間,這是我非常自豪的事情。短短一年間,我們在慕尼黑工業大學的實驗室里孕育出了支撐當今生成式AI的諸多核心觀念。

                     

                    從ChatGPT說起。它名字里的那個GPT,全稱是生成式預訓練轉換器(Generative Pre-trained Transformer),首先是GPT和生成式AI中的G。它的根源可以追溯到1990年我先提出的生成對抗網絡概念。那時,我把它稱作“人工好奇心”,兩個互相博弈的神經網絡(一個具有自適應概率單元的生成器和一個受生成器輸出影響的預測器)使用梯度下降來最大化彼此在博弈中的損失。然而,在極小極大的游戲中,生成器試圖最大化預測器正在最小化的內容。換句話說,它在試圖“愚弄”對手,生成難以預料的內容來挑戰預測方的極限。這技術后來在Deepfake領域得到廣泛使用。

                     

                    至于P,就是GPT的“預訓練”部分,也是我在1991年發表過的內容。我發現無監督或自監督的預訓練可以大大壓縮序列,從而促進下游對長序列(例如非常長的文本)的深度學習。

                     

                    T代表Transformer。有人認為它2017年才在谷歌誕生,但其實在1991年,我已經引入該概念的變體,即“快速權重控制器(fast weight controller)”,其中一個變體現在被稱為“非規范化線性 Transformer”。這種早期的Transformer效率極高,面對100倍的輸入只需100倍的計算量,而不用像現在的Transformer一樣需要10000倍的計算量。

                     

                    甲子光年:很多人,包括Transformer的作者都表示,我們需要比Transformer更好的架構。它當然不是完美的,那么你認為下一代的架構應該是什么樣子?

                     

                    Schmidhuber:現在,提高Transformer效率是個熱門話題,而我1991年的設計,無疑是個極好的起點。

                     

                    對于下一代LLM的討論,我們可以回到最初的階段。當時谷歌和Facebook都使用了我們的長短期記憶網絡,或者簡稱為LSTM遞歸神經網絡(RNN),其根源可以追溯到1991年,我杰出的學生Sepp Hochreiter的畢業論文。該論文不僅描述了上述預訓練(GPT中的P)的實驗,還引入了殘差連接,這是LSTM的核心成分,它允許非常深入的學習和處理非常長的序列。1995年我提出了LSTM這個名字,但名字并不重要,重要的是背后的數學。直到2010年代末,LSTM才被Transformer取代,因為Transformer比LSTM更容易并行化,這是從當今大規模并行神經網絡硬件(如英偉達的GPU)中獲利的關鍵。

                     

                    甲子光年:RNN可以解決Transformer無法解決的任務嗎?

                     

                    Schmidhuber:原則上它要更強大,比如奇偶校驗:給定01100、101或1000010101110這樣的比特串,1的數量是奇數還是偶數?看起來是一個簡單的任務,但Transformers無法概括它。然而即使是簡單的RNN也可以解決這個任務。

                     

                    最近,Hochreiter的團隊開發了一個令人印象深刻的LSTM擴展,稱為xLSTM,具有線性可擴展性,在各種語言基準測試中表現優于Transformers。它對文本語義的卓越理解,以及可以高度并行化的版本,使xLSTM成為未來大規模實驗的有力候選者。

                     

                    2. 線性的思維方式

                    甲子光年:你現在是沙特阿拉伯阿卜杜拉國王科技大學(KAUST)人工智能研究的負責人。是什么打動了你,讓你前往沙特就職?

                     

                    Schmidhuber:在此之前,我主要在瑞士工作,這是一個適合科研的好地方,在諾貝爾獎、專利、引用和人均AI發表等方面領先世界。但他們沒有像KAUST這樣的地方,KAUST現在是人均教職工影響力最大的大學,超過了加州理工學院和普林斯頓大學等機構。KAUST似乎是進一步推動人工智能研究的絕佳機會。沙特的資助也在使世界其他地區受益,因為我們正在產生許多可以從中國、美國和其他地方訪問的開源結果。

                     

                    甲子光年:我相信KAUST在AI研究方面擁有充足的資金和資源。你認為這也是大公司更有吸引力的原因嗎?小型獨立團隊甚至學術界,是否已經無法取得實質性突破?

                     

                    Schmidhuber:什么是實質性突破?是大模型測試中可以預見的0.5%的性能提升,而且要花費大量算力和資金的那種突破嗎?還是那些與大公司業務存在本質不同的新內容,依靠效率更高的人腦就可以完成的事情?我仍然堅信,一個沒有太多資金的人,有可能通過不需要花費太多成本就能實現的好主意來徹底革新人工智能研究。

                     

                    甲子光年:基于你多元的從業經歷,你會如何看待美國、歐洲、中東或中國等地的AI學界和業界之間的不同?

                     

                    Schmidhuber:歐洲是計算機、計算機科學、人工智能和深度學習的起源地,大多數現代人工智能都起源于那里。幾乎所有的核心深度學習技術都是在上世紀在歐洲開發的(當然日本也做出了重要貢獻)。歐洲仍在培養大量的人工智能人才。然而隨著時間發展,規模變得至關重要,這就到了美國和中國接管的時機。

                     

                    歐洲缺乏谷歌、蘋果、臉書、亞馬遜、阿里巴巴、騰訊等科技巨頭,盡管所有這些公司都基于萬維網(注:萬維網,由計算機科學家蒂姆·伯納斯·李在瑞士的歐洲粒子物理實驗室內設計并部署)。

                     

                    如今,美國和中國擁有眾多獨角獸初創公司,而歐洲只有少數。具有巨大市場估值的美國大公司可以很容易地收購一些歐洲最優秀的人才和整個初創公司,比如DeepMind。

                     

                    甲子光年:你認為DeepMind最近發展得如何?他們之前的一些成果,比如AlphaGo、AlphaZero 等,都發表在《自然》雜志或其他期刊上。但現在更受歡迎的模式是像OpenAI這樣直接為廣大用戶提供非常好的產品。(注:DeepMind聯合創始人Shane Legg博士畢業于Schmidhuber在瑞士領導的實驗室)

                     

                    Schmidhuber:DeepMind曾經幾乎就像沒有缺點的學術界一樣。他們資金充足的研究人員可以發表論文,而不必擔心申請資金計劃或者教學。然而,即使是像DeepMind這樣的明星公司也無法維持獨立增長。在它成為價值10億美元的獨角獸之前,它就被賣給了一家規模大得多的美國公司?,F在它只是谷歌的一小部分。

                     

                    甲子光年:我想學術實驗室和大公司之間永遠存在優劣的比較。OpenAI視頻生成產品Sora的負責人之一Aditya Ramesh上個月公開表示,現在學術界能完成的主要是評估和測量,或者研究人工智能的可解釋性,它們缺乏GPU這樣的資源做出更大的貢獻。順便說一句,Aditya沒有博士學位,因為他本科畢業直接入職了OpenAI。

                     

                    Schmidhuber:他真的這么說?這樣的說法似乎有點天真,反映了一種非常線性的思維方式:目前的趨勢是通過越來越多的計算來擴展大型基礎模型,而有些人無法想象其他任何事情,所以他們推斷一下當前的趨勢,認為其他一切肯定都是無用的。

                     

                    甲子光年:所以你肯定不會信奉Scaling law?

                     

                    Schmidhuber:我是舊版Scaling law的頭號粉絲,該定律說:每5年計算成本就會降低10倍——自1941年Konrad Zuse在柏林打造了第一臺實用計算機之后,該定律一直成立。這也是為什么我們20世紀90年代的技術現在能被應用于數十億智能手機的原因。人工智能每十年便宜100倍,每個人都會從中獲利,而不僅僅是少數大公司。

                     

                    只是目前大語言模型(LLM)的規?;cAGI幾乎無關,后者本應效仿人類的學習模式。嬰兒是如何學習的?不是通過下載網頁,它通過自我發明的實驗來學習收集數據,這些實驗改進了其自適應神經世界的模型,并且可以用于未來規劃。然而,所有這些與現在如此受歡迎的LLM關系不大。

                     

                    公司必須實現股東價值最大化,而科學研究則尋求前所未有的發現。不能指望這些完全不同的目標是協調一致的。

                     

                    甲子光年:但金錢問題永遠都很重要,即使是對于科學而言。

                     

                    Schmidhuber:當然,幾個世紀以來,科學和藝術一直追隨著金錢。例如,在20世紀80年代和90年代,日本和西德等富裕國家資金充足的實驗室分別是卷積神經網絡和生成式AI創新的搖籃。到了1995年,這兩個輸掉二戰的國家名義GDP之和超過了美國。但僅僅30年后的今天,美國和中國的經濟規模都要比它們大得多,這些舊發明的推廣大多發生在太平洋兩岸的工業實驗室中。

                     

                    我記得15年前我第一次來中國時,我不得不給出租車司機看我酒店的照片,告訴他們我要去哪里?,F在,他們只要拿起智能手機,我就會用英語或德語說目的地,他們就能理解。我的出租車司機可能不知道這是基于我實驗室的研究結果,但正是那些足智多謀、強大的公司推廣了這些技術,幫助深刻地改變了日常生活。他們是那些接受學術發明并為其提供服務的角色。


                    3. 他們應該被剝奪獎項

                    甲子光年:你喜歡被稱為“現代人工智能之父”嗎?

                     

                    Schmidhuber:一個人是無法從頭開始創建人工智能的。你需要一個完整的文明來構建人工智能。你需要人們來創建基本的算法,其他人來構建計算機,還有些人去挖掘制造計算機的材料;你還需要消費者,比如游戲玩家,他們推動了加快電腦速度的需求;還有那些為所有人種植糧食的農民。

                     

                    甲子光年:這種說法很有意思,其實相當于每個人都在創造AI的過程中各司其職。

                     

                    Schmidhuber:沒錯。你也可以把特定的神經網絡歸功于它們的創建者。例如,卷積神經網絡(CNN)之父是福島邦彥,他于1979年在日本發表了基本的CNN架構。1987年,在日本工作的德國人Alex Waibel將卷積和反向傳播相結合,這種方法由Seppo Linnainmaa于1970年首次在芬蘭發表,現在廣泛用于訓練神經網絡。Zhang Wei也在1988年于日本發表了第一個反向傳播訓練的二維CNN。因此,從1979年到1988年,我們所知道的現代CNN起源于日本。

                     

                    甲子光年:你還沒有獲得圖靈獎。這對你來說是巨大的遺憾,還是說你并不關心這件事?

                     

                    Schmidhuber:一個獎項頒給了那些重新發表一些關鍵方法和思想的人,而他們沒有歸功于這些方法和思想的創造者。那么人們究竟應該有多渴望獲得這個獎項呢?剽竊在科學界是絕對無法容忍的。你可以從網上查閱我有關被抄襲的報告。

                     

                    甲子光年:顯然你指的是圖靈獎的“深度學習三巨頭”—— Geoffrey Hinton、Yoshua Bengio和Yann LeCun。之前你和他們經常有爭論,目前你對他們的看法有什么改變嗎?(注:Schmidhuber強調,這三人都出生于歐洲,其中Hinton來自英國,Bengio和LeCun來自法國)

                     

                    Schmidhuber:沒有,他們經常重新發布其他研究人員首次發表的方法和概念,沒有適當的引用,在以后的出版物中也經常沒有糾正這一點。我自己的團隊尤其受到這種行為的影響,他們最引人注目的作品直接建立在我們的基礎上。而且這不僅僅是關于我自己的團隊,還有許多其他科學家的相關工作沒有得到這幾位獲獎者的引用。

                     

                    甲子光年:你認為他們應該向你道歉嗎?

                     

                    Schmidhuber:他們過去有機會道歉的時候從未這樣做過,也從未相應地更正過他們的論文。他們違反了頒發這些獎項的國際計算機協會(ACM)的“道德和職業行為準則”。不過ACM也表示如果這樣做符合該領域的利益,則保留撤銷先前授予的榮譽的權利。因此,我認為他們應該被剝奪獎項。

                     

                    甲子光年:你認為他們是否直接竊取你的成果?

                     

                    Schmidhuber:眾所周知,剽竊可以是“有意的”或“無意的”??茖W上有行之有效的方法來處理“多重發現”和剽竊,那就是基于出版物和專利的出版時間。

                     

                    如果你無意間重新發明了別人已經發明且發表過的東西,你必須發表一份勘誤,并在未來的所有論文和演講中注明原始發明者。如果你不這樣做,你可就不算是科學家了。在數學這樣一個成熟的領域,你永遠不會逃脫剽竊的懲罰。然而,相比之下,機器學習領域似乎還相當不成熟。有時,解決爭端可能需要一段時間,但最終,事實必須始終占上風。

                     

                    Schmidhuber與“深度學習三巨頭”,圖片來源:受訪者提供

                     

                    甲子光年:如果你一直像這樣批評某些知名人物,互聯網上肯定出現一些對你的惡評。你會看這些評論嗎?你會在網上搜索自己的名字嗎?

                     

                    Schmidhuber:著名物理學家理查德·費曼曾寫過一本書:《你干嘛在乎別人怎么想?》他提出在科學中唯一重要的是事實。如果事實已經清晰,你為什么要關心網絡上可能誤導別人的匿名評論?

                     

                    一些人按照古老的格言說的那樣對我進行了人身攻擊:“如果你不能對基于事實的信息提出異議,就攻擊信使本人?!毙疫\的是,與政治不同,科學對人身攻擊免疫??茖W不是民主的。如果100個人聲稱一件事,只有一個人說的是相反的,但他/她可以通過事實來支持,那么他/她就贏了。

                     

                    這也是為什么著名歌手埃爾維斯·普雷斯利(“貓王”)說:“真相如同陽光,或許偶被云遮,但終將光芒萬丈?!?nbsp;在硬科學中,唯一重要的是事實。唯一真正重要的是真相。

                     

                    甲子光年:你會嫉妒美國的科學家嗎?他們可能比你們富有得多。

                     

                    Schmidhuber:嫉妒?更富有?為什么要這么說呢?無論如何,財富在科學中毫無意義。愛因斯坦,有史以來最著名的科學家,并不富有。盡管如此,他們還是稱他為“世紀人物”。所以我的答案是不會的,我很高興他們如此廣泛地應用我們的方法。

                     

                    4. 自我復制,自我改進的機器文明

                    甲子光年:你在科學界有導師或者榜樣嗎?

                     

                    Schmidhuber:20世紀70年代,我還是個十幾歲的少年,一開始我想成為我崇拜的愛因斯坦那樣的物理學家,后來我意識到,在我有生之年,也許可以創造出一個比人類聰明得多的人工智能科學家,解決我自己無法解決的各種問題,從而極大地提高我有限的創造力。從那時起,這便決定了我的人生方向。

                     

                    但總得來說,我是一個非常自我驅動的人,不得不通過艱苦的方式從經驗中吸取各種教訓。我想我最重要的導師就是那些讓我追逐夢想而不會干涉太多的人。

                     

                    甲子光年:那你喜歡哪位企業家嗎?

                     

                    Schmidhuber:我喜歡埃隆·馬斯克,他曾經熱情地邀請我參加了他精彩的家庭聚會,還有黃仁勛,我的團隊在2010年使用了他出色的英偉達GPU,使深度學習速度快到足以打破基準記錄。我也喜歡其他幾位了不起但也許不太出名的企業家。


                    Schmidhuber(右)與黃仁勛(左)見面 圖片來源:受訪者提供

                     

                    甲子光年:之前的媒體報道認為,你的不幸可能在于“太早了”——發表的成果比我們擁有的功能強大且更便宜的計算機的時刻要早了幾年。你認為自己的經歷是不幸的嗎?

                     

                    Schmidhuber:一點也不!如果我晚些時候做,別人可能就會搶先于我發現這些。超前是很好的,尤其是在人工智能領域,每5年計算成本就會降低10倍,因此,僅僅一個人的生命長度就足以看到這一切的發展。

                     

                    甲子光年:你認為2020年以后出生的孩子將面臨一個什么樣的AGI世界?

                     

                    Schmidhuber:一個非常棒的世界!我們的人工智能已經在幫助人類活得更長、更健康、更輕松,而且這一趨勢還在加速。接下來會是物理世界中真正的AGI,而不僅僅是屏幕后面的AI。現實世界的物理挑戰比虛擬世界的挑戰復雜得多。人工智能在取代水管工或電工等熟練行業之前還有很長的路要走。然而我們有理由相信,現實世界中的人工智能將很快取得重大進展。

                     

                    接下來重大的突破將來自物理機器人和其他機器的自我復制與自我完善。盡管3D打印機能打印零件,但它們還未能達到生物自我復制的能力。要組裝一臺完整的3D打印機,你需要許多其他機器,例如,從地下取出原材料,對其進行精煉,制造3D打印機無法打印的許多部件,將這些部件擰在一起等等。最重要的是,你仍然需要很多人來監督和管理所有這些過程。

                     

                    然而最終我們將見到一個由聰明的和不那么聰明的物理機器組成的社會,這些機器可以從頭開始共同建造所有需要的東西來復制自己,開采所需的原材料,修理損壞的機器人和機器人工廠,也就是一個可以自我復制,自我改進的機器文明。這里我想強調的是可以自我復制、自我維護、自我改進的硬件,而不是已經存在的,可以自我改進的機器學習軟件。

                     

                    創造這種逼真的硬件將面臨巨大的商業壓力,因為它代表了擴張的最終形式,它的所有者將變得非常富有,因為經濟增長的核心就是擴張。

                     

                    當然,這種類似生命的硬件不會局限于我們這個小小的生物圈。它的變種很快就會在其他星球出現,例如小行星帶。太空對人類來說或許充滿敵意,但對于設計合理的機器人來說卻是友好的。未來太陽系的經濟規模將遠遠超過我們目前的生物圈,達到數十億倍的規模。即將到來的人工智能領域的擴張將不僅限于我們的小太陽系。

                     

                    甲子光年:當今人工智能安全和道德領域最緊迫的問題是什么?人工智能帶來的威脅能與核武器相當嗎?

                     

                    Schmidhuber:人工智能可以武器化,最近由廉價的人工智能無人機發動的戰爭就是明證。但目前人工智能并沒有帶來新的生存威脅。我們應該更害怕半個世紀前發明的氫彈,足夠多的氫彈可以在幾個小時內摧毀人類文明,不需要依靠任何人工智能。

                     

                    甲子光年:有一種觀點認為,在通用人工智能領域,我們沒有試錯的機會。我們現在可以做些什么來確保安全?

                     

                    Schmidhuber這就像是在說:我們不要再要孩子了,因為我們承受不起試錯;人類不能簡單地創造另一個嬰兒,這個嬰兒可能會成為一個連環殺手,或者制造出非常危險的人工智能……通過以友好、理性和負責任的方式迎接嬰兒和人工智能的到來,我們就能大大增加了它們造福社會而不是傷害社會的可能性。

                     

                    甲子光年:站在2024年的節點上,你對AGI有什么新的判斷嗎?

                     

                    Schmidhuber:自1970年代以來,我一直在說人工智能將比人類聰明得多。它很快就會離開地球,去大多數資源的所在地,自我驅動的人工智能將首先接管太陽系,然后是銀河系,然后在數百億年內接管整個可見宇宙,以一種人類無法效仿的方式。

                     

                    從我十幾歲起,我就一直這么說。唯一的區別是現在有更多的人在聽。在20世紀70年代,當我向媽媽解釋時,她常說我瘋了。在20世紀80年代,我的同學們說我瘋了。但最近,許多人不再叫我瘋子,因為他們突然相信AGI已經非常接近了。

                     

                    甲子光年:你能為中國的初創企業或者中國的年輕科學家提供一些建議嗎?

                     

                    Schmidhuber:多多研究我們以前的和最近的論文,還有我的AI博客。

                     

                     

                    *甲小姐對本文亦有貢獻

                     

                    (封面圖來源:「甲子光年」拍攝)

                     

                     


                    • 33316
                    • 16
                    • 12
                    • 0
                    評論
                    三级网站视频国产在线观看_自慰毛片无码地下_中码AV在线欧美老妇精品_淫秽录像一级a片在线免费看

                        <delect id="rljdd"><span id="rljdd"><sub id="rljdd"></sub></span></delect>

                        <rp id="rljdd"><i id="rljdd"><output id="rljdd"></output></i></rp><nobr id="rljdd"><th id="rljdd"></th></nobr>
                        <big id="rljdd"><meter id="rljdd"></meter></big>

                        <em id="rljdd"><i id="rljdd"></i></em>
                          <em id="rljdd"></em><dfn id="rljdd"><i id="rljdd"><form id="rljdd"></form></i></dfn>
                              <big id="rljdd"><noframes id="rljdd">
                                  <meter id="rljdd"></meter>
                                    <meter id="rljdd"></meter>