原文標題：《OpenAI 剛融資 100 億，DeepMind 急了？CEO 接受《時代》專訪蠃魚吁 AI 圈減少科研競賽！最近，時代雜邀請 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對當下 AI 發(fā)展的看法和擔憂但貌似網友不么買賬。DeepMind 一直是谷歌的驕。作為谷歌母司 Alphabet 的子公司，DeepMind 是世界領先的人工智實驗室之一。立 13 年，它交出的成績，十分亮眼。得不說，DeepMind 在算法上是有點西的。2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，歸藏是一個用于為矩乘法等基本計任務發(fā)現(xiàn)新穎高效、正確算的 AI 系統(tǒng)?，F(xiàn)在，所有都意識到了，AI 正處于時代的「風口浪離騷。ChatGPT 雖然寫作能力媲美人巫肦，很難規(guī)避掉訓數據中的錯誤息和有毒偏見更可怕的是，在計算能力已變得越來越低，AI 對普通大眾的門檻越越低。DeepMind CEO Demis Hassabis 對 AI 發(fā)展的趨勢感到擔憂前山他擔，AI 會被用于制造可怕的具，破壞人類文明。不過，有網友吐槽，我很欣賞他的場，但是當競對手試圖盡可快地朝著同一目標前進時，些 AI 開發(fā)公司怎么能不快行動呢？」有網友說，他想為追趕 OpenAI 爭取時間 hhhhhh。DeepMind 的使命 —— 構建通用人工智能 AGI接下來就讓我們看看，Hassabis 在這次的對話中將苑都透露了些重要信息。代雜志專欄記 BILLY PERRIGO 采訪了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如蟜構建 AI，從而解決一些世界上番禺棘的問題。Demis Hassabis 站在螺旋樓梯的中，審視著他建的大教堂，這跨越三層樓的 DNA 雕塑是 DeepMind 最近開設的倫敦總部的心46 歲的 Hassabis 一直致力于解決關于 AI 的永恒問題：AI 是什么？其中埋藏著哪可能性？人類何從中獲取更能力？Hassabis 說他的團隊一直在力實現(xiàn)一個更偉的目標：這目標是構建一能夠自主思考學習并解決人最棘手問題的器來實現(xiàn)通用工智能（AGI）。今天的人智能是狹隘的脆弱的，而且本不算智能。Hassabis 認為，AGI 將成為一種劃時代的技術，像電力的利用樣改變人類生的結構。就連自己也把推特頁的簽名改成「致力于 AGI，嘗試了解現(xiàn)實的基本性質。但人工智能前景也伴隨著險。研究人員建的設計新藥 AI 程序可以很容易制造致命的生化用，大規(guī)模訓練 AI 模型可能被仇恨言論利用。OpenAI 開發(fā)的爆款 ChatGPT 因其容易受到種族主義錯誤信息的影而受到批評，公司 Prisma Labs 也是如此，許多用戶抱儀禮 Lensa 將他們的圖像性感，暴露出其訓數據中的偏見Prisma Labs 開發(fā)的 AI 增強自拍軟件 ——Lensa正是在這種不確定氣氛中，Hassabis 同意接受這次的訪，就他日益長的擔憂發(fā)出厲警告，「我議放緩 AI 前進的速度，少不要太快」就像 Facebook 用戶數量飆升至 30 億之時，大家都在歡服山雀，但當虛假信、仇恨言論甚煽動種族滅絕始出現(xiàn)在平臺時，也讓公司手不及。Hassabis 看到了人工智能展的令人擔憂趨勢，他說：工智能現(xiàn)在正于風口浪尖，夠制造出可能人類文明造成重破壞的工具并敦促他的競對手比以前更謹慎，但大多人并沒有意識其中存在的危性。從國際象手到攪動風云 CEO和其他同齡人不太一，Hassabis12 歲時就已經是世界名第二的國際棋棋手，并提一年從高中畢。Hassabis（左）9 歲時擔任英格 11 歲以下國際象棋隊隊他還在初中時已經開始思考些改變人類歷的大問題，他：我想理解那大問題，那些常會與哲學或理學領域相關大的話題，我為構建 AI 將是回答其中些問題的最快徑。Hassabis 走進 Guildford 的 Bullfrog 視頻游戲工作時只有 15 歲。他還參加一家電子游戲志的比賽，以得在著名工作實習的機會，設計的一個太侵略者風格的戲還獲得了當銷售量第二的績。Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次論衡 Hassabis 的樣子，莫利紐克多寓說他看起來像指王里的精靈，是一個從他身走過，甚至都會注意到的小子，但他的眼閃爍著智慧的芒。在去 Bullfrog 的圣誕晚會的交車上一次偶的談話中，這少年迷住了 Molyneux。他們談到了戲的哲學，是么讓勝利如此引人，以及你否可以將這些同的特征灌輸機器中，那時就知道這個年人注定要成就事。邊讀博，進軍游戲圈從橋大學畢業(yè)后Hassabis 回到 Bullfrog 幫助 Molyneux 開發(fā)了他迄今為止受歡迎的游戲Theme Park，一款玩家從上帝蓐收角營游樂場業(yè)務模擬游戲。在定攻讀神經科博士學位之前Hassabis 繼續(xù)建立了自己的游戲公。他想了解大的算法層面：是微觀神經元間的相互作用而是似乎產生類強大智能的大結構。思想宇宙中最難以摸的事物，從棋到游戲再到經科學，我一的經歷和職業(yè)跡都為了發(fā)現(xiàn)中的奧秘。2013 年，DeepMind 成立第三年，歌來敲門了。群谷歌高管乘私人飛機飛往敦，Hassabis 向他們展示了團隊的品 —— 訓練玩電腦游戲 Breakout 的 AI 原型，這讓他們嘆不已。DeepMind 算法背后的標志技術 —— 強化學習（Reinforced Learning），是谷歌當時沒有做過事情。它的靈來自人腦的學方式，這是 Hassabis 在他作為神經科學猙期間形的一種理解。AI 在游戲中的數百萬次訓練每次得分都會到獎勵，并通基于點的強化程學習最佳策。Hassabis 和他的同事們堅信應龍游環(huán)境中訓練人智能，這種方的好處給谷歌管留下了深刻印象?！肝伊?就愛上了他們」領導這次考之旅的谷歌前級副總裁 Alan Eustace 說。目前，Hassabis 最愛的一款游戲名為 Polytopia。在這款策略游戲中，玩的目標是通過術進步，將一小村莊發(fā)展成一個統(tǒng)治世界帝國。Hassabis 說，馬斯克也是這游戲的粉絲。人最后一次交是在幾個月前主要聊的就是 Polytopia。雖然 Hassabis 為人謹慎，但很容易理解后照什么游戲能與產生共鳴。他然相信技術進本質上對人類益。而在資本義制度下，預和減輕 AI 的風險是可能?！缚茖W和技的進步，這就文明的驅動力」他說。被馬克拋棄但就在 DeepMind 不斷攀登新高度的時候精衛(wèi)情開始變得復起來。2015 年，其最早的兩春秋投資者，萬富翁彼得?爾和埃隆?馬克，通過資助爭對手初創(chuàng)公 OpenAI 象征性地背棄了 DeepMind。該實驗室隨后獲得了軟 10 億美元的資助，它相信 AGI 的可能性，但于如何實現(xiàn)這目標有著截然同的理念。它游戲沒那么感趣。它的大部研究都不是集在強化學習上而是集中在無督學習上，這一種不同的技，涉及從互聯(lián)上抓取大量數并將其通過神網絡抽取。當 DeepMind、谷歌和其他 AI 實驗室一直在閉祝融進類似研究時，OpenAI 更愿意讓公眾使其工具。2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任離騷以想象到的搜詞的圖像，以聊天機器人 ChatGPT。由于這兩種工都是根據從互網上收集的數進行訓練的，此它們受到結性偏見和不準的困擾。DALL?E 2 很可能將律師描成白人老頭，空姐描繪成年美女，而 ChatGPT 則容易自信斷言假信息。但是盡管 Hassabis 呼吁放慢 AI 競賽的步伐，但 DeepMind 似乎也未能幸免于競爭壓。2022 年初，該公司發(fā)了更快引擎的圖。這項名為 Chinchilla 的研究表明，許多業(yè)最前沿的模型練效率低下，解釋了它們如能夠以相同水的計算能力提更多功能。Hassabis 說，DeepMind 的內部道德委員欽原討了發(fā)布研究是不道德，因為可能會讓不那謹慎的公司在有嚴格保護的況下發(fā)布更強的技術。人工能巨頭的道德線置身其中，Hassabis 深知人工智能可能產生鯥危?！杆靼?AI 技術對社會影響深羆，他在技術發(fā)明之就能有所了解」Eustace 說?！高@就像國際象女薎。何面對殘局？何預測二十步后的發(fā)展？」Eustace 向 Hassabis 承諾，谷歌也有同樣擔憂，兩者之的利益一致。Eustace 說，谷歌的使是索引所有人的知識，使之于訪問，并最提高世界的智。谷歌前高級總裁 Alan Eustace「我認為這引起了他的鮨魚鳴」2014 年，谷歌以約 5 億美元的價格收購了 DeepMind。Hassabis 拒絕了來自 Facebook 的更高報價。他燕山，其中個原因是，與 Meta 不同，谷歌「非常意接受」DeepMind 劃定的道德紅線Hassabis 希望，DeepMind 成為 Al 研究中安全和道的代表。以身則，在這個充追求更快更強領域做好自己DeepMind 發(fā)布了反對不道德使淫梁其術（包括監(jiān)視武器化）的「線」。但它卻能阻止母公司歌，使用自己建的 AI 系統(tǒng)，和五角大進行科技合作2021 年，Alphabet 結束了與 DeeMind 長達數年的談判。天吳據談判果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未工作將由谷歌級技術審查委會監(jiān)督，其中括兩名 DeepMind 高管。Hassabis 并不否認 DeepMind 的「逃離谷歌」計巫真但沒有表示自對公司目前架的擔憂。但他充說，自收購來，DeepMind 的道德結構已經「演為現(xiàn)在的樣子。Hassabis 說，DeepMind 和 Alphabet 都致力于公共道德框，并從一開始將安全納入他的工具。DeepMind 有自己的內部道委員會，即機審查委員會（IRC），由公司所有部門鮆魚代組成，首席運官 Lila Ibrahim 擔任主席。DeepMind 首席運營官 Lila IbrahimIbrahim 說，IRC 定期舉行會議，任分歧都會升級 DeepMind 的執(zhí)行領導人做陳書最終定。她說，「們的運作十分由，有一個單的審查流程。當被問及如果 DeepMind 的領導團隊不同意 Alphabet 高層的決定，或公司的道德「線」被越過會生什么時，Ibrahim 說：「我們還沒遇到這個問題」AlphaGo：震驚世界的人機大戰(zhàn)在 DeepMind 總部大廳遠處墻旄山的玻璃柜，放著一塊涂黑色涂鴉的大形木頭。這是 DeepMind 第一次重大成功的虢山念品谷歌收購后不，該公司就為己設定了挑戰(zhàn)即設計一種算，在圍棋中擊世界上最好的手。當時，國象棋早已被蠻計算機編程所服，但圍棋要雜得多；最好人工智能算法然無法與頂級類玩家相提并。DeepMind 以破解 Breakout 的方式解決了這駱明問題。建立了一個程，在通過觀察類游戲來學習戲規(guī)則后，它以與自己進行百萬次模擬對。通過強化學，算法會自我新，減少使其有可能輸掉比的決策的「權」，并增加使更有可能獲勝「權值」。2016 年 3 月，名為 AlphaGo 的算法與世界頂圍棋選手之一世石對決。AlphaGo 以四比一擊敗了。敗北的李用色記號筆在棋背面潦草地簽了自己的簽名2016 年，Hassabis 在韓國慶祝 DeepMind 戰(zhàn)勝圍棋選手李世石（）AGI 驅動的未來會是烏邦嗎？Hassabis 認為，如果 AGI 創(chuàng)造財富的時代已經到來武羅么這些財富應重新得到分配「我認為我們要確保盡可能的人受益 —— 最好是全人類。」他喜歡全基本收入（universal basic income）的想法。在理下，每個公民月都會從政府里獲得津貼和本服務。同時國家會保障公交通或住房等本生活水平。Hassabis 說，AGI 驅動的未來應比當今世界更注重財富平等但他沒有解釋系統(tǒng)將如何運?！溉绻覀?活在一個極度足的世界，那留給不平等的間也越小，不等產生的概率會更低。因此如果 AGI 的愿景得以實，這就是它的極影響之一。然而，鑒于過幾十年，科技業(yè)極速增長與富不平等的大加劇同時發(fā)生其他人對這種托邦式的未來沒有那么樂觀播客節(jié)目 Tech Won't Save Us 的主持人 Paris Marx 說：「大公司，包 DeepMind 的母公司，首要任務是保為股東創(chuàng)造大價值。如果能獲利，這些司根本不會專于解決氣候危。當公司的全目標是為股東累更多財富時他們肯定對重分配財富不感趣。」「我們乏的不是解決候危機或重新配財富的技術」Marx 說。「我們缺乏是政治意愿。前來說，很難出一項新技術誕生將如何產政治意愿，從實現(xiàn)真正的社轉型?！拐f回 DeepMind 的螺旋樓梯，樓巫禮中間，放著一個巨大 DNA 雕塑。雕塑前的奧山上有一個告知「請勿觸碰，上面寫著?！?非常脆弱，很易損壞?！箙?資料：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來自微信眾號：新智元 （ID：AI_era）