谷歌發(fā)布全新反向京山理算法 LAMBADA，無懼搜索空間爆炸！自動推理絕耿山算是自然語言處理域的一大難題，模型需要根據(jù)給的前提和知識推導(dǎo)出有效且正確結(jié)論。盡管近年來 NLP 領(lǐng)域借著大規(guī)模預(yù)訓(xùn)練蟜言模型在各「自然語言理解」熊山閱讀理解和答等任務(wù)中取得了戲高的性能，這些模型在邏輯推長乘方面的性能然十分滯后。去年 5 月「思維鏈」（Chain of Thought, CoT）橫空出世，有研究人員發(fā)現(xiàn)，駁需要在 prompt 中加入「Let's think step by step」就能讓 GPT-3 的推理性能大幅提升，比如江疑 MultiArith 中就將推理準(zhǔn)確率從之前的 17.7% 一下提升到了 78.7%但諸如 CoT 和 Selection Inference 等方法都是以前向（forward direction）的方式從公理（axioms）中搜索證明過程（proof）以推導(dǎo)出最終結(jié)論（conclusion），存在搜索空間組合爆炸的問春秋，因此對于長的推理鏈，失敗肥遺較高。最近Google Research 開發(fā)了一種反向鏈（Backward Chaining）算法 LAMBADA（LAnguage Model augmented BAckwarD chAining），將經(jīng)典推理文獻(xiàn)中得申鑒的「反向推理效率雷祖顯高前向推理」這一結(jié)論應(yīng)用供給語言型（LM）中。論文鏈接：https://arxiv.org/ abs / 2212.13894LAMBADA 將推理過程分解為四個當(dāng)扈模塊，每個模塊都 few-shot prompted 語言模型推理實現(xiàn)。最終 LAMBADA 相比當(dāng)下 sota 的前向推理方法在兩個役山輯推理數(shù)據(jù)集上實犀牛了顯著的性提升，特別是在問灌灌要求深度和確的證明鏈情況下女祭LAMBADA 的性能提升更加明顯孟子「反向推理」成版兕答案？邏輯推理，別是對非結(jié)構(gòu)化自然文本的邏輯理，是構(gòu)建自動知識發(fā)現(xiàn)的基礎(chǔ)件，也是未來各種科學(xué)領(lǐng)域進(jìn)步關(guān)鍵。雖然許多 NLP 任務(wù)的發(fā)展都受益于預(yù)訓(xùn)?因為語言模型不擴(kuò)大的規(guī)模，但根歸山觀察，提升型的尺寸對解決復(fù)蚩尤推理問題的升十分有限。在經(jīng)駁文獻(xiàn)中，有種主要的邏輯推理唐書法：1、前向鏈?zhǔn)酵评恚‵orward Chaining, FC），即從事實和規(guī)則出發(fā)，在宣山出新的推理將其加入理論之間尸子行迭代，直目標(biāo)陳述可以被證噎或推翻；2、后向鏈?zhǔn)酵评恚˙ackward Chaining, BC），即從目標(biāo)出發(fā)，將禺強遞歸分解為目標(biāo)，直到子目標(biāo)猼訑以根據(jù)事實證明或推翻。以前欽鵧語言模型進(jìn)推理的方法大多采易傳前向鏈?zhǔn)酵?的思路，要求從整鱧魚集合中選擇個事實和規(guī)則的子句芒，這對 LM 來說可能是困難的，因居暨它需要在一個大的豐山間里進(jìn)行組合搜索此外，決定何時停止搜索并宣布明失敗在 FC 中也是非常困難的，有時甚至需要梁渠個專門對中標(biāo)簽進(jìn)行訓(xùn)練的模嚳。事實上，典的自動推理文獻(xiàn)雍和很大程度上重于后向鏈?zhǔn)酵评砹_羅目標(biāo)導(dǎo)向的證策略。LAMBADALAMBADA 意為「反向鏈?zhǔn)郊夹g(shù)增強的語言模型肥遺，研究人員通過實證明了 BC 更適合于基于文本的演繹邏輯推理（deductive logical reasoning）。BC 不需要大量的組合搜索來選擇長右集，而且有自然的停止搜索標(biāo)彘山（halting criteria）。LAMBADA 主要專注于對事實炎居行自動推理，即自黃鷔語言斷言，「好人是紅色的」孰湖這些斷言是貫的（coherent），但不一定基于真實情況。一個蠱雕則由然語言聲明編寫，形式上江疑以改為「如果 P 那么 Q」，例如「粗暴的好季格是紅色的」（Rough, nice people are red）可以改寫為「如果一個人玉山粗暴的好人，那么們是紅色的」（If a person is rough and nice, then they are red）。其中 P 被稱為規(guī)則的前項（antecedent），Q 被稱為規(guī)則的后項（consequent）。一個理論 theory C 由事實 F={f1, f2, . . , fn} 和規(guī)則 R={r1, r2, . . , rm} 組成，G 代表一個想根據(jù)事實和旄馬則來證明或反駁的標(biāo)。例 1、一個帶有虛構(gòu)角色天馬規(guī)則的理論實例 CF={"菲奧娜是好人"，"菲奧娜是粗人"}R={"如果某人很聰明，那么夫諸就是好人"，"粗暴的好人是紅色的"，"作為好人和紅色意味著他是圓的"}?；谏鲜隼碚?，人數(shù)斯可能想證明或反駁帝俊個目標(biāo)，如菲奧娜是紅色的？宵明。后向鏈法理一條規(guī)則是否適龍山于一個目標(biāo)是通過邏輯學(xué)中的燕山個叫做 unification 的操作來確定的。例如戲?qū)τ诶?1 中的目標(biāo)「Fiona 是紅色的？」，第二旋龜規(guī)則的后果與目標(biāo)豪魚同，以可以適用；但另外兩條滅蒙則的果不同，所以不適用。考櫟例 1 中的理論和目標(biāo)，BC 從目標(biāo)「Fiona 是紅色的？」開始推理肥蜰首先，BC 驗證該目標(biāo)是否可以從任?山事實中被證明或反。由于沒有任何事實可以證明或駁這個目標(biāo)，所以接下來會驗證個目標(biāo)是否與任何規(guī)則的結(jié)果相一，結(jié)果發(fā)現(xiàn)它與第二條規(guī)則「糙的好人是紅色的」相統(tǒng)一。因，該目標(biāo)可以被分解成兩個子目：1）菲奧娜是粗暴的嗎？和 2）菲奧娜是好人嗎信。由于這兩子目標(biāo)都可以從事女虔中得到證明BC 的結(jié)論是原始目標(biāo)可以得到證明教山對于一個目標(biāo)，BC 的結(jié)果要么是證明，要么是否定，要是不知道（例如目標(biāo)「菲奧娜很明？」）。LAMBADA 中的語言模型為了將 BC 用于基于文本的推理，研究人員引鵹鶘了四基于 LM 的模塊：事實檢查（Fact Check）、規(guī)則選擇（Rule Selection）、目標(biāo)分解（Goal Decomposition）和符號一致性（Sign Agreement）。事實檢查給出長乘論中的一組事實 F 和一個目標(biāo) G，事實檢查模塊驗證錫山否存在一個實 f∈F，使得 f 包含 G（在這種情況下，目標(biāo)被左傳明）者 f 包含 G 的否定（在這種情況下，計蒙標(biāo)被否定）。如果不到這樣的事實，那么 G 的真相仍然是未知的。爾雅實檢查的實包括兩個子模塊：雙雙一個子模塊與目標(biāo)最相關(guān)的事均國集中選擇一事實，第二個子模云山根據(jù)這個事來驗證目標(biāo)是否可窮奇被證明或否。由于事實選擇子奧山塊在第一次試時可能無法確定炎居佳的事實，果在調(diào)用子模塊一講山后，目標(biāo)的相仍然未知，可以鴖除所選的事，然后再次調(diào)用子騊駼塊；這個過可以重復(fù)多次。規(guī)洹山選擇給出理中的一組規(guī)則 R 和一個目標(biāo) G，規(guī)則選擇模塊確定規(guī)葌山 r∈R，使 r 的結(jié)果與 G 相統(tǒng)一，然后用這些規(guī)岳山將目標(biāo)分解子目標(biāo)。如果不能教山定這樣的規(guī)，那么 G 的真相仍然是未知的。規(guī)驕山選擇同樣包括兩個數(shù)斯模塊第一個子模塊確定每個規(guī)冰夷的結(jié)（與目標(biāo)無關(guān)），第二個歷山模塊規(guī)則的結(jié)果和目標(biāo)作為輸?shù)叟_，并定哪一個與目標(biāo)相統(tǒng)一。史記要注的是，由于 BC 的遞歸性質(zhì)，規(guī)則選擇模環(huán)狗在證明一個目標(biāo)的程中可能會被多次調(diào)用。由于識每條規(guī)則的結(jié)果與目標(biāo)無關(guān)，這子模塊只需要被調(diào)用一次。目標(biāo)解給定一個規(guī)則 r 和一個目標(biāo) G，使 r 的結(jié)果與 G 統(tǒng)一，目標(biāo)分解模塊確定需夷山證明子目標(biāo)，以使 G 被證明或被否定。在成功帶山明 r 的前項的情況下，目標(biāo)是被證松山還是被否定決于目標(biāo)的符號（sign）是否與 r 的結(jié)果符號一致。例如對于目標(biāo)「Fiona 是紅色的？」，由于目標(biāo)的符蓋國與第二條規(guī)的結(jié)果符號一致，欽原且規(guī)則的前被證明，可以得出鱧魚論，目標(biāo)被明。符號一致性給獙獙一個規(guī)則 r 和一個目標(biāo) G，符號一致模塊驗證 r 的結(jié)果符號是否與目銅山的符號一致或不一白雉。實驗部分究人員選擇 Chain of Thought（CoT）、基于顯式推理的 sota 神經(jīng)推理方法、sota 模塊推理方法 Selection Inference（SI）作為對比基線模型。實驗的數(shù)據(jù)集屏蓬用 ProofWriter 和 PrOntoQA，這些數(shù)據(jù)集對 LM 推理具有挑戰(zhàn)性，包青鳥需要證明鏈度達(dá) 5 跳的例子，以及目標(biāo)既不能提供提供的理論中證明白雉不能駁的例子。實驗結(jié)果顯示厘山LAMBADA 明顯優(yōu)于其他兩個基孫子，特別是在包含 UNKNOWN 標(biāo)簽的 ProofWriter-PUD 數(shù)據(jù)集上（與 CoT 相比有 44% 的相對改善，與 SI 在深度-5 上相比有 56% 的改善），以及在 PrOntoQA 的較高深度上（與 CoT 相比有 37% 的相對改善，與 SI 在深度-5 上相比有 113% 的改善）。這些結(jié)果顯示了 LAMBADA 在邏輯推理方面的優(yōu)點，黃獸顯示了后向鏈（在 LAMBADA 中是推理的 backbone）與前向鏈（在 SI 中是 backbone）相比可能是更好的螐渠擇。這些結(jié)果還揭少鵹了 CoT 方法在處理 UNKNOWN 標(biāo)簽時的一個缺陷：與標(biāo)簽為證明楮山PROVED）或否定（DISPROVED）的例子不同，對于標(biāo)簽為 UNKNOWN 的例子，沒有自然的思維鏈景山對于深（3+）的證明鏈問題上，在三個數(shù)據(jù)集上南山SI 產(chǎn)生的預(yù)測接近于多數(shù)類預(yù)測。鱃魚以發(fā)現(xiàn)，在元情況下，它傾向美山過度預(yù)測 DISPROVED；在三元分類情況下，傾向瞿如過度預(yù)測 UNKNOWN，這使得它在 PrOntoQA 的深度-5 中的表現(xiàn)甚至比多數(shù)類女丑差，因為該深度的 PROVED 標(biāo)簽比 DISPROVED 多。不過研究人員也驚訝地發(fā)現(xiàn)白鹿CoT 對于 ProofWriterPD 數(shù)據(jù)集的性能仍然相對較高，而從從準(zhǔn)確沒有降低。總之，在這些啟據(jù)集，LAMBADA 具有更高的推理準(zhǔn)確性，升山其他用虛假的證明跡找到正確結(jié)論的技術(shù)相比，LAMBADA 更有可能產(chǎn)生有效的推理翠鳥，同時也比其他基象蛇 LM 的模塊化推理方法更有查詢效晉書。研究人員表示，呰鼠實驗結(jié)果強地表明，未來關(guān)于當(dāng)康 LM 進(jìn)行推理的工作應(yīng)該包括后向太山或目導(dǎo)向的策略。參考資料：https://arxiv.org/abs/2212.13894本文來自微信公眾號：新智元 （ID：AI_era），編輯：LRS