發(fā)布時間:2023-09-19 11:31:12
序言:作為思想的載體和知識的探索者,寫作是一種獨特的藝術(shù),我們?yōu)槟鷾?zhǔn)備了不同風(fēng)格的1篇人工智能的類比推理研究,期待它們能激發(fā)您的靈感。
推理是人類智能活動的重要組成部分,一直以來是人工智能研究的一個核心內(nèi)容。在人的思維中,類比推理(analogical reasoning,AR)是人們利用已有知識進(jìn)行推理的最常見的一種思維形式,是人類智力的一個關(guān)鍵現(xiàn)象,從古希臘時代到20 世紀(jì)一直屬于哲學(xué)、邏輯學(xué)、心理學(xué)和認(rèn)知科學(xué)研究的范疇。這些學(xué)科的類比推理研究旨在提供概念上的框架,闡明推理機(jī)制,找到這一思維形式存在的正當(dāng)理由,從而建立其理論基礎(chǔ)。由于類比推理通過熟悉的知識推出新知,在聯(lián)想、學(xué)習(xí)和發(fā)現(xiàn)等認(rèn)知行為中有著重要作用,因此,人工智能領(lǐng)域中的類比推理研究旨在結(jié)合心理學(xué)等認(rèn)知科學(xué)的研究進(jìn)行計算建模,在計算機(jī)上模擬實現(xiàn)類比推理處理過程,提高計算機(jī)系統(tǒng)的智能水平,產(chǎn)生能自動推出新知的推理和學(xué)習(xí)系統(tǒng)。為此,自20 世紀(jì)60 年代在人工智能領(lǐng)域?qū)︻惐韧评砝碚撆c技術(shù)開始進(jìn)行研究,迄今取得了豐富的研究成果。
當(dāng)前,因機(jī)器學(xué)習(xí)研究的快速進(jìn)步,使得語音、文字、圖像識別以及自動駕駛等技術(shù)取得突破,形成了廣泛的智能化研究和應(yīng)用熱潮。然而,人工智能以及智能化技術(shù)要進(jìn)一步發(fā)展,必須在人工智能(artificial intelligence,AI)基礎(chǔ)理論研究上取得突破。其中,類比推理作為人的思維中的一種基本推理形式,類比推理研究將必然是人工智能理論和技術(shù)研究中的一個不可忽視的重要領(lǐng)域。
本文旨在對從過去到現(xiàn)在人工智能中的類比推理研究及其特點進(jìn)行系統(tǒng)總結(jié)和述評。為此,本文以計算機(jī)、人工智能、邏輯、數(shù)學(xué)、信息處理以及多學(xué)科交叉等為學(xué)科類別,通過在Google-Schola、Elsevier ScienceDirect、SpringerLink、Web of Science、IEEE/IEE Electronic Library、Google、ACM、百度學(xué)術(shù)以及CNKI 等中進(jìn)行檢索,并對檢索到的論文進(jìn)一步通過其中的參考文獻(xiàn)列表識別出遺漏的論文。截止到2021 年12 月,在學(xué)術(shù)期刊、國際學(xué)術(shù)會議、學(xué)術(shù)著作中共檢索出近700 余篇(本)有關(guān)AI 領(lǐng)域中的類比推理研究文獻(xiàn)。我們在對這700 余篇(本)類比推理研究文獻(xiàn)進(jìn)行全面考察的基礎(chǔ)上,對其中具有代表性的142 篇(本)研究文獻(xiàn)(根據(jù)系列研究、引用情況等)進(jìn)行了系統(tǒng)分析,認(rèn)為AI 中的類比推理研究在上世紀(jì)和本世紀(jì)2 時期中呈現(xiàn)了不同的研究特點,結(jié)合本文的研究將2 個時期中的類比推理研究歸納為8 個研究主題:“類比問題求解APS”、“計算模型”、“AR 學(xué)習(xí)”、“AR 理論”、“AR 應(yīng)用”、“基于案例的推理CBR”、“AR 和CBR 理論”以及“CBR 與深度學(xué)習(xí)和可解釋人工智能”;并對各研究主題及其代表性研究工作的基本研究思想、內(nèi)容和特點以及存在的問題進(jìn)行總結(jié)分析。最后,展望了AI 中類比推理未來的研究方向以及發(fā)展趨勢。需指出,國內(nèi)類比推理研究主要集中在語言學(xué)、心理學(xué)等認(rèn)知科學(xué)領(lǐng)域,AI 中的類比推理研究在20 世紀(jì)90 年代有十幾篇研究論文在國內(nèi)期刊發(fā)表。其中,李波等[137-142]對類比推理計算模型和技術(shù)的研究較深入,在國內(nèi)類比推理研究中具有代表性。
1 類比推理基本概念
自古希臘時代,尋找生活在多個概念環(huán)境中的2 個對象之間的共性的能力,似乎是所有科學(xué)學(xué)科中無所不在的認(rèn)知過程,類比或類比推理一直被認(rèn)為是人類這種認(rèn)知過程中的一個關(guān)鍵現(xiàn)象。所謂類比,在字典上描述為“由2 個對象的某些相同或相似的性質(zhì),推斷它們在其他性質(zhì)上也有可能相同或相似的一種推理形式”。對于類比在人類思維中的作用及其意義,1945 年著名數(shù)學(xué)家Polya[1]認(rèn)為:“類比貫穿于我們的思維、日常言談、瑣碎的結(jié)論、藝術(shù)的表達(dá)方式和最高的科學(xué)成就之中”。2013 年類比研究著名學(xué)者Hofstadter等[2]在專著“Surfaces and essences-analogy as the fuel and fire of thinking”中甚至認(rèn)為“類比是人類認(rèn)知的核心”。Polya 對數(shù)學(xué)問題求解中的啟發(fā)式的研究是類比計算研究的主要思想來源,應(yīng)該說他最早研究了類比推理這種推理模式的基本特征。本文可通過如下2 例理解類比推理的含義:
1)原子和太陽系類比。人們?yōu)榱死斫庥嘘P(guān)原子的知識,根據(jù)行星圍繞太陽旋轉(zhuǎn)的重力與引起電子圍繞原子核旋轉(zhuǎn)的引力具有相似性,從而推知“電子圍繞原子核旋轉(zhuǎn)”這一新知識。
2)醫(yī)生為了通過病人的醫(yī)學(xué)影像診斷病人所患疾病,根據(jù)患者的醫(yī)學(xué)影像與已有的醫(yī)療影像庫中某個或某類影像數(shù)據(jù)在屬性等方面具有相似性,從而判斷該患者具有同類疾病。
類比推理作為一種判斷推理,沒有嚴(yán)格的科學(xué)定義。其一般的描述性定義為:“類比推理是由于認(rèn)識到新情況與已知情況在某些方面相似,從而推出它們在其他相關(guān)方面也相似的過程”,或者“類比推理是一種從關(guān)于某個或某些對象的知識(或描述),推出另外一對象的某些知識(或描述)的推理”。類比推理具有如下基本特征:
1)涉及“目標(biāo)”(研究對象)和“源”(類比對象)兩者,“源”依據(jù)與“目標(biāo)”的某些相似性從源域中選取。
2)推斷出的結(jié)論(有關(guān)“目標(biāo)”的知識)具有或然性,不具有唯一性。
類比推理的基本特征決定了類比推理的理論與技術(shù)研究具有多樣性、困難性和復(fù)雜性。類比推理首先面臨的是如何根據(jù)目標(biāo)有效地找到合適的源,這涉及相似性求解和檢索問題;然后要有保證類比結(jié)論有足夠可靠性的推理機(jī)制,以及有效實現(xiàn)這種推理機(jī)制的計算模型;由于通過類比推理推斷出的結(jié)論是關(guān)于目標(biāo)的新知,具有或然性,因而還需驗證結(jié)論的可靠性。
類比推理是一個多步驟推理過程,這種推理過程應(yīng)該具有哪些子過程,研究者們[3-8]的認(rèn)識不盡相同。對它們進(jìn)行歸納至少應(yīng)包括如下子過程:
1)檢索(Retrieval):根據(jù)目標(biāo),在源域中找到一個與之相似的類比對象。這個過程注重目標(biāo)與源在屬性等方面的相似性及其計算,給定檢索方法并能由此在源域中檢索一個(或多個)與目標(biāo)相似的源。
2)映射(Mapping):確定源與目標(biāo)的“相似元素”(概念、屬性、關(guān)系等)之間的對應(yīng)關(guān)系,給定映射約束條件,將選定的相似元素從源映像到目標(biāo)。
3)轉(zhuǎn)換(Transfer):在建立的映射下,通過對映射進(jìn)行進(jìn)一步處理,從而得到結(jié)論(有關(guān)目標(biāo)的新知識)。
4)正當(dāng)性(Justification):驗證結(jié)論(目標(biāo)新知識)的可靠性。
2 AI 中早期類比推理主要研究和特點
AI 領(lǐng)域中的類比推理研究,自1964 年Evans[9-10] 的開創(chuàng)性工作到20 世紀(jì)末,類比推理的理論與技術(shù)研究成果豐碩(約120 余篇發(fā)表文獻(xiàn))。這一時期中的類比推理研究,可歸納為4 個研究主題:類比問題求解APS、計算模型、類比推理學(xué)習(xí)和類比推理理論。圖2 為這一時期類比推理研究文獻(xiàn)在各研究主題中的占比。
2.1 類比問題求解和計算模型研究
在日常生活中,人們通過類比用過去已解問題的知識來幫助解決新問題是一種普遍存在的推理形式。因此,如何在計算機(jī)上實現(xiàn)這樣的問題解決,稱為“類比問題求解(analogical problemsolving,APS)”。APS 可描述如下:給定一個目標(biāo)問題作為輸入,輸出該問題的一個解,該解由已知的其他問題的解導(dǎo)出。1964 年Evans[9-10] 第1 個從AI 的角度出發(fā),研究了幾何類比問題求解及其計算模型。提出類比推理的一種多階段計算模型(multi-stage computational model of AR,CMAR),以及機(jī)器已實現(xiàn)的幾何類比問題求解系統(tǒng)(system to solve geometric-analogy problems,SSGA)。Evans 開創(chuàng)了AI 中類比推理的計算模型研究,通過CMAR 詳細(xì)說明了檢索?映射?轉(zhuǎn)換?正當(dāng)性的類比推理基本處理過程。CMAR 還捕獲了類比推理的一個重要特征:源和目標(biāo)之間的映射可以在某種抽象級別上執(zhí)行[3]。
與Evans 的研究目的相同,如何在計算機(jī)上實現(xiàn)人在數(shù)學(xué)定理證明中常用的類比推理,1971年Kling[11-12] 研究了定理證明中的類比問題求解及其計算模型。提出一種在解析定理證明中的類比問題求解方法:使用類比來減少解決新問題所需的數(shù)據(jù)庫的大小,數(shù)據(jù)庫將限于證明類似定理所需要的那些公理和事實,然后約束數(shù)據(jù)庫將加快對新定理的搜索。基于該方法,Kling 提出了一個已實現(xiàn)的系統(tǒng)ZORBA,這是一個通過詳細(xì)說明用戶提供的源證明來輔助目標(biāo)定理的自動證明系統(tǒng),系統(tǒng)使用其證明中提供的定理和從句(公理或證明定理)來選擇一組接近最優(yōu)的起始子句,以用于目標(biāo)定理的證明。尤為重要的是,Kling對APS 提出了一種一般性方法,即用求解源問題的方案來指導(dǎo)目標(biāo)問題的求解。以該方法思想為基礎(chǔ),在隨后的類比推理研究發(fā)展中形成了一個重要的研究領(lǐng)域即基于案例的推理(case-based reasoning,CBR)。
諸如上述各種具體APS 及其計算模型的研究各有側(cè)重,沒有研究一般形式的APS 計算模型。對此,Carbonell[13-17] 研究提出一種APS 的統(tǒng)一計算模型:轉(zhuǎn)換類比(transformational analogy,TA)。TA 的核心思想是使用轉(zhuǎn)換操作符、將目標(biāo)問題的解轉(zhuǎn)化為源問題來解決。轉(zhuǎn)換過程被視為一個問題求解的過程,在一個空間(稱為“轉(zhuǎn)換空間”或“T-空間”)中尋找新問題的可能解決方案。然而TA 存在如下問題:TA 中使用T-算子將一個解轉(zhuǎn)換成另一個解中沒有限制這些運算符的應(yīng)用,因此任何解都可以通過應(yīng)用足夠數(shù)量的這些運算符轉(zhuǎn)換成任何其他解,模型并沒有解決如何從一開始就找到一個可能相似的源解等。對此,Carbonell [16-17]進(jìn)一步研究提出衍生類比(derivational analogy,DA)。DA 更能恰當(dāng)?shù)夭东@潛在相似源問題的檢索,并且能夠?qū)⒔鉀Q一個問題的大部分基本計劃移植到解決另一個問題上,那么這2 個問題將被視為潛在的相似問題。
除上述APS 及其計算模型研究外,對于類比推理一般計算框架,Kedar[3] 研究提出類比推理的統(tǒng)一計算模型UCMAR(unifying computational model of analogical reasoning)。UCMAR 明確了17 個要求及5 個組成成分(子過程),指出當(dāng)前類比推理計算模型研究的局限性等。
2.2 類比推理學(xué)習(xí)研究
通過類比學(xué)習(xí)知識是人類學(xué)習(xí)的一種重要方式。如何在計算機(jī)上通過類比推理進(jìn)行學(xué)習(xí),1978 年Winston[18-21] 開創(chuàng)了類比推理學(xué)習(xí)的研究。Winston 研究了如何從先例和練習(xí)、功能定義和示例中通過類比推理進(jìn)行知識學(xué)習(xí),類比推理學(xué)習(xí)的主要方案是引導(dǎo)學(xué)習(xí),關(guān)注一個人在學(xué)習(xí)過程中如何在2 個領(lǐng)域的知識之間建立對應(yīng),通過提出的一種遷移框架進(jìn)行概念學(xué)習(xí),強(qiáng)調(diào)計算和系統(tǒng)實現(xiàn),并提出了一個描述性學(xué)習(xí)系統(tǒng)。
在通過類比推理學(xué)習(xí)的過程中,對一些知識只進(jìn)行一次類比推理學(xué)習(xí)可能存在錯誤,需要多層次或重疊的類比學(xué)習(xí)。對此,自1983 年Burstein[22-24]研究了通過教授式類比推理學(xué)習(xí)理解計算機(jī)程序設(shè)計語言BASIC 中賦值語句的計算模型,提出一種通過多重類比推理進(jìn)行概念學(xué)習(xí)的系統(tǒng)(concept learning by multiple analogical reasoning,CLAR)。CLAR 的中心思想是通過對熟悉的對象和情景進(jìn)行多重類比,模擬在BASIC 中教授學(xué)生概念。CLAR提供了一個學(xué)習(xí)模型,通過使用多重、重疊的類比來建立目標(biāo)領(lǐng)域的因果表示。給定一個教學(xué)類比及其用法的示例,系統(tǒng)將識別一個特定的關(guān)系抽象,以便在類比過程中使用。除上述研究外,研究者還提出了一種以理解的特定能力使用類比來進(jìn)行某種學(xué)習(xí)和推理的方法[15],基于抽象的有用類比推理理解類比學(xué)習(xí)[25]等。
2.3 類比推理理論及其計算模型研究
人們已認(rèn)識到類比推理的基本過程至少包括4 個子過程(檢索、映射、轉(zhuǎn)換和正當(dāng)性),其中如何從源到目標(biāo)的映射在類比推理計算模型研究中是一核心問題。在這一時期中,對此研究產(chǎn)生的“結(jié)構(gòu)映射理論 (structure mapping theory of analogy,SMT)及其計算模型”和“約束滿足理論(constraintsatisfaction theory,CST)及其計算模型”,是迄今類比推理理論和計算模型研究中具有重大影響的成果。
2.3.1 結(jié)構(gòu)映射理論SMT 及其計算模型SME
如何建立從源到目標(biāo)的映射,自1980 年Gentner等 [26-28] 研究提出結(jié)構(gòu)映射理論。SMT 關(guān)注類比對象的關(guān)系結(jié)構(gòu)的共同性,這一共同性獨立于這些關(guān)系所在的對象域(源域和目標(biāo)域)。SMT 中的知識表征只根據(jù)知識的句法而不依賴內(nèi)容,源到目標(biāo)的映射被抽象到與領(lǐng)域無關(guān)的層次上描述,并以系統(tǒng)性原則約束映射。由此,SMT 具有如下特點:人類智能中的類比是將一種范圍(即源域)知識映射到另一種范圍(即目標(biāo)域);源映射到目標(biāo)是將源域?qū)ο缶哂械慕Y(jié)構(gòu)關(guān)系(低級關(guān)系)映射到目標(biāo)域;類比對象的屬性不發(fā)生映射;映射遵循所提出的系統(tǒng)性原則,映射低級關(guān)系的選擇限制條件構(gòu)成相互聯(lián)系的關(guān)系系統(tǒng),低級關(guān)系的映射受高級關(guān)系的限制;在不同情況下映射的內(nèi)容完全取決于知識表示的句法屬性,而與領(lǐng)域的具體內(nèi)容或要實現(xiàn)的目標(biāo)內(nèi)容無關(guān);其中,結(jié)構(gòu)映射過程最主要的環(huán)節(jié)就是系統(tǒng)性原則。映射源域到目標(biāo)域的低級關(guān)系(一階謂詞)受具有推理意義的高層次關(guān)系(高階謂詞)的支配而不受孤立的謂項支配,因而系統(tǒng)化原則可以約束任何類比的源和目標(biāo)之間的映射。
Gentner 等[29-30]進(jìn)一步研究提出了SMT 的一個計算模型結(jié)構(gòu)映射引擎(structure-mapping engine,SME),SME 是一個運用SMT 并在計算機(jī)上已實現(xiàn)的類比推理系統(tǒng)。SME 應(yīng)用結(jié)構(gòu)映射理論,更好地理解處理句法如何控制映射的方式。SME 能匹配源描述與目標(biāo)描述的組成部分(關(guān)系、屬性和函數(shù))之間的對應(yīng)關(guān)系、一組根據(jù)映射得到的關(guān)于目標(biāo)的候選推論,從句法上檢測每一組整體匹配并予評分。
2.3.2 約束滿足理論CST 及其計算模型
在類比推理中,映射確定了源與目標(biāo)的“相似元素”(概念、屬性、關(guān)系等)之間的對應(yīng)關(guān)系,所以這樣的從源到目標(biāo)的映射不具有唯一性。對于類比推理來說,哪些映射適合或不適合將正確的源知識轉(zhuǎn)移到目標(biāo)是至關(guān)重要的。因此,約束從源到目標(biāo)的映射在類比推理研究中已形成主要共識。在以往的研究中提出的約束方案有:強(qiáng)調(diào)結(jié)構(gòu)約束的系統(tǒng)性約束映射[19,23],將映射約束為屬于源和目標(biāo)共享的抽象的那些關(guān)系[10,25,31],或者僅通過目標(biāo)中的一致性來限制映射[11,30],以及從誤差分析到使用多重類比的在目標(biāo)域內(nèi)證明和調(diào)試映射[15,28]。Hall[5]將類比映射的約束分為3 類:保留源描述的關(guān)系結(jié)構(gòu),保留先驗確定的語義類別以及保留推理上下文相關(guān)的材料。每種約束類都引入了首選項,這些首選項限制了類比映射的詳細(xì)描述。Holyoak 等[32-33]對類比推理中映射子過程的研究融合了以上3 類類比映射約束思想,提出了一種新的基于同構(gòu)性、語義相似性和語用中心性約束的源與目標(biāo)之間的類比映射約束滿足理論。對于CST,他們研究提出2 個計算模型:類比約束映射引擎(analogical constraint mapping engine,ACME)[34-35] 和約束滿足類比檢索(analog retrieval by constraint satisfaction,ARCS) [36],并且ACME 和ARCS(LISP 程序)均在計算機(jī)上實現(xiàn)。
CST 的基本思想是從記憶中提取類比應(yīng)由同時滿足語義相似性、結(jié)構(gòu)一致性和語用中心性的約束共同決定,當(dāng)目標(biāo)類比以待解決的問題、要給出的解釋或要得出的結(jié)論的形式呈現(xiàn)時,通過在記憶中搜索語義、結(jié)構(gòu)和語用上的相似物,在記憶中找到潛在有用的源類比。
ACME 在計算機(jī)上實現(xiàn)了CST 關(guān)于映射的3種約束性,從而展示了這些約束的一般適用性。ACME 的中心思想是通過一個支持和競爭的假設(shè)網(wǎng)絡(luò)來表示以映射哪些元素的約束,一個并行約束滿足的協(xié)作算法識別映射假設(shè),這些假設(shè)共同表示了最適合交互約束的總體映射。ACME 已經(jīng)被應(yīng)用到一系列的實例中,包括問題類比、解釋性類比、故事類比、形式類比等,ACME 應(yīng)用結(jié)果與心理學(xué)實驗獲得較好的一致性。ARCS 以知識圖譜WordNet 為基礎(chǔ),根據(jù)3 種約束條件檢索與目標(biāo)結(jié)構(gòu)最相似的源結(jié)構(gòu)。當(dāng)發(fā)現(xiàn)源域中潛在的相似結(jié)構(gòu)時,通過使用標(biāo)準(zhǔn)的并行連接松弛算法(parallel connectionist relaxation algorithm,PCRA),表示出各種源結(jié)構(gòu)與目標(biāo)結(jié)構(gòu)的相對對應(yīng)關(guān)系。ARCS 表明,語義、同構(gòu)和語用3 種約束在AR 的檢索、映射和轉(zhuǎn)換3 個不同子過程中的重要性,如表1 所示。
3 AI 中早期類比推理研究的總結(jié)與分析
由于類比推理是智能的核心,人工智能應(yīng)該嘗試?yán)斫膺@種現(xiàn)象,并對其進(jìn)行計算建模,這符合人工智能的科學(xué)目標(biāo)。為此,在20 世紀(jì)中,研究者們主要在類比問題求解和計算模型、類比推理學(xué)習(xí)、類比推理理論和計算模型以及計算機(jī)實現(xiàn)等方面做了不懈努力,取得了豐碩成果。本文從6 個方面簡要地總結(jié)分析了這一時期AI 中類比推理研究的主要特點(表2)。這一時期人們已認(rèn)識到AI 中類比推理研究的思想、理論和方法應(yīng)該具有可計算性[5],但由于AI 中的類比推理研究涉及心理學(xué)等認(rèn)知科學(xué)以及數(shù)學(xué)和計算機(jī)等相關(guān)學(xué)科,類比研究對象多樣化(如:實體或概念、事物描述、系統(tǒng)結(jié)構(gòu)等),以及類比推理的推斷結(jié)果具有或然性而不具有唯一性,所以決定了類比推理的理論和技術(shù)研究比其他推理形式研究更具有復(fù)雜性和困難性。這樣的復(fù)雜性和困難性致使類比推理至今仍未形成完整而系統(tǒng)的理論和技術(shù),也影響了進(jìn)入21 世紀(jì)后AI 中類比推理研究主題的變化、特點和發(fā)展趨勢。
作者:潘正華 王勇 單位:江南大學(xué)理學(xué)院