1、會計學(xué)1自然語言理解人工智能自然語言理解人工智能(rn n zh nn)原理及其應(yīng)原理及其應(yīng)第一頁，共17頁。28.1 語言語言(yyn)及其理解的基及其理解的基本概念本概念 自然語言是音義自然語言是音義(yny)結(jié)合的詞匯和語法體系。詞匯是語言的基本單位，它在語法的支配下結(jié)合的詞匯和語法體系。詞匯是語言的基本單位，它在語法的支配下可構(gòu)成有意義和可理解的句子，句子再按一定的形式構(gòu)成篇章等。其結(jié)構(gòu)如圖可構(gòu)成有意義和可理解的句子，句子再按一定的形式構(gòu)成篇章等。其結(jié)構(gòu)如圖8.1所示：所示： 語言(yyn)詞匯語法詞熟語詞法句法詞素構(gòu)形法構(gòu)詞法詞組構(gòu)造法造句法 詞匯詞匯是語言的基本單位。是語言的基本單

2、位。熟語熟語是指一些詞的固定組合，如漢語中的成語。詞又由詞素構(gòu)成是指一些詞的固定組合，如漢語中的成語。詞又由詞素構(gòu)成，詞素詞素是構(gòu)成詞的最小有意義的單位。如是構(gòu)成詞的最小有意義的單位。如“學(xué)生學(xué)生”是由是由“學(xué)學(xué)”和和“生生”這兩個詞素構(gòu)成這兩個詞素構(gòu)成的。的。 語法語法是語言的組織規(guī)律。是語言的組織規(guī)律。詞法詞法是用詞素或熟語構(gòu)成詞的規(guī)則，可分為構(gòu)形法和構(gòu)是用詞素或熟語構(gòu)成詞的規(guī)則，可分為構(gòu)形法和構(gòu)詞法。詞法。構(gòu)形法構(gòu)形法是指單數(shù)復(fù)數(shù)等。是指單數(shù)復(fù)數(shù)等。造句法造句法是用詞和詞組構(gòu)造句子的規(guī)則。是用詞和詞組構(gòu)造句子的規(guī)則。 語言詞匯語法詞熟語詞法詞素句法構(gòu)形法構(gòu)詞法詞組構(gòu)造法語言詞匯語法詞熟語

3、詞法詞素造句法句法構(gòu)形法構(gòu)詞法詞組構(gòu)造法語言詞匯語法詞熟語詞法詞素第1頁/共17頁第二頁，共17頁。3 其主要任務(wù)是要找出詞匯的各個其主要任務(wù)是要找出詞匯的各個(gg)詞素，從中獲得語言學(xué)信息，并確詞素，從中獲得語言學(xué)信息，并確定單詞的詞義。以英語為例，其詞法分析的基本算法如下：定單詞的詞義。以英語為例，其詞法分析的基本算法如下： repeat look for word in dictionary if not found then modify the word until word is found or no further modification possible其中，其中，wor

4、d是一個變量，其初始值就是當(dāng)前詞。是一個變量，其初始值就是當(dāng)前詞。 例例8.1 用上述算法分析用上述算法分析catches。 解：其分析過程如下：解：其分析過程如下： catches 詞典中查不到詞典中查不到 catche 修改修改1：去掉：去掉s catch 修改修改2：去掉：去掉e 可以看出，在修改可以看出，在修改2時就查到了時就查到了catch。當(dāng)然，這只是一個很簡單的例子，。當(dāng)然，這只是一個很簡單的例子，完整的詞法分析還應(yīng)該包括復(fù)合詞的切分等。完整的詞法分析還應(yīng)該包括復(fù)合詞的切分等。 8.2 詞法詞法(cf)分析分析第2頁/共17頁第三頁，共17頁。48.3 句法分析句法分析 句法分析

5、是對句子和短語的結(jié)構(gòu)進(jìn)行分析，其最大單位是一個句子。分析的目句法分析是對句子和短語的結(jié)構(gòu)進(jìn)行分析，其最大單位是一個句子。分析的目的是要找出詞、短語等的相互關(guān)系，以及他們在句子中的作用等，并用一種層次的是要找出詞、短語等的相互關(guān)系，以及他們在句子中的作用等，并用一種層次結(jié)構(gòu)加以結(jié)構(gòu)加以(jiy)表達(dá)。這種層次結(jié)構(gòu)可以是句子的成分關(guān)系、，也可以是語法功表達(dá)。這種層次結(jié)構(gòu)可以是句子的成分關(guān)系、，也可以是語法功能關(guān)系。能關(guān)系。8.3.1 句法句法(jf)規(guī)則的表示方法規(guī)則的表示方法8.3.2 自頂向下與自底向上分析自頂向下與自底向上分析第3頁/共17頁第四頁，共17頁。58.3.1 句法句法(jf)規(guī)

6、則的表示方法規(guī)則的表示方法句子結(jié)構(gòu)的表示句子結(jié)構(gòu)的表示 一個句子是由各種不同的句子成分組成的。這些成分可以是單詞、詞組或從句一個句子是由各種不同的句子成分組成的。這些成分可以是單詞、詞組或從句。句子成分還可以按其作用分為主語、謂語、賓語、賓語補(bǔ)語、定語、狀語、表。句子成分還可以按其作用分為主語、謂語、賓語、賓語補(bǔ)語、定語、狀語、表語等。這種關(guān)系可用一棵樹來表示，如對句子：語等。這種關(guān)系可用一棵樹來表示，如對句子： He wrote a book可用圖可用圖8.2所示的樹形結(jié)構(gòu)來表示所示的樹形結(jié)構(gòu)來表示 一個句子又是由若干個詞類構(gòu)成一個句子又是由若干個詞類構(gòu)成(guchng)的，如名詞、動詞、代

7、詞、形容詞等的，如名詞、動詞、代詞、形容詞等。若從句子的詞類來考慮，一個句子也可用一棵樹來表示，這種樹稱為句子的分。若從句子的詞類來考慮，一個句子也可用一棵樹來表示，這種樹稱為句子的分析樹，如圖析樹，如圖8.3所示。所示。句子句子主語主語謂語謂語動詞動詞賓語賓語Hewroteabook句子句子代詞代詞動詞短語動詞短語動詞動詞名詞短語名詞短語Hewroteabook第4頁/共17頁第五頁，共17頁。6 上下文無關(guān)文法上下文無關(guān)文法(Context-free Grammars)是喬姆斯基提出的一種對自然語言語是喬姆斯基提出的一種對自然語言語法知識進(jìn)行形式化描述的方法法知識進(jìn)行形式化描述的方法(fn

8、gf)。在這種文法中，語法知識是用重寫規(guī)則表。在這種文法中，語法知識是用重寫規(guī)則表示的。作為例子，下面給出了一個英語的很小的子集（圖示的。作為例子，下面給出了一個英語的很小的子集（圖8.4）。）。 語句語句 句子句子 終標(biāo)符終標(biāo)符 句子句子 名詞短語名詞短語 動詞短語動詞短語 動詞短語動詞短語 動詞動詞 名詞短語名詞短語 名詞短語名詞短語 冠詞冠詞 名詞名詞 名詞短語名詞短語 專用名詞專用名詞 冠詞冠詞 the 名詞名詞 professor 動詞動詞 wrote 名詞名詞 book 動詞動詞 trains 專用名詞專用名詞 Jack 終標(biāo)符終標(biāo)符 . . 這就是一個英語子集的上下文無關(guān)文法這就

9、是一個英語子集的上下文無關(guān)文法 在該文法中，在該文法中，“語句語句”是一個特殊的非終極符，稱為起始符。是一個特殊的非終極符，稱為起始符。8.3.1 句法句法(jf)規(guī)則的表示方規(guī)則的表示方法法上下文無關(guān)文法上下文無關(guān)文法(1/2)第5頁/共17頁第六頁，共17頁。78.3.1 句法規(guī)則的表示方法句法規(guī)則的表示方法上下文無關(guān)上下文無關(guān)(wgun)文法文法(2/2) 例例8.2 利用利用(lyng)上述上下文無關(guān)文法，給出如下語句的分析樹。上述上下文無關(guān)文法，給出如下語句的分析樹。 The professor trains Jack.語句語句(yj)句子句子終標(biāo)符終標(biāo)符動詞短語動詞短語名詞短語名詞

10、短語Theprofessor.trains冠詞冠詞名詞名詞動詞動詞專用名詞專用名詞名詞短語名詞短語Jack解：解：如圖如圖8.5第6頁/共17頁第七頁，共17頁。88.3.1 句法規(guī)則句法規(guī)則(guz)的表示方的表示方法法變換文法變換文法(1/2) 上下文無關(guān)文法反映的僅是一個句子本身的層次結(jié)構(gòu)上下文無關(guān)文法反映的僅是一個句子本身的層次結(jié)構(gòu)(jigu)和生成過程，和生成過程，而自然語言是上下文有關(guān)的。為此，喬姆斯基又提出了變換文法而自然語言是上下文有關(guān)的。為此，喬姆斯基又提出了變換文法(Transformational Grammar)。該文法認(rèn)為，句子的結(jié)構(gòu)。該文法認(rèn)為，句子的結(jié)構(gòu)(jigu

11、)有深層和表有深層和表層兩個層次。例如：層兩個層次。例如： She read me a story 和和 She read a story to me的表層結(jié)構(gòu)的表層結(jié)構(gòu)(jigu)不一樣，但它們的深層結(jié)構(gòu)不一樣，但它們的深層結(jié)構(gòu)(jigu)則是一樣的。再如，則是一樣的。再如，主動句和被動句也只是表層結(jié)構(gòu)主動句和被動句也只是表層結(jié)構(gòu)(jigu)不同，其深層結(jié)構(gòu)不同，其深層結(jié)構(gòu)(jigu)則是相同則是相同的。的。 在變換文法中，句子深層結(jié)構(gòu)在變換文法中，句子深層結(jié)構(gòu)(jigu)和表層結(jié)構(gòu)和表層結(jié)構(gòu)(jigu)之間的變換是通之間的變換是通過變換規(guī)則實現(xiàn)的，如圖過變換規(guī)則實現(xiàn)的，如圖8.6給出了一條

12、把主動句變換為被動句的變換規(guī)則。給出了一條把主動句變換為被動句的變換規(guī)則。 句子句子(j zi)介詞短語介詞短語1句子句子名詞短語名詞短語1動詞短語動詞短語動詞動詞名詞短語名詞短語2名詞短語名詞短語2動詞被動語態(tài)動詞被動語態(tài)動詞動詞介詞介詞動詞的過去分詞動詞的過去分詞名詞短語名詞短語1句子句子介詞短語介詞短語句子句子名詞短語名詞短語1動詞短語動詞短語動詞動詞名詞短語名詞短語2名詞短語名詞短語2動詞被動語態(tài)動詞被動語態(tài)第7頁/共17頁第八頁，共17頁。98.3.1 句法規(guī)則的表示方法句法規(guī)則的表示方法(fngf)變換文法變換文法(2/2)助動詞助動詞介詞介詞(jic)動詞動詞(dngc)的過去分

13、詞的過去分詞名詞短語名詞短語1句子句子介詞短語介詞短語句子句子名詞短語名詞短語1動詞短語動詞短語動詞動詞名詞短語名詞短語2名詞短語名詞短語2動詞被動語態(tài)動詞被動語態(tài)冠詞冠詞名詞名詞專用名詞專用名詞上下文無上下文無關(guān)文法關(guān)文法變換規(guī)則變換規(guī)則冠詞冠詞名詞名詞TheprofessorJacktrainsJack專用名詞專用名詞istrainedbytheprofessorprofessor 例例8.3 利用變換文法，將前述主動句變?yōu)楸粍泳洹＠米儞Q文法，將前述主動句變?yōu)楸粍泳洹?解：解：其變換過程是：先從非終極符其變換過程是：先從非終極符“句子句子”開始產(chǎn)生一個主動句：開始產(chǎn)生一個主動句： The

14、 professor trains Jack然后再應(yīng)用圖然后再應(yīng)用圖8.6所示的變換規(guī)則把它變?yōu)楸粍泳渌镜淖儞Q規(guī)則把它變?yōu)楸粍泳?圖圖8.6) ： Jack is trained by the professor動詞動詞冠詞冠詞名詞名詞Theprofessor名詞短語名詞短語2專用名詞專用名詞trains動詞動詞冠詞冠詞名詞名詞TheprofessorJack名詞短語名詞短語2專用名詞專用名詞trains動詞動詞冠詞冠詞名詞名詞Theprofessor第8頁/共17頁第九頁，共17頁。108.3.2 自頂向下與自底向上分析自頂向下與自底向上分析(fnx)自頂向下分析自頂向下分析(fnx)法法

15、 自頂向下分析，是指從起始符開始應(yīng)用文法規(guī)則，一層一層地向下產(chǎn)生分析樹的各個分支，直至生成與輸入語句相匹配的完整的句子結(jié)構(gòu)為止自頂向下分析，是指從起始符開始應(yīng)用文法規(guī)則，一層一層地向下產(chǎn)生分析樹的各個分支，直至生成與輸入語句相匹配的完整的句子結(jié)構(gòu)為止(wizh)。 例如，圖例如，圖8-4所示的上下文無關(guān)文法，采用自頂向下分析方法對語句：所示的上下文無關(guān)文法，采用自頂向下分析方法對語句： The professor trains Jack .進(jìn)行分析的過程是：進(jìn)行分析的過程是： 首先從起始符首先從起始符“語句語句”開始，正向運(yùn)用規(guī)則：開始，正向運(yùn)用規(guī)則： 語句語句 句子句子 終標(biāo)符終標(biāo)符把分析樹

16、的根節(jié)點把分析樹的根節(jié)點“語句語句”替換為它的兩個子節(jié)點替換為它的兩個子節(jié)點“句子句子”和和“終標(biāo)符終標(biāo)符”。 然后再對新生成的節(jié)點然后再對新生成的節(jié)點“句子句子”使用規(guī)則：使用規(guī)則： 句子句子 名詞短語名詞短語 動詞短語動詞短語將其替換為兩個子節(jié)點將其替換為兩個子節(jié)點“名詞短語名詞短語”與與“動詞短語動詞短語”。 對于對于“名詞短語名詞短語”，有兩條規(guī)則可用，若按規(guī)則的排列順序，則選用，有兩條規(guī)則可用，若按規(guī)則的排列順序，則選用 名詞短語名詞短語 冠詞冠詞 名詞名詞將將“名詞短語名詞短語”被替換為被替換為“冠詞冠詞”和和“名詞名詞”，生成兩個新節(jié)點。對，生成兩個新節(jié)點。對“冠詞冠詞”使用規(guī)則

17、：使用規(guī)則： 冠詞冠詞 The對名詞使用規(guī)則：對名詞使用規(guī)則： 名詞名詞 professor 以此進(jìn)行以此進(jìn)行，得到如圖，得到如圖8.8所示的自頂向下的分析樹（略）。所示的自頂向下的分析樹（略）。第9頁/共17頁第十頁，共17頁。118.3.2 自頂向下與自底向上分析自頂向下與自底向上分析(fnx)自底向上分析自底向上分析(fnx)法法 自底向上分析，是以輸入語句的單詞為基礎(chǔ)，首先按重寫規(guī)則的箭頭指向，反自底向上分析，是以輸入語句的單詞為基礎(chǔ)，首先按重寫規(guī)則的箭頭指向，反方向使用那些最具體的重寫規(guī)則，把單詞歸并成較大的結(jié)構(gòu)成分，如短語等，然方向使用那些最具體的重寫規(guī)則，把單詞歸并成較大的結(jié)構(gòu)成

18、分，如短語等，然后對這些成分繼續(xù)逆向使用規(guī)則，直到分析樹的根節(jié)點為止。后對這些成分繼續(xù)逆向使用規(guī)則，直到分析樹的根節(jié)點為止。 仍以語句仍以語句 The professor trains Jack為例，逆向使用圖為例，逆向使用圖8.4中的那些具體規(guī)則后，可得到圖中的那些具體規(guī)則后，可得到圖8.9所示的所示的 部分部分(b fen)分析分析樹。樹。 繼續(xù)逆向使用規(guī)則，一步步歸并，直到根節(jié)點繼續(xù)逆向使用規(guī)則，一步步歸并，直到根節(jié)點“語句語句”為止，最后即可生成如圖為止，最后即可生成如圖8.5所示的完整的分析樹。所示的完整的分析樹。 自頂向下分析方法與自底向上分析方法雖然思路清晰，但分析效率不高。為了

19、自頂向下分析方法與自底向上分析方法雖然思路清晰，但分析效率不高。為了提高分析效率，可采用自頂向下與自底向上相結(jié)合的分析方法。提高分析效率，可采用自頂向下與自底向上相結(jié)合的分析方法。Jack名詞名詞(mng c)短語短語專用名詞專用名詞trains動詞動詞冠詞冠詞名詞名詞Theprofessor終標(biāo)符終標(biāo)符.第10頁/共17頁第十一頁，共17頁。128.4 句義分析句義分析(fnx) 語義分析就是要識別一句話所表達(dá)的實際意義。即弄清楚語義分析就是要識別一句話所表達(dá)的實際意義。即弄清楚“干什么了干什么了”，“誰干的誰干的”，“這個行這個行為的原因和結(jié)果為的原因和結(jié)果(ji gu)是什么是什么”以及

20、以及“這個行為發(fā)生的時間、地點及其所用的工具或方法這個行為發(fā)生的時間、地點及其所用的工具或方法”等等。 原因是語法分析，僅是在句法范圍內(nèi)根據(jù)詞性信息來分析自然語言中句子的文法結(jié)構(gòu)的。原因是語法分析，僅是在句法范圍內(nèi)根據(jù)詞性信息來分析自然語言中句子的文法結(jié)構(gòu)的。由于它沒有考慮句子本身的含義，也就不能排除像由于它沒有考慮句子本身的含義，也就不能排除像 The paper received the professor這種在語法結(jié)構(gòu)上正確，但實際意義上錯誤的句子。這種在語法結(jié)構(gòu)上正確，但實際意義上錯誤的句子。 目前，用于語義分析的技術(shù)比較多，本節(jié)僅簡單介紹語義文法和格文法。目前，用于語義分析的技術(shù)比較

21、多，本節(jié)僅簡單介紹語義文法和格文法。 8.4.1 語義文法語義文法(wnf) 8.4.2 格文法格文法(wnf)第11頁/共17頁第十二頁，共17頁。138.4.1 語義文法語義文法(wnf) 語義文法是在上下文無關(guān)文法的基礎(chǔ)上，將語義文法是在上下文無關(guān)文法的基礎(chǔ)上，將“名詞短語名詞短語”、“動詞短語動詞短語”、“名詞名詞”等這些等這些不含有語義信息的純語法類別，用所討論領(lǐng)域的專門信息，像不含有語義信息的純語法類別，用所討論領(lǐng)域的專門信息，像“山山”、“水水”、“動物動物”、等、等這些具有很強(qiáng)語義約束的語義類別來代替。利用語義文法進(jìn)行語義分析，就可以排除像這些具有很強(qiáng)語義約束的語義類別來代替。

22、利用語義文法進(jìn)行語義分析，就可以排除像“論文收到教授論文收到教授”這類無意義的句子。這類無意義的句子。 例如，下面是一個關(guān)于艦船信息的語義文法的例子：例如，下面是一個關(guān)于艦船信息的語義文法的例子： S PRESENT the ATTRIBUTE of SHIP PRESENT what is | can you tell me ATTRIBUTE length | class SHIP the SHIPNAME | CLASSNAME class ship SHIPNAME Huanghe | Changjiang CLASSNAME carrier | submarine 在上述重寫規(guī)則中，

23、用大寫英文字母的單詞表示非終極符，小寫英文字母表示終極符在上述重寫規(guī)則中，用大寫英文字母的單詞表示非終極符，小寫英文字母表示終極符，豎線表示，豎線表示“或或”的意思。的意思。 利用上述語義文法進(jìn)行語義分析，可以從語義上識別利用上述語義文法進(jìn)行語義分析，可以從語義上識別(shbi)以下的輸入：以下的輸入： what is the length of the Huanghe? Can you tell me the class of the Changjiang?第12頁/共17頁第十三頁，共17頁。148.4.2 格文法格文法(wnf)格和格框架格和格框架(1/3) 格文法是以句子的中心動詞為主

24、導(dǎo)，并用格來表示格文法是以句子的中心動詞為主導(dǎo)，并用格來表示(biosh)其它成分與此其它成分與此中心動詞之間的語義關(guān)系的一種描述方法。中心動詞之間的語義關(guān)系的一種描述方法。 “格格”這個詞來源于傳統(tǒng)語法，但它與傳統(tǒng)語法中的格有著本質(zhì)不同。在傳這個詞來源于傳統(tǒng)語法，但它與傳統(tǒng)語法中的格有著本質(zhì)不同。在傳統(tǒng)語法中，格僅表示統(tǒng)語法中，格僅表示(biosh)一個詞或短語再句子中的功能，如主格、賓格一個詞或短語再句子中的功能，如主格、賓格、等，反映的也只是詞尾的變化規(guī)則，故稱為表層格。在格文法中，格表示、等，反映的也只是詞尾的變化規(guī)則，故稱為表層格。在格文法中，格表示(biosh)的是語義方面的關(guān)系，

25、反映的是句子中所包含的思想、觀念等，故的是語義方面的關(guān)系，反映的是句子中所包含的思想、觀念等，故稱為深層格。稱為深層格。 “格格”是一個一般的概念，相對于中心動詞的不同語義關(guān)系，格可以分為許是一個一般的概念，相對于中心動詞的不同語義關(guān)系，格可以分為許多種。例如，在句子多種。例如，在句子 John gave the book to Sally中，相對于中心動詞中，相對于中心動詞gave， John是這個行為的發(fā)出者，稱為動作格；是這個行為的發(fā)出者，稱為動作格； the book是行為作用的對象，稱為受動格；是行為作用的對象，稱為受動格； Sally是行為作用對象所到達(dá)的目標(biāo)，稱為目標(biāo)格。是行為作

26、用對象所到達(dá)的目標(biāo)，稱為目標(biāo)格。 第13頁/共17頁第十四頁，共17頁。158.4.2 格文法格文法(wnf)格和格框架格和格框架(2/3) 一套正確的深層格究竟應(yīng)包括多少個格，以及這些格的明確含義是什么，目一套正確的深層格究竟應(yīng)包括多少個格，以及這些格的明確含義是什么，目前尚無定論。前尚無定論。 下面給出一個描述行為的句子，它所涉及的深層格主要有：下面給出一個描述行為的句子，它所涉及的深層格主要有： Agent（施事），（施事）， 動作主格，指行為的施動者；動作主格，指行為的施動者； Object（受事），受動者格，指行為作用的對象；（受事），受動者格，指行為作用的對象； Co-Agent（共施事），幫助者格，指行為施動者的合作者；（共施事），幫助者格，指行為施動者的合作者； Instrument（工具），工具格，指施事者或共施事者實現(xiàn)行為中所使用的對（工具），工具格，指施事者或共施事者