解析表達文法

維基百科,自由的百科全書
前往: 導覽搜尋

計算機科學解析表達文法,簡稱PEG,是一種解析形式文法。這種文法用一個識別字符串的規則的集合來描述某種形式語言。解析表達文法2004年由布萊恩·福特引入,[1] 以純公式的形式的展現遞歸下降解析器的基礎語法,對這個具體的解析器可能會採用的實現方法不做任何限定。解析表達文法看起來與正則表達式巴科斯範式上下文無關文法(CFG)很像,但是表達的意思不同。

和CFG不同的是,PEG不能有二義性英語Ambiguous grammar;解析一個字符串的時候,這個字符串只產生一個確定的語法分析樹。據推測,存在上下文無關語言,不能用PEG處理,但尚未得到證實。[1] 這個特性使得PEG更適合計算機語言的解析,對於一般的CFG算法(如依爾利算法英語Earley parser)的性能可以與之比擬的自然語言就不是很合適。[2]

定義[編輯]

語法[編輯]

形式上,一個解析表達文法由以下部分組成:

  • 一個有限的非終結符的集合 N
  • 一個有限的終結符的集合 Σ,和 N 沒有交集
  • 一個有限的解析規則的集合 P
  • 一個被稱作起點表達式的解析表達式 eS

P 中的每一個解析規則以 Ae 的形式出現,這裡 A 是一個非終結符,e 是一個解析表達式。解析表達式是類似正則表達式的層次表達式:

  1. 原子解析表達式由以下組成:
    • 任何的終結符,
    • 任何的非終結符,
    • 空字符串 ε.
  2. 給定已經存在的解析表達式 e, e1e2, 一個新的解析表達式可以通過以下操作構成:
    • 序列: e1 e2
    • 有序選擇: e1 / e2
    • 零個或更多: e*
    • 一個或更多: e+
    • 可選: e?
    • 肯定斷言: &e
    • 否定斷言: !e

語義[編輯]

CFG和PEG的關鍵不同是PEG的選擇操作符是有序的。如果第一個可能成功了,那麼第二個可能就忽略。因此PEG的有序選擇是不可以互換的,這點和上下文無關文法或者正則表達式在教科書上的定義不同。有序選擇類似於某些邏輯編程語言中的軟截斷操作符。

與上下文無關文法或者其他生成文法不同,在解析表達文法裡面,對應某個非終結符,必須且只能有一個的解析規則。這意味著,在PEG裡面,解析規則就是定義,每一個非終結符必須有且只能由一個定義。

這導致的區別就是如果一個上下文無關文法被直接轉換為解析表達文法,所有的不確定性的地方都會被確定下來,方法是從所有可能的解析樹中選擇一個分支。通過仔細安排文法可能項的順序,編程的人就可以自由控制那一個解析分支被選中。

解析表達式的解釋[編輯]

解析表達文法裡面的每一個非終結符本質上表示遞歸下降解析器裡面的一個解析函數,其對應的解析表達式展示了這個函數包含的代碼內容。概念上,每一個解析函數接受一個輸入字符串作為參數,返回以下其中一個結果:

  • 成功,函數可能向前移動或者「消耗」一個或多個輸入字符串的字符
  • 失敗,不消耗任何字符

一個非終結符有可能成功但是不消耗任何輸入字符,這也是一種不同於失敗的結果。

只由一個終結符組成的原子解析表達式:成功,如果輸入字符串的第一個字符就是定義中的終結符,這種情況下消耗這個輸入字符;否之失敗。由空字符串組成的原子解析表達式總是成功並且不消耗任何輸入。只由一個非終結符A組成的原子解析表達式表示對非終結符A的解析函數的遞歸調用。

序列操作符 e1e2 首先調用 e1, 如果 e1成功, 接著對 e1 消耗剩下的輸入字符串調用 e2, 最後返回結果。如果 e1 或者 e2 失敗,那麼序列表達式 e1e2 失敗。

選擇操作符 e1 / e2 首先調用 e1, 如果 e1成功, 立刻返回結果。否則如果 e1 失敗,選擇操作符回溯到輸入字符串匹配 e1 的原始位置,調用 e2, 最後返回 e2 結果。

零個或多個一個或多個,和可選操作符分別消耗零個或多個,一個或多個,或者零個或一個連續重複的子表達式e。與上下文無關文法和正則表達式不同的 是,儘管如此,在PEG里這些操作符總是執行貪婪的行為,那就是消耗儘可能多的輸入,而且絕對不回溯。(正則表達式一開始執行貪婪匹配,但是如果整個正則表達式失敗後,會回退並嘗試短一些的匹配。)例如,解析表達式a*總是儘可能多的消耗輸入字符串中連續出現的a,解析表達式(a* a)則必然會失敗因為前半部分a*絕對不會留下一丁點a給後半部分去匹配。

最後,肯定斷言和否定斷言實現了句法斷言。&e 表達式調用子表達式e,如果e成功,則返回成功;否則返回失敗。無論結果如何都不消耗任何字符。反之,當e失敗時!e 表達式成功,e成功時!e 表達式失敗, 同樣無論結果如何都不消耗任何字符。因為向前判斷的子表達式e 可以任意的複雜,所以斷言表達式提供了強大的句法向前判斷和去除二義性的能力。

示例[編輯]

這是一個簡單的解析表達文法,它識別基本的數學表達式,只使用了基本的四個運算符並且只接受正整數作為操作數.

Expr    ← Sum
Sum     ← Product (('+' / '-') Product)*
Product ← Value (('*' / '/') Value)*
Value   ← [0-9]+ / '(' Expr ')'

在上面這個例子裡面,終結符就是字符文本,用單引號括起來表示。比如'('')'[0-9]這個區間是10個字符的縮寫,表示數字0到數字9裡面的任意一個。(這裡區間的語義和正則表達式裡面的一樣。)非終結符就是被定義成其他表達式的符號:Value, Product, Sum, 以及 Expr

下面的例子去掉引用標記以便閱讀。小寫字母表示終結符,大寫字母是非終結符。真實的PEG語法要求所有的小寫字母都在引號裡面。

解析表達式('a'/'b')*匹配任意長度的a和b序列。解析規則 S ← 'a' S? 'b' 描述了. 這樣一個簡單的上下文無關匹配語言。而下面的這個解析表達文法則可以描述經典的非上下文無關文法

S ← &(A 'c') 'a'+ B !('a'/'b'/'c')
A ← 'a' A? 'b'
B ← 'b' B? 'c'

接下來的遞歸規則匹配了標準C風格的if/then/else語句。因為/操作符的隱式優先級安排,可選的else語句總是會被綁定到最內層的if語句。(在上下文無關文法裡,這種結構的文法會導致懸空的else語句這種二義性錯誤。

S ← 'if' C 'then' S 'else' S / 'if' C 'then' S

解析表達式 foo &(bar) 只有當 foo 後面緊跟著字符串 bar 的時候,才會匹配並消耗 foo。而解析表達式 foo !(bar) 只有當 foo 後面沒有緊跟著字符串 bar 的時候,才會匹配。表達式 !(a+ b) a 只有當a 不是一連串a後面連著一個b的情況下出現的時候,才能匹配一個單獨的字母a。

下面的這個遞歸規則匹配Pascal格式的注釋語法,(*和*)括號,其內部可以有嵌套的(*和*)對。注釋符號放在雙引號內內是為了與其他PEG操作符區分開來。

Begin ← '(*'
End   ← '*)'
C     ← Begin N* End
N     ← C / (!Begin !End Z)
Z     ← any single character

根據解析表達文法實現解析器[編輯]

所有的解析表達文法都能夠被直接轉化為遞歸下降解析器英語recursive descent parser[3] 儘管如此,因為PEG公式提供了理論上不受限制的向前檢查的能力,所以最終得到的解析器還是可以避免最壞情況下指數級時間複雜度的。

通過保存增量解析步驟的結果和確保每一個解析函數在同一個輸入位置只被調用一次,就可以把任意解析表達文法轉化成一個Packrat Parser,可以實現線性的時間複雜度解析,其代價是足夠大量的空間占用。

一個Packrat Parser[3]是一種結構上類似於遞歸下降解析器的語法解析器,區別是在解析過程中,它會記下所有互相遞歸調用的函數的中間結果。因為保存了這些信息,一個 Packrat Parser就擁有了以線性時間複雜度解析多數上下文無關文法和所有解析表達文法的能力(包括某些表示的不是上下文無關文法語言的文法)。

從解析表達文法建立LL剖析器LR剖析器也是可行的,但是在這兩種情況下,不受限制的向前檢查的能力就不能用了。

優勢[編輯]

因為PEG更加嚴格更加強大,PEG可以成為很好的正則表達式的替代品。例如,一個正則表達式本身是無法匹配嵌套的括號對,因為正則表達式不是遞歸的,但是PEG卻能做到這點。

所有的PEG都能通過使用Parkrat Parser達到線性時間解析,如同上文所述。

CFG表達的解析器,比如LR解析器,需要首先進行一個單獨的斷詞步驟。這個步驟根據空白的位置或者發音等等因素把輸入分成詞。分詞是必要的,因為 這類解析器使用向前檢查來判斷上下文無關文法是否匹配要求。PEG不需要單獨的斷詞步驟,斷詞的規則和其他文法規則可以用同樣的方式寫在一起。

許多CFG固有的存在二義性,即使它們原本要描述的東西並不具有二義性。C, C++, Java裡面著名的懸空else問題就是一個例子。這個問題通常都是應用文法之外的一個規則解決。而在PEG裡面,因為使用了優先權,所以根本不存在這種問題。

劣勢[編輯]

PEG是新事物,還沒有被廣泛的應用。相比之下,正則表達式和CFG已經產生了數十年了,用來解析的代碼也已經優化的很好,並且很多開發者都熟悉怎麼使用他們。

PEG不能表達左遞歸的解析規則。例如,上面的數學運算文法,通過引入更多的規則,來使得乘法和加法的優先級能夠在一行裡面表達出來這可是非常的有誘惑力的, 結果可能得到下面的文法:

Value ← [0-9.]+ / '(' Expr ')'
Product ← Expr (('*' / '/') Expr)*
Sum ← Expr (('+' / '-') Expr)*
Expr ← Product / Sum / Value

這個文法的問題就是,為了匹配Expr, 你需要首先判斷是否某處匹配Product, 而為了匹配Product, 你又必須判斷是不是此處匹配Expr。而這個循環定義是不可分析的。

儘管如此,我們總是可以通過重寫左遞歸規則把左遞歸消除掉。[2][4] 例如,一個左遞歸可能無限的重複一個規則,就像在CFG裡面的:

string-of-a ← string-of-a 'a' | 'a'

在PEG裡面,可以用加號操作符重寫為:

string-of-a ← 'a'+

PEG還涉及到Packrat Parsing, 一種通過占用更多的存儲空間來消除不必要解析步驟的方法。Packrat Parsing需要的存儲空間與總的輸入文件的大小成正比,而不是LR解析器的與解析樹的深度成正比。如果稍作修改,傳統的Packrat Parser也可以支持左遞歸。

參見[編輯]

參考文獻[編輯]

  1. ^ 1.0 1.1 Ford, Bryan p. Parsing Expression Grammars: A Recognition Based Syntactic Foundation. Proceedings of the 31st ACM SIGPLAN-SIGACT Symposium on Principles of Programming Languages. ACM. 2004 [2010-07-30]. ISBN 1-58113-729-X. doi:10.1145/964001.964011. 
  2. ^ 2.0 2.1 Bryan Ford. Functional Pearl: Packrat Parsing: Simple, Powerful, Lazy, Linear Time (PDF). 2002. 
  3. ^ 3.0 3.1 Ford, Bryan. Packrat Parsing: a Practical Linear-Time Algorithm with Backtracking. Massachusetts Institute of Technology. September 2002 [2007-07-27]. 
  4. ^ Aho, A.V., Sethi, R. and Ullman, J.D. (1986) "Compilers: principles, techniques, and tools." Addison-Wesley Longman Publishing Co., Inc. Boston, MA, USA.

外部連結[編輯]