1

Jianw

9 天以前 70f29da38121b9a467841253e3268feb5df02902

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
-- Copyright 2006-2018 Mitchell mitchell.att.foicica.com. See License.txt.
-- Lisp LPeg lexer.
 
local lexer = require('lexer')
local token, word_match = lexer.token, lexer.word_match
local P, R, S = lpeg.P, lpeg.R, lpeg.S
 
local lex = lexer.new('lisp')
 
-- Whitespace.
lex:add_rule('whitespace', token(lexer.WHITESPACE, lexer.space^1))
 
-- Keywords.
lex:add_rule('keyword', token(lexer.KEYWORD, word_match[[
  defclass defconstant defgeneric define-compiler-macro define-condition
  define-method-combination define-modify-macro define-setf-expander
  define-symbol-macro defmacro defmethod defpackage defparameter defsetf
  defstruct deftype defun defvar
  abort assert block break case catch ccase cerror cond ctypecase declaim
  declare do do* do-all-symbols do-external-symbols do-symbols dolist dotimes
  ecase error etypecase eval-when flet handler-bind handler-case if
  ignore-errors in-package labels lambda let let* locally loop macrolet
  multiple-value-bind proclaim prog prog* prog1 prog2 progn progv provide
  require restart-bind restart-case restart-name return return-from signal
  symbol-macrolet tagbody the throw typecase unless unwind-protect when
  with-accessors with-compilation-unit with-condition-restarts
  with-hash-table-iterator with-input-from-string with-open-file
  with-open-stream with-output-to-string with-package-iterator
  with-simple-restart with-slots with-standard-io-syntax
  t nil
]]))
 
local word = lexer.alpha * (lexer.alnum + '_' + '-')^0
 
-- Identifiers.
lex:add_rule('identifier', token(lexer.IDENTIFIER, word))
 
-- Strings.
lex:add_rule('string', token(lexer.STRING, "'" * word +
                                           lexer.delimited_range('"')))
 
-- Comments.
local line_comment = ';' * lexer.nonnewline^0
local block_comment = '#|' * (lexer.any - '|#')^0 * P('|#')^-1
lex:add_rule('comment', token(lexer.COMMENT, line_comment + block_comment))
 
-- Numbers.
lex:add_rule('number', token(lexer.NUMBER, P('-')^-1 * lexer.digit^1 *
                                           (S('./') * lexer.digit^1)^-1))
 
-- Entities.
lex:add_rule('entity', token('entity', '&' * word))
lex:add_style('entity', lexer.STYLE_VARIABLE)
 
-- Operators.
lex:add_rule('operator', token(lexer.OPERATOR, S('<>=*/+-`@%()')))
 
-- Fold points.
lex:add_fold_point(lexer.OPERATOR, '(', ')')
lex:add_fold_point(lexer.OPERATOR, '[', ']')
lex:add_fold_point(lexer.OPERATOR, '{', '}')
lex:add_fold_point(lexer.COMMENT, '#|', '|#')
lex:add_fold_point(lexer.COMMENT, ';', lexer.fold_line_comments(';'))
 
return lex