实现编译器前端需构建词法分析器和语法分析器,先通过Lexer将源码转为Token流,再由Parser生成符合优先级的AST。
实现一个简单的编译器前端,主要包括两个核心部分:词法分析(Lexer)和语法分析(Parser)。我们可以用 JavaScript 来构建一个基础版本,处理类似算术表达式这样的简单语言。下面一步步说明如何实现。
词法分析:将源码拆分为 Token
词法分析器(Lexer)
的作用是读取原始字符流,将其转换为一个个有意义的标记(Token)。例如,表达式
可以被切分为数字、运算符等 Token。
以下是一个简单的 Lexer 实现:
function createLexer(input) {let position = 0;const tokens = [];while (position < input.length) {let char = input[position];if (char === ' ') {position++;continue;}if (/[0-9]/.test(char)) {let num = '';while (position < input.length && /[0-9]/.test(input[position])) {num += input[position++];}tokens.push({ type: 'number', value: Number(num) });continue;}if (char === '+' || char === '-' || char === '*' || char === '/') {tokens.push({ type: 'operator', value: char });position++;continue;}throw new Error('未知字符: ' + char);}return tokens;}
调用示例:
立即学习
“
Java免费学习笔记(深入)
”;
const tokens = createLexer("2 + 3 * 4");// 输出: [// {type: "number", value: 2},// {type: "operator", value: "+"},// {type: "number", value: 3},// {type: "operator", value: "*"},// {type: "number", value: 4}// ]
语法分析:从 Token 构建抽象语法树(AST)
语法分析器(Parser)
的任务是根据语法规则,把 Token 流构造成一棵抽象语法树(AST)。为了正确处理运算符优先级(如乘除优先于加减),我们采用
递归下降解析法
,并分层处理表达式。
以下是一个支持加减乘除、正确处理优先级的 Parser 实现:
Eclipse导入Android或其他的JAVA项目的正确方法 WORD版
本文档主要讲述的是Eclipse导入Android或其他的JAVA项目的正确方法;希望本文档会给有需要的朋友带来帮助;感兴趣的朋友可以过来看看
下载
function createParser(tokens) {let current = 0;function walk() {let token = tokens[current];if (token.type === 'number') {current++;return {type: 'NumberLiteral',value: token.value};}// 使用递归下降处理表达式优先级return parseAdditive();}function parseAdditive() {let left = parseMultiplicative();while (current < tokens.length) {const op = tokens[current];if (op.type === 'operator' && (op.value === '+' || op.value === '-')) {current++;left = {type: 'BinaryExpression',operator: op.value,left,right: parseMultiplicative()};} else {break;}}return left;}function parseMultiplicative() {let left = walk(); // 简化:直接调用 walk 处理原子或嵌套while (current < tokens.length) {const op = tokens[current];if (op.type === 'operator' && (op.value === '*' || op.value === '/')) {current++;left = {type: 'BinaryExpression',operator: op.value,left,right: walk()};} else {break;}}return left;}const ast = {type: 'Program',body: walk()};return ast;}
使用示例:
const tokens = createLexer("2 + 3 * 4");const ast = createParser(tokens);console.log(JSON.stringify(ast, null, 2));
输出的 AST 结构会体现正确的优先级:
{"type": "Program","body": {"type": "BinaryExpression","operator": "+","left": { "type": "NumberLiteral", "value": 2 },"right": {"type": "BinaryExpression","operator": "*","left": { "type": "NumberLiteral", "value": 3 },"right": { "type": "NumberLiteral", "value": 4 }}}}
整合与扩展建议
现在你已经有了一个最简编译器前端:
Lexer 将字符串转为 Token 数组
Parser 根据语法构造 AST,正确处理优先级
可以进一步扩展功能:
支持括号:
,在 parser 中加入对 '(' 的处理
支持变量名和赋值语句,增加标识符 Token 类型
添加语法错误提示,比如不匹配的括号
使用工具生成更复杂的语法分析器,如
nearley.js
或
chevrotain
基本上就这些。不复杂但容易忽略细节,比如优先级处理和位置管理。
2 + 3 * 4(2 + 3) * 4