Parsing 语法分析器中必须有标记器吗?

Parsing 语法分析器中必须有标记器吗?,parsing,compilation,Parsing,Compilation,标记器、lexer和解析器通常作为3个标准部分组合在一起 可以在没有标记器的情况下创建解析器,并且可以直接从输入构建AST吗?标记化带来了哪些好处和缺点? 当然,您可以跳过标记器,但是回溯和前瞻变得更加复杂,因为您需要逐个字符重新扫描所有内容。这使得您的解析器更难维护和修改,也只是稍微慢了一点

标记器、lexer和解析器通常作为3个标准部分组合在一起

可以在没有标记器的情况下创建解析器,并且可以直接从输入构建AST吗?标记化带来了哪些好处和缺点?
当然,您可以跳过标记器,但是回溯和前瞻变得更加复杂,因为您需要逐个字符重新扫描所有内容。这使得您的解析器更难维护和修改,也只是稍微慢了一点