在c#中使用Antlr4解析大型文件时,如何解决OutOfMemoryException?

在c#中使用Antlr4解析大型文件时,如何解决OutOfMemoryException?,c#,parsing,antlr4,large-files,C#,Parsing,Antlr4,Large Files,我正试图用c#解析一个带有Antlr4的大文件(大约500MB)。但我有一个OutOfMemory例外 我的当前代码如下所述: var path = GetInput(Path.Combine(DatFilePath)); // Build the large file var inputStream = new StreamReader(path); var input = new UnbufferedCharStream(inputStream); GroupGrammarLexer lex

我正试图用c#解析一个带有Antlr4的大文件(大约500MB)。但我有一个OutOfMemory例外

我的当前代码如下所述:

var path = GetInput(Path.Combine(DatFilePath)); // Build the large file
var inputStream = new StreamReader(path);
var input = new UnbufferedCharStream(inputStream);
GroupGrammarLexer lexer = new GroupGrammarLexer(input);
lexer.TokenFactory = new CommonTokenFactory(true);
var tokens = new UnbufferedTokenStream(lexer);
GroupGrammarParser parser = new GroupGrammarParser(tokens);
parser.BuildParseTree = false;
GroupGrammarParser.FileContext tree = parser.file(); // here I get OutOfMemoryException
我的语法:

语法组语法

/*
 * Parser Rules
 */

 file: row+;
 row: group | comment | not;
 group: GROUP NAME ATTACHTO NAME; 
 comment: '**' .*? NL;
 not: .*? NL;


GROUP   : '*'? G R O U P ;
ATTACHTO : '*'? A T T A C H T O ;
W : ('W'|'w') ;
E : ('E'|'e') ;
L : ('L'|'l') ;
G : ('G'|'g') ;
R : ('R'|'r') ;
O : ('O'|'o') ;
U : ('U'|'u') ;
P : ('P'|'p') ;
A : ('A'|'a') ;
T : ('T'|'t') ;
C : ('C'|'c') ;
H : ('H'|'h') ;
NAME    : '\''[a-zA-Z0-9_]+'\'' ;
WS: (' ') -> skip;
NL:   '\r'? '\n';
我已经放弃了所有关于大文件的建议,但我仍然得到了OutOfMemoryException。当我用一个较小的文件测试这段代码时,效果非常好

有什么我遗漏的吗

谢谢你的帮助


致以最诚挚的问候

尝试在堆栈大小增加的线程中运行标记化和解析:

Thread thread = new Thread(delegate ()
{
    // Tokenize and parse here
},
500000);
thread.Start();

有可能把大文件分成小文件吗?并将每个较小的文件作为单独的文件解析到它自己的树中。希望这不会影响您的业务逻辑。