Delphi ADO查询导致mdb数据库超过2GB限制
我使用下面的Delphi代码将Access数据库中的表替换为utf=8格式的大csv文件。在我开始之前,DB是946MB。一切正常,直到我的表达到一定的大小,然后我得到一个错误。发生这种情况时,数据库已超过2GB。我猜可能是喷气式飞机引擎正在创建一个内部副本,这是造成超限的原因-有没有办法阻止这一点,或者可能有人可以建议一种不同的方法导入我的数据,以避免它Delphi ADO查询导致mdb数据库超过2GB限制,delphi,ms-access,jet,Delphi,Ms Access,Jet,我使用下面的Delphi代码将Access数据库中的表替换为utf=8格式的大csv文件。在我开始之前,DB是946MB。一切正常,直到我的表达到一定的大小,然后我得到一个错误。发生这种情况时,数据库已超过2GB。我猜可能是喷气式飞机引擎正在创建一个内部副本,这是造成超限的原因-有没有办法阻止这一点,或者可能有人可以建议一种不同的方法导入我的数据,以避免它 function TCSVDatabase.ADOFromCSV(ConStr: string): Boolean; var J, K:
function TCSVDatabase.ADOFromCSV(ConStr: string): Boolean;
var
J, K: Integer;
S: string;
SN, DN: string;
DefDir: string;
DestDir: string;
TN: TStringList;
begin
BeginUpdate;
Result := False;
DoProgress(0, 'Initializing...');
DN := ADOSetConnectionString(ConStr);
if FileExists(DN) then
begin
DestDir := ExtractFilePath(DN);
TN := TStringList.Create;
Result := True;
try
DefDir := FDefaultPath;
FDefaultPath := DestDir;
TN.Assign(ADOGetTableNames);
for K := 0 to TN.Count - 1 do
begin
SN := DestDir + TN[K] + '.csv';
if FileExists(SN) then
begin
DoProgress(0, 'Opening "' + TN[K] + '"...');
FADOTable.Close;
while FADOTable.Active do;
FADOTable.Connection := FADOConnection;
FADOTable.TableName := TN[K];
FADOTable.Open;
if FADOTable.Active then
begin
Result := True;
ADOGetFieldNames;
FADOQuery.Connection := FADOConnection;
FADOQuery.Recordset := FADOTable.Recordset;
FADOQuery.Open;
DoProgress(0, 'Emptying "' + TN[K] + '"...');
FADOQuery.SQL.Text := 'DELETE * FROM [' + TN[K] + ']';
FADOQuery.ExecSQL;
S := ExtractFilePath(SN);
SetLength(S, Length(S) - 1);
try
DoProgress(0, 'Filling "' + TN[K] + '"...');
FADOQuery.SQL.Text := 'INSERT INTO [' + TN[K] +
'] SELECT * FROM [' + ExtractFileName(SN) + '] IN "' + S +
'" "Text;HDR=YES;FMT=Delimited(,);CharacterSet=65001;"';
FADOQuery.ExecSQL;
except
FADOQuery.Connection := nil;
FADOQuery.Close;
DoProgress(0, 'SQL error in "' + TN[K] + '"');
{$IFDEF VCL}
ShowMessage('SQL error in "' + TN[K]);
{$ENDIF}
Result := False;
Exit;
end;
FADOQuery.Connection := nil;
FADOQuery.Close;
for J := 0 to FTemp.Count - 1 do
begin
if (FTemp.Codes[J] in [FT_MEMO, FT_WIDEMEMO]) then
begin
FADOTable.First;
while (not FADOTable.EOF) do
begin
S := FADOTable.Fields[J].AsString;
if (Pos('_\', S) <> 0) then
begin
S := StringReplace(S, '_\r\n_', #13#10, [rfReplaceAll]);
S := StringReplace(S, '_\r_', #13, [rfReplaceAll]);
S := StringReplace(S, '_\n_', #10, [rfReplaceAll]);
FADOTable.Edit;
FADOTable.Fields[J].AsString := S;
FADOTable.Post;
end;
FADOTable.Next;
end;
end;
end;
end;
end;
DoProgress(0, '');
end;
finally
FADOTable.Close;
if Result then
begin
DoProgress(0, 'Compacting...');
CompactDatabase(DN, FADOConnection);
end;
FDefaultPath := DefDir;
TN.Free;
end;
end;
DoProgress(0, '');
EndUpdate;
end;
您需要拆分数据库。从 Access数据库.accdb文件大小 2 GB,减去系统对象所需的空间 注意:尽管单个数据库文件的最大大小为2GB, 您可以通过使用拆分数据库来解决此限制。A. 前端数据库文件可以指向数千个后端数据库 文件,每个文件的大小可以达到2GB。欲了解更多信息, 请参阅主题“拆分Access数据库”
你也应该考虑转到Oracle、SQL Server、FieldBy,你称之为
< P>的另一个关系型数据库管理系统RDMS。我的解决方案是清除表并在两个单独的通道中重新填充它们,其中一个紧凑的数据库。谢谢大家的建议,我希望我的解决方案能帮助其他人:- PS谢谢Sam我刚在测试了我的修复后看到了你的答案,基本上就是你建议的function TCSVDatabase.ADOFromCSV(ConStr: string): Boolean;
var
Err: Cardinal;
J, K: Integer;
S: string;
SN, DN: string;
DefDir: string;
DestDir: string;
TN: TStringList;
begin
BeginUpdate;
Result := False;
DoProgress(0, 'Initializing...');
DN := ADOSetConnectionString(ConStr);
if FileExists(DN) then
begin
DestDir := ExtractFilePath(DN);
TN := TStringList.Create;
Result := True;
try
DefDir := FDefaultPath;
FDefaultPath := DestDir;
TN.Assign(ADOGetTableNames);
for K := 0 to TN.Count - 1 do
begin
SN := DestDir + TN[K] + '.csv';
if FileExists(SN) then
begin
DoProgress(0, 'Emptying "' + TN[K] + '"...');
FADOTable.Close;
while FADOTable.Active do;
FADOTable.Connection := FADOConnection;
FADOTable.TableName := TN[K];
FADOTable.Open;
if FADOTable.Active then
begin
Result := True;
ADOGetFieldNames;
FADOQuery.Connection := FADOConnection;
FADOQuery.Recordset := FADOTable.Recordset;
FADOQuery.Open;
FADOQuery.SQL.Text := 'DELETE * FROM [' + TN[K] + ']';
FADOQuery.ExecSQL;
end;
end;
DoProgress(0, '');
end;
DoProgress(0, 'Compacting...');
CompactDatabase(DN, FADOConnection);
DN := ADOSetConnectionString(ConStr);
for K := 0 to TN.Count - 1 do
begin
SN := DestDir + TN[K] + '.csv';
if FileExists(SN) then
begin
DoProgress(0, 'Opening "' + TN[K] + '"...');
FADOTable.Close;
while FADOTable.Active do;
FADOTable.Connection := FADOConnection;
FADOTable.TableName := TN[K];
FADOTable.Open;
if FADOTable.Active then
begin
Result := True;
ADOGetFieldNames;
FADOQuery.Connection := FADOConnection;
FADOQuery.Recordset := FADOTable.Recordset;
FADOQuery.Open;
S := ExtractFilePath(SN);
SetLength(S, Length(S) - 1);
try
DoProgress(0, 'Filling "' + TN[K] + '"...');
FADOQuery.SQL.Text := 'INSERT INTO [' + TN[K] +
'] SELECT * FROM [' + ExtractFileName(SN) + '] IN "' + S +
'" "Text;HDR=YES;FMT=Delimited(,);CharacterSet=65001;"';
FADOQuery.ExecSQL;
except
FADOQuery.Connection := nil;
FADOQuery.Close;
DoProgress(0, 'Error in "' + TN[K] + '"');
ShowMessage('Error in "' + TN[K] + '"' );
Result := False;
Exit;
end;
FADOQuery.Connection := nil;
FADOQuery.Close;
for J := 0 to FTemp.Count - 1 do
begin
if (FTemp.Codes[J] in [FT_MEMO, FT_WIDEMEMO]) then
begin
FADOTable.First;
while (not FADOTable.EOF) do
begin
S := FADOTable.Fields[J].AsString;
if (Pos('_\', S) <> 0) then
begin
S := StringReplace(S, '_\r\n_', #13#10, [rfReplaceAll]);
S := StringReplace(S, '_\r_', #13, [rfReplaceAll]);
S := StringReplace(S, '_\n_', #10, [rfReplaceAll]);
FADOTable.Edit;
FADOTable.Fields[J].AsString := S;
FADOTable.Post;
end;
FADOTable.Next;
end;
end;
end;
end;
end;
DoProgress(0, '');
end;
finally
FADOTable.Close;
if Result then
begin
DoProgress(0, 'Compacting...');
CompactDatabase(DN, FADOConnection);
end;
FDefaultPath := DefDir;
TN.Free;
end;
end;
DoProgress(0, '');
EndUpdate;
end;
什么版本的Access?切换到另一个数据库,您已经接近极限。另一种选择是使用ZeosLib查看SQLite。您的问题没有说明您从CSV文件中读取的数据量。只有当CSV文件的总大小加上原始的946MB远小于2GB时,您才可以猜测内部拷贝的大小。否则,您只会遇到其他人已经响应的2GB限制。请添加相关信息,以便我们能够区分我们正在处理的两种情况中的哪一种。正确,Jan-我正在尝试添加大约40MB,因此当出现错误时,它实际上是2GB限制的一半。请在delete语句之后查看数据库压缩。如果要截断整个表,可以通过先压缩来释放mdb文件中的空间。数据库为946MB,我尝试添加的数据约为40MB。所以它的总容量几乎完全是1GB,这就是为什么我在运行我的查询时猜测某些东西的大小会临时增加一倍。数据库是一个大型组织的财产,我不能更改格式。@rshotbolt:所以你是说我不在乎你写的是什么,只要是我想听的。不要给我事实或文件。多么荒谬的评论,当然我对所有的建议都感兴趣。该数据库是英国物种目录UKSI,为自然历史博物馆物种搜索和国家生物多样性网络在线记录应用程序(如iRecord)提供动力,我正在与他们的数据库管理员合作,尝试解决此问题。更改为新数据库不是一个选项。