使用python将文本文件加载到数据库中

使用python将文本文件加载到数据库中,python,Python,我正在尝试将文本文件加载到数据库中。我的文本文件大约是1.6GB。我需要编写一个python脚本,将包含所有标题的文本文件加载到数据库中 有关于我如何做这件事的指导方针吗 谢谢使用python当然是可能的。如果您正在阅读mysql,您可能会签出。读取文本文件时,可以使用file=open('filename','r')和file.readline()获取每一行并对其进行解析 然而。。。使用python会增加额外的开销。如果文本文件是有序的(即,每行一个reacord,每行具有相同数量的列,并具有

我正在尝试将文本文件加载到数据库中。我的文本文件大约是1.6GB。我需要编写一个python脚本,将包含所有标题的文本文件加载到数据库中

有关于我如何做这件事的指导方针吗


谢谢

使用python当然是可能的。如果您正在阅读mysql,您可能会签出。读取文本文件时,可以使用file=open('filename','r')和file.readline()获取每一行并对其进行解析

然而。。。使用python会增加额外的开销。如果文本文件是有序的(即,每行一个reacord,每行具有相同数量的列,并具有一致的分隔符,如逗号、制表符、分号等),则最有效的方法是直接加载它。在mysql中,您可以这样做:

LOAD DATA INFILE '/folder/input.dat' INTO TABLE destination_table
FIELDS TERMINATED BY ',' (id,field_1,field_2,field_3);
This is my header of the article.;;And here is my article, it's a nice
story about programming.
My article goes on for many lines.
And many more.
<==============================================================================>
This is my second article header.;;And here is article 2. It is.
And is.
Etc.
<==============================================================================>
如果您需要对文件进行一些小的修改,例如更改逗号或行开头或结尾的内容,您可以使用命令行sed(如果您在*nix或osx上……如果您在windows上,则必须安装)

更新

加载数据填充将是最快的:

当你说“第一条的开头,一些文字2,一些文字3,一些文字MAINO”时,是1,2,3。还有美诺不同的领域?如果您有两个字段,如标题和文章,则可以将文本文档的格式设置为:

LOAD DATA INFILE '/folder/input.dat' INTO TABLE destination_table
FIELDS TERMINATED BY ',' (id,field_1,field_2,field_3);
This is my header of the article.;;And here is my article, it's a nice
story about programming.
My article goes on for many lines.
And many more.
<==============================================================================>
This is my second article header.;;And here is article 2. It is.
And is.
Etc.
<==============================================================================>
这是我的文章标题。;;这是我的文章,这是一篇好文章
关于编程的故事。
我的文章有很多行。
还有更多。
这是我的第二篇文章标题。;;这是第2条。它是。
是的。
等
然后,可以使用加载数据填充,如:

LOAD DATA INFILE '/folder/filename.txt' INTO TABLE destination_table
LINES TERMINATED BY '<==============================================================================>'
FIELDS TERMINATED BY ';;' (header,article);
将数据填充'/folder/filename.txt'加载到表目标\u表中
以“”结尾的行
以“;;”结尾的字段(标题、文章);

您需要提供更多信息;python当然能做到!发布文本文件的结构以及db希望数据采用的格式。我们需要更多信息。你有什么样的文本文件?CSV?什么样的数据库?MySQL。。。大家好,我使用的是MySQL数据库和一个普通文本文件.txt,大家好,我使用的是MySQL数据库和一个普通文本文件.txt,我的文本文件的格式如下,“第1条的开头。一些文本2。一些文本3。一些文本MAINO”这是文本文件格式的一个示例。它只是\n文章标题和要点形式的摘要。文章使用=====>