Sql 如何将多个CSV文件加载到多个表中

Sql 如何将多个CSV文件加载到多个表中,sql,sql-server,ssis,business-intelligence,Sql,Sql Server,Ssis,Business Intelligence,我的文件夹中有多个CSV文件 例如: Member.CSv Leader.CSv 我需要将它们加载到数据库表中 我使用ForEachLoop容器、dataflowtask、Excel源和OLEDB目的地进行了工作 如果使用表达式和优先级约束,我们可以做,但是如果我有10个以上的文件,我如何使用脚本任务..我被这一个卡住了我们有一个类似的问题,我们的解决方案是上述建议的混合体 我们每天都从客户处发送大量文件类型 它们具有特定的文件名模式(例如SalesTransaction20160218.c

我的文件夹中有多个CSV文件

例如:

Member.CSv
Leader.CSv
我需要将它们加载到数据库表中

我使用ForEachLoop容器、dataflowtask、Excel源和OLEDB目的地进行了工作


如果使用表达式和优先级约束,我们可以做,但是如果我有10个以上的文件,我如何使用脚本任务..我被这一个卡住了

我们有一个类似的问题,我们的解决方案是上述建议的混合体

  • 我们每天都从客户处发送大量文件类型
  • 它们具有特定的文件名模式(例如SalesTransaction20160218.csv、Product20160218.csv)
  • 这些文件类型中的每一种都有一个所需结构的暂存“landing”表
  • 然后我们有一个.net脚本任务,它接受文件名模式并将数据加载到登录表中
  • 在csv解析器中还进行了各种检查——匹配列数,一些基本数据验证,然后再加载到登录表中
我们的.net程序员不够优秀,无法动态解析未知的文件结构,创建SQL表,然后将数据加载到。毕竟,我希望这是可行的,SSIS导入/导出向导就是这样做的(需要一些手动干预)


作为另一种选择(这个过程非常微妙),我们正在试验一个HDFS数据登陆区,然后它允许我们使用像R这样的分析工具来解析HDFS中的数据。然后使用PIG将数据加载到SQL中

我们有一个类似的问题,我们的解决方案是上述建议的混合体

  • 我们每天都从客户处发送大量文件类型
  • 它们具有特定的文件名模式(例如SalesTransaction20160218.csv、Product20160218.csv)
  • 这些文件类型中的每一种都有一个所需结构的暂存“landing”表
  • 然后我们有一个.net脚本任务,它接受文件名模式并将数据加载到登录表中
  • 在csv解析器中还进行了各种检查——匹配列数,一些基本数据验证,然后再加载到登录表中
我们的.net程序员不够优秀,无法动态解析未知的文件结构,创建SQL表,然后将数据加载到。毕竟,我希望这是可行的,SSIS导入/导出向导就是这样做的(需要一些手动干预)


作为另一种选择(这个过程非常微妙),我们正在试验一个HDFS数据登陆区,然后它允许我们使用像R这样的分析工具来解析HDFS中的数据。然后使用PIG将数据加载到SQL中

到目前为止,你没有脚本也能做到?每个CSV(和表)是否有不同的列?您可能想了解BIML,它会自动为您生成包。是的,我没有使用脚本任务,但如果文件不断增加,则上述过程将变得困难。这就是我要求使用脚本的原因。您无法动态生成元数据(即源列和目标的定义等)。听起来你肯定需要调查BIML,特别是如果你只是导入这些文件,而不是做任何太花哨的事情。是的,我只是只导入文件,但脚本任务中有选项吗,因为我找到了这个链接@Nick.McDermaidHi@mohan111,在该链接中,它清楚地提到,首先创建表,然后使用脚本任务加载数据。若您首先创建表,那个么您就可以按照这个过程进行操作。您的确切问题是什么
我可以通过读取文件元数据来使用脚本任务创建表,然后将数据加载到该表中吗?
到目前为止,您已经成功地在没有脚本的情况下创建了表?每个CSV(和表)是否有不同的列?您可能想了解BIML,它会自动为您生成包。是的,我没有使用脚本任务,但如果文件不断增加,则上述过程将变得困难。这就是我要求使用脚本的原因。您无法动态生成元数据(即源列和目标的定义等)。听起来你肯定需要调查BIML,特别是如果你只是导入这些文件,而不是做任何太花哨的事情。是的,我只是只导入文件,但脚本任务中有选项吗,因为我找到了这个链接@Nick.McDermaidHi@mohan111,在该链接中,它清楚地提到,首先创建表,然后使用脚本任务加载数据。若您首先创建表,那个么您就可以按照这个过程进行操作。您的确切问题是什么
我可以通过读取文件元数据使用脚本任务创建表,然后将数据加载到该表中吗?