Azure sql database 从数据湖读取元数据CSV,对于查找活动来说太大

Azure sql database 从数据湖读取元数据CSV,对于查找活动来说太大,azure-sql-database,azure-data-factory,Azure Sql Database,Azure Data Factory,我需要创建一个管道来从文件夹读取CSV,从第8行加载到Azure SQL表中,前5行将进入另一个表([tblMetadata]) 到目前为止,我已经使用查找活动完成了这项工作,工作正常,但其中一个文件大于6MB,因此失败 我选中了查找中的所有选项,阅读了有关复制活动的所有内容(我正在使用它加载主数据-跳过7行)。管道是使用GUI创建的 查找的输出用作存储过程的参数,以插入tblMetadata 有人能告诉我如何处理这件事吗?目前我正在接受培训,没有人可以在现场帮助我。您可能可以通过一个包含两个转

我需要创建一个管道来从文件夹读取CSV,从第8行加载到Azure SQL表中,前5行将进入另一个表([tblMetadata])

到目前为止,我已经使用查找活动完成了这项工作,工作正常,但其中一个文件大于6MB,因此失败

我选中了查找中的所有选项,阅读了有关复制活动的所有内容(我正在使用它加载主数据-跳过7行)。管道是使用GUI创建的

查找的输出用作存储过程的参数,以插入tblMetadata


有人能告诉我如何处理这件事吗?目前我正在接受培训,没有人可以在现场帮助我。

您可能可以通过一个包含两个转换的数据流活动来实现这一点


您可以使用一个源转换,使用文件夹路径和通配符从文件夹读取,然后添加一个条件拆分转换,将不同的行发送到不同的接收器。

我以不同的方式解决了问题,修改了导入的CSV,使整个元数据位于第一行(因为这是我不同项目的一部分)。然后仅在查找中使用第一行。

查找活动有限制:查找活动可以返回的最大行数为5000行,最大为2MB。您有多少个csv文件,文件大小是多少?csv数字将是动态的,预计超过5MB,因为已经有一个。Hi@Baczek,您可以接受(标记)它作为答案(单击答案旁边的复选标记,将其从灰色切换为填充)。这可能对其他社区成员有益。非常感谢。