Parquet Azure Data Explorer接收速度慢/失败

Parquet Azure Data Explorer接收速度慢/失败,parquet,azure-data-explorer,data-ingestion,Parquet,Azure Data Explorer,Data Ingestion,我正在尝试将一些数据摄取到ADX中,但没有看到任何数据出现: 40个拼花文件(从1Mb到550Mb,总计8GB) 使用事件网格从blob存储 在具有自动缩放功能的D11 V2群集层上运行 摄入利用率在2天内保持在100%,然后降至0% 摄食潜伏期最长为24小时,然后下降 行数始终为0,数据库大小不会增加 操作日志显示了许多失败:“操作”:DataIngestPull,“管理命令执行在'2020-09-08T06:39:18.1115065Z'处超时”等 诊断日志还显示失败:FailedInst

我正在尝试将一些数据摄取到ADX中,但没有看到任何数据出现:

  • 40个拼花文件(从1Mb到550Mb,总计8GB)
  • 使用事件网格从blob存储
  • 在具有自动缩放功能的D11 V2群集层上运行
  • 摄入利用率在2天内保持在100%,然后降至0%
  • 摄食潜伏期最长为24小时,然后下降
  • 行数始终为0,数据库大小不会增加
  • 操作日志显示了许多失败:“操作”:DataIngestPull,“管理命令执行在'2020-09-08T06:39:18.1115065Z'处超时”等
  • 诊断日志还显示失败:FailedInstruction、Blob已超过“2.00:00:00”重试期或“10”次重试尝试、BadRequest\u消息已用尽
  • 当我接收到一个小文件时,它就会工作,数据就会显示出来
最糟糕的是,我不能取消摄入,但必须等待2天。有办法取消吗


我如何才能成功地接收这些数据?需要这么长时间吗?

由于每一次摄入的批次都太大,似乎摄入都超时了。解决此问题的最佳方法是将blob的原始数据大小(可以是近似大小)添加到blob元数据中,如前所述。或者,您可以尝试减少数据库/表批处理策略,如前所述(您可以从1GB减少到500MB开始,如果这还不够,可以进一步减少)