Parquet Azure Data Explorer接收速度慢/失败
我正在尝试将一些数据摄取到ADX中,但没有看到任何数据出现:Parquet Azure Data Explorer接收速度慢/失败,parquet,azure-data-explorer,data-ingestion,Parquet,Azure Data Explorer,Data Ingestion,我正在尝试将一些数据摄取到ADX中,但没有看到任何数据出现: 40个拼花文件(从1Mb到550Mb,总计8GB) 使用事件网格从blob存储 在具有自动缩放功能的D11 V2群集层上运行 摄入利用率在2天内保持在100%,然后降至0% 摄食潜伏期最长为24小时,然后下降 行数始终为0,数据库大小不会增加 操作日志显示了许多失败:“操作”:DataIngestPull,“管理命令执行在'2020-09-08T06:39:18.1115065Z'处超时”等 诊断日志还显示失败:FailedInst
- 40个拼花文件(从1Mb到550Mb,总计8GB)
- 使用事件网格从blob存储
- 在具有自动缩放功能的D11 V2群集层上运行
- 摄入利用率在2天内保持在100%,然后降至0%
- 摄食潜伏期最长为24小时,然后下降
- 行数始终为0,数据库大小不会增加
- 操作日志显示了许多失败:“操作”:DataIngestPull,“管理命令执行在'2020-09-08T06:39:18.1115065Z'处超时”等
- 诊断日志还显示失败:FailedInstruction、Blob已超过“2.00:00:00”重试期或“10”次重试尝试、BadRequest\u消息已用尽
- 当我接收到一个小文件时,它就会工作,数据就会显示出来
我如何才能成功地接收这些数据?需要这么长时间吗?由于每一次摄入的批次都太大,似乎摄入都超时了。解决此问题的最佳方法是将blob的原始数据大小(可以是近似大小)添加到blob元数据中,如前所述。或者,您可以尝试减少数据库/表批处理策略,如前所述(您可以从1GB减少到500MB开始,如果这还不够,可以进一步减少)