Amazon web services 如何在serverless中使用lambda函数处理Aws动画流处理

Amazon web services 如何在serverless中使用lambda函数处理Aws动画流处理,amazon-web-services,Amazon Web Services,我们正在将大量数据流发布到aws kinesis流中,其中包含来自不同来源的6个碎片,然后使用单个aws lamda订阅kinesis流来处理记录 在实时中,我们看到了巨大的滞后时间,大量数据等待处理 我们如何在无服务器架构中处理这种情况 是否可以在aws lamda中订阅特定碎片,或创建多个aws lamda以订阅相同的运动流?Amazon CloudWatch指标是否表明Lambda函数的并发执行次数较高?如果它们达到1000个并发函数的默认限制,您可以请求增加限制。另一方面,如果是一个较低

我们正在将大量数据流发布到
aws kinesis
流中,其中包含来自不同来源的6个碎片,然后使用单个
aws lamda
订阅kinesis流来处理记录

在实时中,我们看到了巨大的滞后时间,大量数据等待处理

我们如何在无服务器架构中处理这种情况


是否可以在
aws lamda
中订阅特定碎片,或创建多个aws lamda以订阅相同的运动流?

Amazon CloudWatch指标是否表明Lambda函数的并发执行次数较高?如果它们达到1000个并发函数的默认限制,您可以请求增加限制。另一方面,如果是一个较低的数字,则可能表示每个碎片的数据正在按顺序处理,并且数据输入速度过快,Lambda函数无法按顺序处理。如果Lambda处理一批记录(1000条记录)需要10秒,则Lambda的处理时间是一个重要因素,但每10秒就有2000条鲨鱼的记录,很明显,预计会有延迟时间。更昂贵的方法是简单地增加碎片的数量,这允许更多的并发Lambda调用(默认情况下每个碎片1次调用)或者您可以使用批大小和批处理窗口设置,看看它是否有助于减少处理时间。另一个需要考虑的新功能:并行化因子,它允许lambda调用每个碎片超过1次执行