Amazon ec2 Kinesis代理不向流发送记录

Amazon ec2 Kinesis代理不向流发送记录,amazon-ec2,amazon-kinesis,amazon-kinesis-firehose,amazon-kinesis-kpl,amazon-kinesis-agent,Amazon Ec2,Amazon Kinesis,Amazon Kinesis Firehose,Amazon Kinesis Kpl,Amazon Kinesis Agent,我已经构建了一个Kinesis Firehose流来将数据推送到红移中,并且正在尝试使用Kinesis代理从EC2实例推送数据 Firehose Stream能够解析记录,但无法识别Firehose streams。我收到以下java错误 com.amazon.kinesis.streaming.agent.tailing.AsyncPublisher [ERROR] AsyncPublisher[kinesis:csvtoredshiftstream:/tmp/redshift.log*]:

我已经构建了一个Kinesis Firehose流来将数据推送到红移中,并且正在尝试使用Kinesis代理从EC2实例推送数据

Firehose Stream能够解析记录,但无法识别Firehose streams。我收到以下java错误

com.amazon.kinesis.streaming.agent.tailing.AsyncPublisher 
[ERROR] AsyncPublisher[kinesis:csvtoredshiftstream:/tmp/redshift.log*]:RecordBuffer
(id=2,records=2,bytes=45) Retriable send error (com.amazonaws.services.kinesis.model.ResourceNotFoundException: 
Stream csvtoredshiftstream under account xyz not found. 
(Service: AmazonKinesis; Status Code: 400; 
Error Code: ResourceNotFoundException; 
Request ID: f4a63623-9a15-b2f8-a597-13b478c81bbc)). Will retry.

Request your pointers to identify and resolve the issue.
问候,, Srivignesh KN

谢谢你@peter

  • 通过使用以下方式为firehose事件指定agent.json中的输入,我能够克服这个错误。 {“cloudwatch.emitMetrics”:true,“kinesis.endpoint”:“,”firehose.endpoint”:“firehose.us-west-2.amazonaws.com”,“flows”:[{“filePattern”:“/tmp/s3streaming.”,“deliveryStream”:“S3TestingStream”,“partitionkeypoption”:“RANDOM”;“{“filePattern”:/tmp/app.log”,“deliveryStream”:“yourdiverystream”}–

  • 此外,为了使Kinesis流按预期工作,还需要在与流相同的区域中创建S3 bucket

  • 如果流是在西2区域创建的,则S3桶也应在同一区域创建

    谢谢和问候,
    Srivignesh KN

    您的错误是在消防水带流上还是在红移上?似乎您在发布事件之前没有创建流
    csvtoredshiftstream
    。我没有使用消防水带,我猜kinesis代理会将事件收集到消防水带流中,但问题是该流不存在。如果是这样,请尝试创建流,首先发布一个
    CreateStreamRequest CreateStreamRequest=new CreateStreamRequest()。使用streamName(“csvtoredshiftstream”)
    。谢谢@peter,我能够通过以下方式为firehose事件指定agent.json中的输入来克服此错误。{“cloudwatch.emitMetrics”:true,“kinesis.endpoint”:““firehouse.endpoint”:“firehouse.us-west-2.amazonaws.com”,“flows”:[{“filePattern”:“/tmp/s3streaming.*”,“deliveryStream”:“S3TestingStream”,“partitionkeypoption”:“RANDOM”},{“filePattern”:/tmp/app.log*,“deliveryStream”:“yourdeliverystream”}]}