Kinesis, Step Functions

リアルタイムデータ処理とワークフロー管理を学びます。

Amazon Kinesis

Kinesisはリアルタイムストリーミングデータを処理するサービス群です。Kinesis Data Streams(カスタムデータ処理)、Kinesis Data Firehose(配信先への自動ロード)、Kinesis Data Analytics(SQLによるリアルタイム分析)があります。

Kinesis Data Streams vs Firehose

Data Streams: シャード単位で容量を管理、データ保持期間1〜365日、コンシューマーアプリを自分で構築。Firehose: 完全マネージド、S3/Redshift/OpenSearchに直接配信、ニアリアルタイム(60秒バッファ)。リアルタイム性が必要ならData Streams、自動配信ならFirehose。

AWS Step Functions

Step Functionsはサーバーレスワークフローオーケストレーションサービスです。ステートマシンでLambda関数やAWSサービスの実行順序を視覚的に定義できます。Standard(長時間実行、最大1年)とExpress(短時間、高スループット)の2タイプがあります。

ユースケース

Kinesis: IoTデバイスデータ、ログ集約、クリックストリーム分析。Step Functions: 注文処理フロー、ETLパイプライン、機械学習パイプライン。並列処理、エラーハンドリング、リトライを宣言的に定義できます。

重要ポイント

  • Kinesis Data Streamsはリアルタイム処理
  • Firehoseは自動的に配信先にデータをロード
  • Step Functionsでワークフローを視覚的に定義
  • Standard Workflowは最大1年実行可能
  • Express Workflowは高スループットに最適

このトピックの学習を完了しますか?

完了状態はいつでも切り替えられます