Awesome

AWS ML JP

AWS で機械学習をはじめる方法を学ぶことができるリポジトリです。

:books: リポジトリの構成

• ai-services
  • AWS の AI サービスの使い方を学ぶためのコンテンツ。
• sagemaker
  • 機械学習モデルの開発効率化やパイプライン化を検討している方が、 Amazon SageMaker をどう使えば実現できるか学ぶためのコンテンツ。
• frameworks
  • すでに TensorFlow や PyTorch で開発している方が、モデルを SageMaker 上で学習、推論させるための移行方法を学ぶためのコンテンツ。
  • aws-neuron AWSが設計した機械学習アクセラレーター AWS Trainium、AWS Inferentia を活用する方法を学ぶためのコンテンツ。
• tasks
  • 画像のセグメンテーションや物体検知、自然言語処理のQAや要約など、個別具体的なタスクを SageMaker でどのように解けるか学ぶためのコンテンツ。
• solutions
  • 製造業での異常検知モニタリングやコールセンターの問合せ分析など、特定の業務プロセスを効率化/差別化したい方が、 SageMaker と他のサービスを組み合わせどのようにソリューションを構築できるか学ぶためのコンテンツ。

:hamburger: AWSの機械学習サービス

AWS の機械学習サービスは AI Services 、 ML Services 、 ML Frameworks/Infrastructure の 3 層構成になっています。リポジトリの構成はサービスの構成を踏襲しています。

• AI Services
  • アプリケーション開発者の方がWeb API形式で簡単に機械学習機能を扱えるサービスです。代表的なサービスを以下に 2 つ紹介しますが、 20 を超える AI サービスを提供しています。
  • Amazon Personalize は推薦機能が実装できるサービス (BASE様の事例)
  • Amazon Rekognition は顔やブランドロゴの検出といった画像認識機能を実装できるサービス(千株式会社様の顔検索事例, TRUSTDOCK 社の本人確認事例)です。
• ML Servies
  • データサイエンティストの方が機械学習モデルを開発する時、前処理、計算資源の調達、学習結果の管理やモデルのデプロイなど面倒な作業を代行するとともにスケールしやすくするサービスです。
  • Amazon SageMaker は機械学習モデル開発を行うための統合開発環境で、 JupyterLab をベースにした環境からデータの前処理、学習、デプロイなどに必要なサービスを簡単に呼び出せます(三菱 UFJ 様の事例、 Denso 様の事例、 SyntheticGestalt(創薬)、)。
  • Amazon SageMaker Studio Lab は無料で利用できるエントリー版ですが、 GPU やストレージなど機械学習の学びから価値検証に十分なスペックを備えています。
  • Amazon SageMaker Canvas は機械学習の専門知識がない業務部門の方でも表計算ソフトの延長線の感覚で機械学習モデルの構築と予測が行えるサービスです。
• ML Frameworks/Infrastructure
  • データサイエンティストの方が機械学習モデルを開発する時、利用したい機械学習フレームワークやデバイスに合わせた環境をセットアップしやすくするサービスです。
  • AWS Deep Learning Containers は各種フレームワークごとに最適化されたコンテナイメージで学習・推論が高速化されます。
  • AWS Inferentia は推論 (MoneyForward 様の事例 )、 AWS Trainium は学習にそれぞれ特化したチップで、高スループットかつ高コスト効率な推論、学習を可能にします。

✏️ 学習の準備

本リポジトリのコンテンツは主に Jupyter Notebook で作成されています。コンテンツを動かすため、次の準備をしておいてください。セットアップの詳細は、コンテンツ本体の記載も参照してください。

• AWS アカウントの作成
• SageMaker Studio Domainの作成
• S3 bucketの作成
• IAM ユーザー、ロールの作成
  • 必要に応じ、コンテンツで動かすサービスにとって適切なユーザー、ロールを作成します。

🎥 学習コンテンツ

AI Service

• Amazon Forecast
  • Amazon Forecast による電気使用量の予測
• Amazon Personalize
  • Amazon Personalize による映画の推薦

Amazon SageMaker

AI/ML の BlackBelt シリーズである AI/ML DarkPart で SageMaker の使い方を解説しています！ そもそも機械学習のプロジェクトはどうやって始めればいいのかに疑問をお持ちの方は、 AI/ML LightPart の動画や ML Enablement Workshop の資料をご参考ください。

No	Process	Title	Content	Video
1	Train	Amazon SageMaker Training で機械学習のモデル開発を楽にする	-
2	Train	Amazon SageMaker Training ハンズオン編
3	Train	Amazon SageMaker による実験管理
4	Deploy	Amazon SageMaker 推論 Part1 推論の頻出課題とSageMakerによる解決方法	-
5	Deploy	Amazon SageMaker 推論 Part2すぐにプロダクション利用できる！モデルをデプロイして推論する方法
6	Deploy	Amazon SageMaker 推論 Part3（前編）もう悩まない！機械学習モデルのデプロイパターンと戦略	-
7	Deploy	Amazon SageMaker 推論 Part3（後編）もう悩まない！機械学習モデルのデプロイパターンと戦略	-
8	Monitor	Amazon SageMaker モニタリング Part1	-
9	Monitor	Amazon SageMaker モニタリング Part2
10	Monitor	Amazon SageMaker モニタリング Part3

Amazon SageMakerの概要 では Amazon SageMaker の全体像と動画で解説しているコードも含めたコンテンツの詳細を確認できます。

📝 実践コンテンツ

AWS で機械学習を実践する時の参考となるサンプルコードなどを紹介します。

※本サンプルコードは MIT-0 で公開していますが、サンプルコードで使用されるモデルやデータセットはそれぞれライセンスが付与されています。サンプルコードを参考に独自の実装をする場合、用途がモデルやデータセットのライセンスに違反しないか別途確認してください。

Amazon SageMaker

Amazon SageMaker で機械学習の構築、学習、デプロイをスケールする。

📯 MLOps

• Amazon SageMaker Neo で学習したモデルをコンパイルし、 AWS IoT Greengrass V2 でエッジにデプロイする
• Amazon SageMaker Pipelines で離反予測を題材にモデルの学習・評価・更新プロセスを構築する
• Amazon SageMaker Processing と AWS Step Functions でモデルの学習・評価・更新プロセスを構築する
• Amazon SageMaker Processing と AWS Step Functions でモデルの学習・評価・更新プロセスを構築する (Studio 版 )

🚚 ML Frameworks

機械学習フレームワークの実装を SageMaker へ移行する。

• PyTorch
  • 学習済みモデルの推論
• TensorFlow
  • モデルの学習
  • 学習済みモデルの推論

Tasks

AWS で画像処理や自然言語処理などの機械学習のタスクを解く方法を解説します。

👁 画像処理

• 物体検知
  • Detectron2 を用いた物体検知
• 画像分類
  • SageMaker のビルトインアルゴリズム (Image Classification) を用いた肺 CT 画像からの COVID-19 診断
• OCR
  • PaddleOCR を用いた文字読み取り

💬 自然言語処理

• テキスト分類
  • SageMaker のビルトインアルゴリズム (BlazingText) を用いた商品レビューセットの感情分析
  • Gluon NLP で BERT を用いた感情分析

🔈 音声処理

• 自動発話認識
  • Wav2Vec / Whisper を用いた自動発話認識

📄 テーブルデータ

• 回帰
  • AutoGluon を用いたダイレクトマーケティングの成功可否予測
  • XGBoost による顧客の解約率予測
• 分類
  • 細胞診 (FNA) 結果からの乳がん診断

🤖 生成系 AI

text-to-image

text-to-text

Solutions

SageMaker と他のサービスを組み合わせ、業務プロセスの効率化や差別化を行うためのソリューションを格納/紹介します。

• JP RAG SOLUTION
  • カスタマーサポートなどで生成系 AI を利用する場合、自然な応答による顧客体験の改善が期待できるものの、誤った発言 ( ハルシネーション ) が発生する恐れがあります。生成元のドキュメントを指定することで誤った発言を抑止することができ、検索エンジンから生成系 AI にドキュメントを与え生成する仕組みを RAG と呼びます。本ソリューションでは、検索エンジンとして Amazon Kendra 、生成系 AI として Anthropic Claude / rinna/japanese-gpt-neox-3.6b-instruction-ppo を用いて RAG を実現します。
  • 参考記事: 高精度な生成系 AI アプリケーションを Amazon Kendra、LangChain、大規模言語モデルを使って作る
• コールセンターのリアルタイム会話分析
  • コールセンターで会話の文字起こし、翻訳、感情分析、会話内容の要約、オペレーターへのアドバイスをリアルタイムで行うソリューションです。文字起こしは Amazon Transcribe 、翻訳は Amazon Translate 、 感情分析は Amazon Comprehend 、 要約は Amazon SageMaker 、 アドバイスは Amazon Lex と Amazon Kendra で実装しています。
• Simple Lex Kendra JP
  • 情報システム部門のヘルプデスクへの問い合わせ件数を削減するため、問い合わせを受け付けるチャットボットを設置するソリューションです。社内文書の検索を行う Amazon Kendra と問い合わせを受け付けるチャットボットの Amazon Lex v2 を組み合わせて実装しています。 AWS CDK で構成されているため、シンプルにデプロイ可能です。
  • SBI 生命様のコールセンターでの導入事例
• レビューコメント分析ダッシュボード
  • 自然言語処理でレビューを分析した結果を Amazon Quicksight でダッシュボードとして表示するソリューションです。オープンソースの形態素解析ツールである GiNZA を用いて時系列のレビュー数に加え頻出単語・係り受け関係を参照できます。ブログ記事では、評価の低い DVD に対し 「まだ」「届く」の発生が多いことから発送遅延が原因ではないかといった分析例を示しています。

Contribution

本リポジトリへの Contribution を歓迎します！ Contribution の方法は CONTRIBUTING をご参照ください。

License

This library is licensed under the MIT-0 License. See the LICENSE file.