Alibaba Cloud Serverless Kubernetes上でのElastic Stable Diffusionの展開

この記事では、Alibaba CloudのServerless Kubernetes (ASK)とKnativeを使用して、エンタープライズクラスのElastic Stable Diffusionサービスを展開する方法を探ります。画像生成のための強力なAIモデルであるStable Diffusionは、サーバーレスアーキテクチャの弾力性と組み合わせることで、ビジネスにとってスケーラブルで効率的なソリューションを提供します。ASKとKnativeを活用することで、需要に応じて自動的にスケールする、高度に応答性がありコスト効果の高いAI画像生成サービスを作成できます。

環境を設定するためには、いくつかの重要なステップを完了する必要があります: 1. MSE Cloud-Native Gatewayの作成: これは、Microservices Engine (MSE)コンソールにログインし、MSEクラウドネイティブゲートウェイを有効にすることを含みます。 2. ECIへのMSEのアクセスを許可: このステップでは、MSEがElastic Container Instance (ECI)と相互作用できることを確認します。 3. ASK Proクラスターの作成: ACKコンソールを使用して、サーバーレスKubernetesクラスターを作成し、機能を強化するためにプロフェッショナルエディションを選択します。主要な設定には、クラスター名、リージョン（推奨: 中国香港）、およびKnativeの有効化が含まれます。 これらの準備ステップは、Elastic Stable Diffusionサービスの基盤を築き、必要なインフラストラクチャと権限が整っていることを保証します。

Stable Diffusionサービスを展開するには、ASKクラスター内にKnativeサービスを作成します。手順は以下の通りです: 1. クラスターのダッシュボードでKnativeページに移動します。 2. 提供されたYAML構成を使用して、テンプレートから新しいサービスを作成します。 3. YAMLは、特定のアノテーションを持つ「knative-sd-demo」という名前のサービスを定義します。 4. 使用されるコンテナイメージは、事前に設定されたStable Diffusionのセットアップです。 5. 作成後、サービスのステータスが「作成済み」に変わるのを待ちます。 この展開は、Knativeのサーバーレス機能を活用し、Stable Diffusionサービスが需要に応じて自動的にスケールすることを可能にします。

Stable Diffusionサービスにアクセスしてテストするには、トラフィックジェネレーターを作成し、公開する必要があります: 1. 提供されたYAML構成を使用して「portal-server」を展開します。これは、Stable Diffusionサービスの負荷生成器およびWebインターフェースとして機能します。 2. 展開により、外部IPアドレスを提供するLoadBalancerサービスが作成されます。 3. LoadBalancerのIPアドレスを使用してWebインターフェースにアクセスします。 4. インターフェースを使用して、Stable Diffusionモデルにプロンプトを提供して画像を生成します。 このセットアップにより、Stable Diffusionサービスと対話し、ストレステストの準備を行うことができます。

ASKクラスターとStable Diffusionサービスの弾力性を確認するために、ストレステストを実施します: 1. Webインターフェースのストレステスト機能を使用します。 2. 同時実行数を5、リクエストの総数を20に設定します。 3. ストレステストを開始し、結果を観察します。 4. テスト中に、新しいポッドの作成を監視して、負荷の増加に対応します。 5. ページに表示される生成された画像を観察します。 このストレステストは、ASKクラスターが需要の増加に応じてStable Diffusionサービスを自動的にスケールする能力を示し、AIワークロードに対するサーバーレスアーキテクチャの力を示しています。

実験を完了した後は、予期しないコストを避けるためにリソースを適切に管理することが重要です: 1. 今後の使用のためにASK Proクラスターを保持することを選択できますが、関連するコストを理解しておく必要があります。 2. リソースを解放することを決定した場合は、以下の手順に従います: - クラスターのページからASK Proクラスターを削除します。 - MSEコンソールを通じてMSE Cloud Native Gatewayを解放します。 - NAT Gatewayコンソールを使用してNATゲートウェイを削除します。 適切なリソース管理は、コスト効率を確保し、実験後にクリーンなクラウド環境を維持するのに役立ちます。