Implantando Elastic Stable Diffusion no Kubernetes Serverless da Alibaba Cloud

Este artigo explora a implantação de um serviço de Elastic Stable Diffusion de classe empresarial usando o Kubernetes Serverless (ASK) da Alibaba Cloud e o Knative. O Stable Diffusion, um poderoso modelo de IA para geração de imagens, combinado com a elasticidade da arquitetura serverless, oferece uma solução escalável e eficiente para empresas. Ao aproveitar o ASK e o Knative, podemos criar um serviço de geração de imagens de IA altamente responsivo e econômico que escala automaticamente com base na demanda.

Para configurar o ambiente, precisamos completar várias etapas cruciais: 1. Criar um Gateway Nativo em Nuvem MSE: Isso envolve fazer login no console do Microservices Engine (MSE) e ativar os gateways nativos em nuvem MSE. 2. Autorizar o MSE a Acessar o ECI: Esta etapa garante que o MSE possa interagir com a Instância de Contêiner Elástico (ECI). 3. Criar um Cluster Pro do ASK: Usaremos o console do ACK para criar um cluster Kubernetes Serverless, selecionando a edição Profissional para recursos aprimorados. As configurações principais incluem definir o nome do cluster, região (recomendado: Hong Kong, China) e habilitar o Knative. Essas etapas preparatórias estabelecem a base para nosso serviço de Elastic Stable Diffusion, garantindo que tenhamos a infraestrutura e as permissões necessárias em vigor.

Implantar o serviço de Stable Diffusion envolve criar um Serviço Knative dentro do nosso cluster ASK. Veja como fazer isso: 1. Navegue até a página do Knative no painel do cluster. 2. Crie um novo Serviço a partir de um modelo, usando uma configuração YAML fornecida. 3. O YAML define um serviço chamado 'knative-sd-demo' com anotações específicas para afinidade e escalonamento automático. 4. A imagem do contêiner utilizada é uma configuração pré-configurada do Stable Diffusion. 5. Após a criação, aguarde a mudança do status do serviço para 'Criado'. Essa implantação aproveita as capacidades serverless do Knative, permitindo que o serviço de Stable Diffusion escale automaticamente com base na demanda.

Para acessar e testar o serviço de Stable Diffusion, precisamos criar um gerador de tráfego e expô-lo: 1. Implante um 'portal-server' usando uma configuração YAML fornecida. Isso serve tanto como um gerador de carga quanto como uma interface web para o serviço de Stable Diffusion. 2. A implantação cria um serviço LoadBalancer, fornecendo um endereço IP externo. 3. Acesse a interface web usando o endereço IP do LoadBalancer. 4. Use a interface para gerar imagens fornecendo prompts ao modelo de Stable Diffusion. Essa configuração nos permite interagir com o serviço de Stable Diffusion e nos preparar para testes de estresse.

Para verificar a elasticidade do nosso cluster ASK e do serviço de Stable Diffusion, realizaremos testes de estresse: 1. Use o recurso de teste de estresse na interface web. 2. Defina a concorrência para 5 e o número total de solicitações para 20. 3. Inicie o teste de estresse e observe os resultados. 4. Durante o teste, monitore a criação de novos pods para lidar com a carga aumentada. 5. Observe as imagens geradas exibidas na página. Esse teste de estresse demonstra a capacidade do cluster ASK de escalar automaticamente o serviço de Stable Diffusion em resposta ao aumento da demanda, mostrando o poder da arquitetura serverless para cargas de trabalho de IA.

Após completar o experimento, é importante gerenciar os recursos adequadamente para evitar custos inesperados: 1. Você pode optar por manter o cluster Pro do ASK para uso futuro, entendendo os custos associados. 2. Se decidir liberar recursos, siga estas etapas: - Exclua o cluster Pro do ASK na página de Clusters. - Libere o Gateway Nativo em Nuvem MSE através do console do MSE. - Remova o gateway NAT usando o console do Gateway NAT. Um gerenciamento adequado de recursos garante eficiência de custos e ajuda a manter um ambiente em nuvem limpo após a experimentação.