在阿里云无服务器Kubernetes上部署弹性稳定扩散

本文探讨了如何使用阿里云的无服务器Kubernetes（ASK）和Knative部署企业级弹性稳定扩散服务。稳定扩散是一种强大的图像生成AI模型，结合无服务器架构的弹性，为企业提供了可扩展且高效的解决方案。通过利用ASK和Knative，我们可以创建一个高度响应且具有成本效益的AI图像生成服务，能够根据需求自动扩展。

要设置环境，我们需要完成几个关键步骤： 1. 创建MSE云原生网关：这涉及登录微服务引擎（MSE）控制台并激活MSE云原生网关。 2. 授权MSE访问ECI：此步骤确保MSE可以与弹性容器实例（ECI）进行交互。 3. 创建ASK专业集群：我们将使用ACK控制台创建一个无服务器Kubernetes集群，选择专业版以获得增强功能。关键配置包括设置集群名称、区域（推荐：中国香港）以及启用Knative。 这些准备步骤为我们的弹性稳定扩散服务奠定了基础，确保我们具备必要的基础设施和权限。

部署稳定扩散服务涉及在我们的ASK集群中创建一个Knative服务。以下是操作步骤： 1. 在集群仪表板中导航到Knative页面。 2. 从模板创建一个新服务，使用提供的YAML配置。 3. YAML定义了一个名为'knative-sd-demo'的服务，并具有特定的亲和性和自动扩展注释。 4. 使用的容器镜像是预配置的稳定扩散设置。 5. 创建后，等待服务状态更改为'已创建'。 此部署利用了Knative的无服务器能力，使稳定扩散服务能够根据需求自动扩展。

要访问和测试稳定扩散服务，我们需要创建一个流量生成器并将其暴露： 1. 使用提供的YAML配置部署一个'portal-server'。这既作为负载生成器，也作为稳定扩散服务的Web界面。 2. 部署创建一个负载均衡器服务，提供一个外部IP地址。 3. 使用负载均衡器的IP地址访问Web界面。 4. 使用该界面通过向稳定扩散模型提供提示来生成图像。 此设置使我们能够与稳定扩散服务进行交互，并为压力测试做好准备。

为了验证我们的ASK集群和稳定扩散服务的弹性，我们将进行压力测试： 1. 在Web界面中使用压力测试功能。 2. 将并发设置为5，总请求数设置为20。 3. 启动压力测试并观察结果。 4. 在测试期间，监控新Pod的创建以处理增加的负载。 5. 观察页面上显示的生成图像。 此压力测试展示了ASK集群在需求增加时自动扩展稳定扩散服务的能力，展示了无服务器架构在AI工作负载中的强大功能。

完成实验后，妥善管理资源以避免意外费用是很重要的： 1. 您可以选择保留ASK专业集群以供进一步使用，了解相关费用。 2. 如果您决定释放资源，请按照以下步骤操作： - 从集群页面删除ASK专业集群。 - 通过MSE控制台释放MSE云原生网关。 - 使用NAT网关控制台移除NAT网关。 妥善的资源管理确保了成本效率，并有助于在实验后维护一个干净的云环境。