Развертывание Elastic Stable Diffusion на сервере без серверов Alibaba Cloud Kubernetes

В этой статье рассматривается развертывание сервиса Elastic Stable Diffusion класса предприятия с использованием Serverless Kubernetes (ASK) и Knative от Alibaba Cloud. Stable Diffusion, мощная модель ИИ для генерации изображений, в сочетании с эластичностью архитектуры без серверов, предлагает масштабируемое и эффективное решение для бизнеса. Используя ASK и Knative, мы можем создать высоко отзывчивый и экономически эффективный сервис генерации изображений на основе ИИ, который автоматически масштабируется в зависимости от спроса.

Для настройки окружения необходимо выполнить несколько ключевых шагов: 1. Создать облачный шлюз MSE: это включает вход в консоль Microservices Engine (MSE) и активацию облачных шлюзов MSE. 2. Авторизовать MSE для доступа к ECI: этот шаг гарантирует, что MSE может взаимодействовать с Elastic Container Instance (ECI). 3. Создать кластер ASK Pro: мы используем консоль ACK для создания кластера Serverless Kubernetes, выбирая профессиональную версию для расширенных функций. Ключевые настройки включают установку имени кластера, региона (рекомендуется: Гонконг, Китай) и активацию Knative. Эти подготовительные шаги закладывают основу для нашего сервиса Elastic Stable Diffusion, обеспечивая наличие необходимой инфраструктуры и разрешений.

Развертывание сервиса Stable Diffusion включает создание сервиса Knative в нашем кластере ASK. Вот как это сделать: 1. Перейдите на страницу Knative в панели управления кластера. 2. Создайте новый сервис из шаблона, используя предоставленную конфигурацию YAML. 3. YAML определяет сервис с именем 'knative-sd-demo' с конкретными аннотациями для аффинности и автоматического масштабирования. 4. Используемый контейнерный образ - это предварительно настроенная установка Stable Diffusion. 5. После создания дождитесь изменения статуса сервиса на 'Создан'. Это развертывание использует возможности Knative без серверов, позволяя сервису Stable Diffusion автоматически масштабироваться в зависимости от спроса.

Чтобы получить доступ и протестировать сервис Stable Diffusion, нам нужно создать генератор трафика и открыть его: 1. Разверните 'portal-server', используя предоставленную конфигурацию YAML. Это служит как генератор нагрузки, так и веб-интерфейсом для сервиса Stable Diffusion. 2. Развертывание создает сервис LoadBalancer, предоставляя внешний IP-адрес. 3. Получите доступ к веб-интерфейсу, используя IP-адрес LoadBalancer. 4. Используйте интерфейс для генерации изображений, предоставляя подсказки модели Stable Diffusion. Эта настройка позволяет нам взаимодействовать с сервисом Stable Diffusion и подготовиться к стрессовому тестированию.

Чтобы проверить эластичность нашего кластера ASK и сервиса Stable Diffusion, мы проведем стресс-тесты: 1. Используйте функцию стресс-тестирования в веб-интерфейсе. 2. Установите параллелизм на 5 и общее количество запросов на 20. 3. Запустите стресс-тест и наблюдайте за результатами. 4. Во время теста следите за созданием новых подов для обработки увеличенной нагрузки. 5. Наблюдайте за сгенерированными изображениями, отображаемыми на странице. Этот стресс-тест демонстрирует способность кластера ASK автоматически масштабировать сервис Stable Diffusion в ответ на увеличенный спрос, подчеркивая мощь архитектуры без серверов для рабочих нагрузок ИИ.

После завершения эксперимента важно правильно управлять ресурсами, чтобы избежать неожиданных затрат: 1. Вы можете решить оставить кластер ASK Pro для дальнейшего использования, понимая связанные с этим расходы. 2. Если вы решите освободить ресурсы, выполните следующие шаги: - Удалите кластер ASK Pro со страницы Кластеры. - Освободите облачный шлюз MSE через консоль MSE. - Удалите NAT-шлюз, используя консоль NAT Gateway. Правильное управление ресурсами обеспечивает экономическую эффективность и помогает поддерживать чистую облачную среду после экспериментов.