Этот впечатляющий результат соответствует примерно 4 954 изображениям, полученным за один доллар, что свидетельствует о практичности и доступности использования графических процессоров потребительского класса для генеративных выводов ИИ.
Для развертывания использовалось «управляемое контейнерное развертывание» SaladCloud, ориентированное на узлы с совместимыми GPU, минимум 4 vCPU и 8 ГБ оперативной памяти.
За 24 часа работы было обработано 9 274 913 запросов на генерацию изображений с минимальным количеством отказов, среднее время цикла генерации изображений составило 7 секунд.
Данная демонстрация показала, что графические процессоры потребительского класса представляют собой альтернативу GPU корпоративного класса, таким как A10, A100 или H100, для таких приложений, как генеративные ИИ.
