作画出图速度
作画出图速度说明
作画出图的速度主要是由以下3个因素决定:
作画参数直接决定了生图过程的耗时,作画的模型、尺寸、ControlNet、步长、精绘等参数都会影响作画生成过程的复杂度和所需资源,进而影响出图耗时。
提交作画后,会进入对应的模型任务队列。任务调度模式为先进先出,即需要将前方已等待任务处理完后,此任务才能被算力池调度进行作画。
而队列的消费能力,取决于无界平台为当前模型分配的显卡数量。
作画默认都是由公用算力池内的显卡进行生图,由于算力共用,任务量的多少会显著影响排队时间。
无界AI会根据整体的任务情况调整公共算力供应,尽可能保证合理的作画体验。
对出图时间有严格要求的客户,请参考下方提速方案。
:::caution
一张显卡机器同时只能处理一个作画任务
:::
作画流程简图
提升出图速度解决方案
:::highlight purple
通过上图的作画流程可以了解到,真正影响作画出图的速度其实可以概括为2个因素:
- 作画生图的耗时
- 作画模型的通道(显卡)数量
接入方需要预估下自己产品作画的并发、作画生图的耗时,根据这两个值推算出独占通道的数量。
通道购买
QPS购买
接入方如果作画QPS预估是5,作画的生图平均耗时是10秒左右。要稳定保证这个生图耗时效果,那么就需要配置 10 * 5 = 50张
独占显卡支持。
:::
最后修改时间: 3 个月前