腾讯混元宣布开源定制化图像生成插件 InstantCharacter,并实现了对开源文生图模型Flux的兼容。“通过这个插件,在大模型中,只需要一张图加一句话,你可以让任何角色以你想要的姿势出现在任何地方。”
示例:
输入原始图片
+ prompt :a rabbit is in the kitchen holding a spoon and drinking soup
就能得到下面的图:
+prompt:a rabbit in the city,cyberpunk
就可以得到:
根据介绍,InstantCharacter的优势在于可以确保角色在不同场景中的一致性和真实性、画质和精度高,同时具有灵活的文本编辑性,用户可以根据需要灵活切换任意场景,让人物生成任意动作。
其在角色一致性和图像生成的精确度上超过了此前业界的相关技术,能够处理多种风格和复杂度的图像。通过这个插件,内容创作者可以让生成的角色保持高度一致,能够更高效地创作出符合其需求的视觉作品,可以用于连环画、影片创作等场景。
测评结果显示,InstantCharacter实现的效果媲美GPT 4o等业界领先模型。
InstantCharacter 利用DiT模型构建了一个创新的框架。框架引入了一个可扩展的适配器(adapter),采用多个transformer encoder,能够有效处理开放域的角色特征,并与现代扩散变换器的潜在空间无缝交互。这种设计使得系统能够灵活适应不同的角色特征。
同时,为了有效训练框架,腾讯混元团队还构建了一个包含千万级样本的大规模角色数据集。数据集被系统地组织为成对(多视角角色)和非成对(文本-图像组合)子集。这种双数据结构使得身份一致性和文本可编辑性能够通过不同的学习路径同时优化。