如何进行分层权重控制_stable diffusion教学 lora
新年第一篇。
我们在训练lora的时候,除了人物形象之外,还会将服装、动作、场景甚至是画风一起训练。这就会导致,如果你需要训练一个人物lora,但是比如训练集中有人物服装的时候,最终模型出的图中,那件服装出现概率也会很大。
而lora分层控制就可以避免原训练集对画面的干扰,提高图像质量。
这个功能需要使用到我们的LoRA Block Weight插件。
打开插件,可以看到一些配置好的权重预设。
下面对应的是lora分层的预设参数,一共是17层。
第一个数字是base层,数值为1.代表着权重开启,lora的权重才会生效。2-7层是输入层IN(共6层),8层是中间层MID(共1层),9-17层是输出层OUT(共9层)。
在权重设置中,我们可以看到很多已有的预设,调用其中的任何一个都可以对lora的效果产生不同的影响。
这里我用金克斯的lora来测试一下。
使用提示词:1girl,jinx_(league_of_legends),blue_hair,
接下来我增加红头发,机械铠甲,赛博朋克城市的提示词:red hair,mechanical armor,cyberpunk city。生成看一下,发现效果变化不大,因为在这个lora中,人物的发色和服装固定的太好了,不容易改变。
打开LoRA Block Weight,在
接下来,我们调整为使用
最后,我们调整为使用
可以看到,当我们呢开启不同通道时,对lora的效果就会产生不同的影响。
那么这些层到底代表什么含义呢?我们可以以这个图作为参考。根据这张图的含义,如果我们想要保留这张lora的哪种效果,我们就只需要启用相对应的层数就可以了。
可以看到9.10.11层是针对人物的面部和角色特征。那么接下来,我们也可以自己新建规则,比如CB:1.0.0.0.0.0.0.0.1.1.1.0.0.0.0.0.0.将第一个改为1.作用是开启该权重,另外在将第9.10.11层改为1.控制角色特征,其余部分设为0.表示不受lora影响。
将命名规则也加载进去。
加载lora时,启用我们新建的规则,
那这个功能到底有什么作用呢?我们再做一个测试,使用的一个二次元模型,绘制一个正常权重的金克斯。
接下来,我们加入一个Q版手绘风格的lora。
当两个lora的权重都为1的时候,可以看到金克斯的服装受到了手绘lora的影响,变成了中国风的感觉。
如果我们只想要画风变化,而服装特征不受影响应该怎么办呢?
我们可以将金克斯的lora开启9.10.11层的权重——
生成之后,我们就可以看到人物形象的特征就不受手绘lora的影响了。
这里再给大家分享一些常用的分层控制预设:
身体
BODY:1.1.1.1.1.1.1.1.0.0.0.1.1.1.1.1.1
BODY0.5:1.1.1.1.1.1.0.2.1.0.2.0.0.0.8.1.1.1.1.1
脸部(脸型、发型、眼型、瞳色等)
FACE:1.0.0.0.0.0.0.0.1.1.1.0.0.0.0.0.0
FACE0.5:1.0.0.0.0.0.0.0.0.8.1.1.0.2.0.0.0.0.0
FACE0.2:1.0.0.0.0.0.0.0.0.2.0.6.0.8.0.2.0.0.0.0.0
修手专用
HAND:1.0.1.1.0.2.0.0.0.0.0.0.0.0.0.0.0.0
服装(搭配tag使用)
CLOTHING:1.1.1.1.1.0.0.2.0.0.8.1.1.0.2.0.0.0.0.0
动作(搭配tag使用)
POSE:1.0.0.0.0.0.0.2.1.1.1.0.0.0.0.0.0.0
上色风格(搭配tag使用)
PALETTE:1.0.0.0.0.0.0.0.0.0.0.0.8.1.1.1.1.1
角色(去风格化)
KEEPCHAR:1.1.1.1.1.0.0.0.1.1.1.1.1.1.1.0.0
背景(去风格化)
KEEPBG:1.1.1.1.1.1.0.2.1.0.2.0.0.0.8.1.1.1.0.0
减弱过拟合(等同于OUTALL)
REDUCEFIT:1.0.0.0.0.0.0.0.1.1.1.1.1.1.1.1.1
以上,就是关于LoRA分层权重控制的使用方法。
-
小度全新AI硬件将于百度世界大会发布丨智谱AI、即梦AI上线新一代视频生成模型丨OpenAI安全系统团队负责人离职
【AI奇点网2024年11月11日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。
2025-01-08 11:46:33 -
字节跳动内测豆包通用图像编辑模型SeedEdit丨Grok聊天机器人免费版内测丨月之暗面Kimi创始人被提起仲裁
【AI奇点网2024年11月12日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。
2025-01-08 11:25:01 -
李彦宏:文心大模型日调用量超15亿丨百度发布文心「iRAG」文生图技术丨小度AI智能眼镜发布,搭载大模型边走边问
【AI奇点网2024年11月13日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。
2025-01-08 10:58:46 -
巧妙利用这两个AI产品,让你的国庆出行没有废片
这两天就有朋友来问我,有没有那种能修图的AI,就是扩图+消除啥的傻瓜好用的。大家大概的需求总结一下其实就两,AI消除+AI扩图。
2025-01-08 10:34:49 -
OpenAI初步谈妥融资70亿美元:最大金主微软追加投资10亿,苹果退出
据华尔街日报报道,苹果公司退出了对 OpenAI 的新一轮融资谈判,而微软则计划向 OpenAI 追加约 10 亿美元的投资。
2025-01-08 10:14:21 -
详解Meta全新大模型Llama 3.2系列:多模态视觉识别能力媲美OpenAI GPT-4o
Meta公司推出了Llama 3 2,也是它首款能够理解图像和文本的旗舰视觉模型。包含中型和小型两个版本,以及更轻量化可用于手机端侧的纯文本模型。
2025-01-08 09:46:43
-
怎么快速给模特换装_怎么用stable diffusion给模特换装
本篇教程主要运用StableDiffusion这个工具来进行操作,下面会通过几个小案例,给大家展示不同需求下,我们该如何使用StableDiffusion来辅助我们完成服装效果展示。本教程适用于电商设计场景、摄影场景等多个运用人物设计的实战中
2024-12-23 13:57:15 -
万万没想到,兵马俑都开始跳「科目三」:阿里云通义千问APP打造“全民舞王”视频创作工具,实测效果大赞
兵马俑跳《科目三》,是我万万没想到的。有人借助了阿里云之前走红的AI视频生成技术——「Animate Anyone」,生成出来了这个舞蹈片段。
2024-12-13 16:46:26 -
AIGC落地实践!四招帮你快速搞定运营设计
回顾这一年,随着 AIGC 浪潮的爆发,在掌握AI工具已经成为设计师必备技能。今天这篇文章,通过三个案例流程拆解带大家从新时代设计工作流,到必备「四大招式」,到图标设计六大方向,到训练专属模型,再到全流程手把手拆解设计项目,绝对干货满满
2024-12-18 16:57:17 -
ChatGPT怎么本地登录_GPT怎么使用_GPT本地项目
本期就ChatGPT的这次更新再次将完全新人使用指南提上日程,并对此次更新做些设想和想象。希望大家喜欢!
2024-12-19 07:41:20 -
stable diffusion初识_stable diffusion跟其他工具有什么区别]
关于Stable Diffusion的内容很多,在本篇教程里,我会先为你介绍Stable Diffusion模型的运行原理、发展历程和相较于其他AI绘图应用的区别。
2024-12-24 13:45:31 -
PikaAI怎么用_PIkaAI怎样生成视频_AI视频生成器Pika怎么用_AI视频生成工具Pika教程
Pika这款工具7月份在AIGC界横空出世,被圈内誉为目前“全球最好的文本生成视频AI工具”之一,也被认为是另外一款知名AI视频生成工具Runway的强有力挑战者。
2024-12-25 13:35:53 -
如何使用 ChatGPT 调试代码
当您的代码出现问题时,您可以向 ChatGPT 提供故障代码和问题描述。AI 工具将尝试识别并纠正问题。
2024-12-31 12:01:41 -
stable SR脚本安装_stable diffusion脚本网站
上节课我们讲的4xUltraSharp是不是觉得已经很强了! 那么如果我拿出Stable SR脚本你应该如何应对呢?
2024-12-31 13:49:18 -
零基础2天速成!白嫖「秋叶」官方AI绘画课程,卷死同事
和「秋叶」一起学AI绘画,掌握Stable Diffusion、Midjourney的使用方法,开展AI绘画副业,搞钱!?
2024-12-17 12:53:01 -
openpose如何自定义角色_个性化角色姿势怎么定制_Controlnet深度解析
在设计角色姿势时,如何使用openpose进行姿势自定义,以及如何通过拍摄照片或使用第三方后期软件?同时,虚幻引擎对于角色姿势的编辑也很重要,本视频就并展示了如何使用优异商城中的免费资源来创建人物角色。
2024-12-19 11:43:51