| 浏览器收藏 | 打印

1705248.png

Ivey Wood

GF  2024-04-11 12:36
（https://flower.yt/aff.php?aff=2602花云 高质量中转机场+0.2倍率节点 性价比 ..）
全看 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

真人lora训练用fp16好还是bf16好呢

真人lora训练用fp16好还是bf16好呢？
还有真人lora训练clip选1还是2？真人训练优化器选哪个更好呢？看过一些教程，说是真人用clip选1，然后精度选bf16更好，我简单炼了几个做对比，有时候clip=1好，有时候=2更好有没有大佬教下孩子  
顶端

none.gif

Mni

B1F  2024-04-12 07:20
（快乐炼丹人）
全看 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 楼主(Ivey Wood) 的帖子

印象当中bf16会好一些 但是只有新显卡才能用这个
顶端