开启辅助访问
搜索
MCE星光班 › 首页 ›星光班快讯› 更多 › 查看内容

关于GLM3-6B的一点使用分享

2024-7-10 15:03| 发布者: 涤澄| 查看: 565| 评论: 11|原作者: 流云闲鹿

摘要: 发现的GLM的一些小的问题，如果有解决方案的话后期会公布。 GLM在对话时会出现非中文的回答，有的时候是繁体中文。同时如果不调整初始文本生成长度就会出现话说一半的情况，不过你可以让他继续说 GLM3-6B和GLM2-6B ...
发现的GLM的一些小的问题，如果有解决方案的话后期会公布。
GLM在对话时会出现非中文的回答，有的时候是繁体中文。同时如果不调整初始文本生成长度就会出现话说一半的情况，不过你可以让他继续说

屏幕截图 2024-04-07 235147.png屏幕截图 2024-04-07 235141.png
GLM3-6B和GLM2-6B一样支持多进程并行，同时启动在完成加载之后会占用大约5G内存，但是同时支持两个GLM还是4060不可承受之重，而且生成速度和电脑的流畅程度也会严重降低（低到移鼠标都会卡）而且win有概率出现黑屏。
屏幕截图 2024-04-07 233514.png

在对GLM3-6B提问的时候必须说清前置条件，不然她就会开始胡言乱语。
屏幕截图 2024-04-07 232931.png屏幕截图 2024-04-07 232917.png

暂时就这么多，大家如果想体验可以去Issues · THUDM/ChatGLM3 · GitHub下载全套源码，B站也有一键包。


屏幕截图 2024-04-07 235141.png
收藏 邀请
上一篇：升级USB4+5G网卡 | MPG Z790 CARON MAX WIFI II主板开箱下一篇：2024.04 河农线下PPT分享会总结
发表评论

最新评论

引用  涤澄    2024-4-8 08:40
感谢分享，跟着看下来，
我感觉国外比较偏爱“聊天"机器人，国内比较重视“干活”机器人
这个可能跟两边的产业不同有关。
引用  静待花开    2024-4-8 09:58
涤澄 发表于 2024-4-8 08:40
感谢分享，跟着看下来，
我感觉国外比较偏爱“聊天"机器人，国内比较重视“干活”机器人
这个可能跟两边的 ...

外国人用来享受，我们用来干活
引用  DingTalk    2024-4-8 10:29
涤澄 发表于 2024-4-8 08:40
感谢分享，跟着看下来，
我感觉国外比较偏爱“聊天"机器人，国内比较重视“干活”机器人
这个可能跟两边的 ...

两者合二为一，感觉会很有意思
引用  流云闲鹿    2024-4-8 12:54
涤澄 发表于 2024-4-8 08:40
感谢分享，跟着看下来，
我感觉国外比较偏爱“聊天"机器人，国内比较重视“干活”机器人
这个可能跟两边的 ...

确实是有这种说法，可能和国内外思想不同吧。国内更重视实用主义，不管是天工大模型，还是文心一言，通义千问，APP端的功能更多是各种设计师和助手。反观国外他们更多是把AI作为一个电子宠物，很多相关问题和bug都是在大量看似无用的对话里发现的。
引用  年少有力百花残    2024-4-8 15:43
看了一下，推荐显卡显存13G，我的显卡刚好12G
引用  eya46    2024-4-8 18:17
可能是显存不够，记不住之前说的
引用  流云闲鹿    2024-4-8 19:38
年少有力百花残 发表于 2024-4-8 15:43
看了一下，推荐显卡显存13G，我的显卡刚好12G

她会根据显存调整展开大小，我的8G显存就是int4展开
引用  流云闲鹿    2024-4-8 19:41
eya46 发表于 2024-4-8 18:17
可能是显存不够，记不住之前说的

是文本生成长度限制，在左边我截图没截进去。如果鼠爆显存的话就直接说不出来话，命令行窗口会直接报错（没错我试过）
引用  流云闲鹿    2024-4-8 20:57
DingTalk 发表于 2024-4-8 10:29
两者合二为一，感觉会很有意思

感谢赞赏，416可爱捏
引用  DingTalk    2024-4-9 10:45
流云闲鹿 发表于 2024-4-8 20:57
感谢赞赏，416可爱捏

初音可爱捏🥰，我自己也在用novelai跑ai立绘玩，所以我认为如果把这俩合二为一成为一个ai会非常好
引用  Roy毅陆    2024-4-26 15:35
笔记本3050，出图确实慢

查看全部评论(11)

相关分类