2023年10月27日,在2023中国计算机大会(CNCC)上,智谱AI推出全自研的第三代基座大模型ChatGLM3及相关系列产品,开源了chatGLM3-6B尺寸的base基础模型和chat微调后的模型。相关内容见智谱AI官网新闻稿。chatGLM-6B尺寸将会成为未来中国AI PC的基础。

chatGLM3-6B进步神速

ChatGLM迭代速度特别快,短短一年时间已经更新到了3代。

ChatGLM也是目前开源模型当中,最用户友好的了,全套的推理实现,streamlit、Gradio这些图形化使用界面的相关工具都是齐全的。不像有的开源模型,只提供命令行和API,那样用户使用难度和接受度会差很多。

chatGLM3-6B号称是10B的开源小模型当中能力最强的,这也是他目前努力的方向。这个方向完全正确,因为小尺寸模型可以在用户本地运行,出于安全和隐私考虑,必然有其存在基础。

我自己试用了一下,和之前的chatGLM2-6B相比提升是巨大的。可以看一个例子,虽然说对于一个财经博主微博的分析还不完全准确,但也八九不离十了。

AI PC本地运行模型,中国区chatGLM居多

据我所知明年Intel、AMD、NVIDIA、各个笔记本电脑厂商都在推动所谓的AI PC,也就是在个人电脑本地运行大语言模型成为个人智能助理。出于安全与合规考虑,llama2-7B这样的模型很难进来;同时llama模型对于中文支持尚不完善。

所以在中国,实际上未来各家在个人电脑本地运行宣传AI PC的,最后大多都是跑chatGLM的各种量化后版本了。

chatGLM迭代速度快,能力提升明显,对于所有人来说都是一个利好。

Loading

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注