OpenBMB/CPM-Bee

百亿参数的中英文双语基座大模型

PythonJupyter NotebookShell
This is stars and forks stats for /OpenBMB/CPM-Bee repository. As of 10 May, 2024 this repository has 2622 stars and 207 forks.

CPM-Bee 百亿参数的开源中英文双语基座大模型 模型 • OpenBMB体系 • 性能表现 • 开源协议 ✨ 模型介绍 CPM-Bee是一个完全开源、允许商用的百亿参数中英文基座模型,也是CPM-Live训练的第二个里程碑。它采用Transformer自回归架构(auto-regressive),在超万亿(trillion)高质量语料上进行预训练,拥有强大的基础能力。开发者和研究者可以在CPM-Bee基座模型的基础上在各类场景进行适配来以创建特定领域的应用模型。 👐 开源可商用:OpenBMB始终秉承“让大模型飞入千家万户”的开源精神,CPM-Bee基座模型将完全开源并且可商用,以推动大模型领域的发展。我们鼓励全球范围内的科研机构、企业和个人开发者在遵守开源许可协议的前提下,自由地在CPM-Bee基座模型上进行创新。 💫 中英双语性能优异:CPM-Bee基座模型在预训练语料上进行了严格的筛选和配比,同时在中英双语上具有亮眼表现,具体可参见评测任务和结果。 📖 超大规模高质量语料:CPM-Bee基座模型在超万亿语料进行训练,是开源社区内经过语料最多的模型之一。同时,我们对预训练语料进行了严格的筛选、清洗和后处理以确保质量。 ...
Read on GithubGithub Stats Page
repotechsstarsweeklyforksweekly
PromtEngineer/localGPTPythonHTMLDockerfile16.5k01.8k0
facebookresearch/ImageBindPython7.2k06260
aiwaves-cn/RecurrentGPTPythonShell78701240
e-johnstonn/wingmanAIPython3930330
x-dr/bilive24hShell330220
n0a/telegram-get-remote-ipPythonDockerfile1.1k+305134+36
easzlab/kubeaszJinjaShellMustache9.6k03.4k0
katspaugh/wavesurfer.jsTypeScriptJavaScriptHTML7.6k01.5k0
peterssonjesper/ConfigsVim ScriptShell2010
team-s2/summer_course_2023AssemblyPythonC30010