效果可达OpenAI同等模型96%，国产开源AI语言模型TigerBot

来源：IT之家   阅读量：5968   

，国产多模态大语言模型 TigerBot 近日正式发布，包含 70 亿参数和 1800 亿参数两个版本，目前已经在 GitHub 开源。

图源 TigerBot 的 GitHub 页面

据悉，TigerBot 带来的创新主要在于:

  • 提出指令完成监督微调的创新算法提升模型可学习性

  • 运用 ensemble 和 probabilistic modeling 的方法实现可控事实性和创造性

  • 在并行训练上突破 deep-speed 等主流框架中的内存和通信问题

此外，该模型还针对中文语言更不规则的分布，从 tokenizer 到训练算法上做了更适合的优化。

图源 TigerBot 的 GitHub 页面

据称，其中 TigerBot-7B-base 的表现“优于 OpenAI 同等可比模型” ，开源代码包括基本训练和推理代码，双卡推理 180B 模型的量化和推理代码。数据包括 100G 预训练数据，监督微调 1G 或 100 万条数据。

IT之家小伙伴们可以在这里找到 GitHub 的开源项目。

声明：本网转发此文章，旨在为读者提供更多信息资讯，所涉内容不构成投资、消费建议。文章事实如有疑问，请与有关方核实，文章观点非本网观点，仅供读者参考。

为您推荐

精彩放送

精彩图片