百川智能宣布超千亿大模子Baichuan 3 中文评测逾越GPT- 抵达亲近GPT-4的水准

　　1月29日  ，百川百川智能宣布超千亿参数的智能n中大语言模子Baichuan 3。在多个威信通用威力评测如CMMLU、宣布GAOKAO和AGI-Eval中 ，超千测逾Baichuan 3都展现了卓越的亿大越威力 ，尤为在中文恣意上更是文评韩国出国劳务需要多少钱逾越了GPT-4
。而在数学和代码专项评测如MATH、百川HumanEval和MBPP中异样展现卓越 
，智能n中注清楚明晰Baichuan 3在做作语言解决和代码天生畛域的宣布壮局势力 。

　　不只云云，超千测逾其在对逻辑推理威力及专业性要求极高的亿大越MCMLE 、MedExam、文评CMExam等威信医疗评测上的百川中文效验异样突出了GPT-4，是智能n中中文医疗恣意展现最佳的大模子
。Baichuan 3还突破“迭代式增强学习”手艺，宣布进一步提升了语义明白和天生威力，在诗词创作的样子、韵律
、表意等方面展现优异
，抢先于其余大模子。

前提威力周全提升 ，多项威信评测中文恣意问题逾越GPT-4

　　Baichuan 3在多个英文评测中展现卓越 ，抵达亲近GPT-4的水准 。而在CMMLU
、GAOKAO等多其中文评测榜单上，正规办理出国劳务公司更是逾越GPT-4展现了其在中文恣意上的优势
 。

　　另外 ，在MT-Bench、IFEval等对齐榜单的评测中，Baichuan 3逾越了GPT-3.5 、Claude等大模子，处于行业抢先水准。

　　与百亿 、几百亿级别参数模子训练分歧，超千亿参数模子在训练流程中对高质量数据，训练稳固性、训练作用的要求都凌驾几个量级。日本打工为更优点理有关问题，百川智能在训练流程中针对性地提出了“静态数据选择”、“主要度依旧”以及“异步CheckPoint遗失”等多种立异手艺手腕及计划 ，有用提升了Baicuan 3的各项威力 。

　　高质量数据方面 ，泄露的数据挑选依托野生界说，通过滤重挑选、质量打分、Textbook挑选等要领过滤数据 。而百川智能以为，数据的优化和采样是一个静态流程
，应该随着模子自身的劳务公司需要办理资质吗训练流程优化，而非简单依托野生先验停止数据的采样和挑选 。为周全提升数据质量，百川智能设想了一套鉴于因果采样的静态训练数据选择计划，该计划能够在模子训练流程中静态地选择训练数据，极大提升数据质量
。

　　训练稳固性方面，超千亿参数的模子由于参数目重大 ，训练流程中总是会涌现梯度爆炸 、loss跑飞
、模子不收敛等问题 。对此 
，百川智能提出了“主要度依旧”(Salience-Consistency)的渐进式初始化要领，用以确保模子训练早期的稳固性。而且优化了模子训练流程的监控计划 ，在梯度、Loss等宗旨上引入了参数“有用秩”的要领来延迟发现训练流程中的问题，极大减速对训练问题的定位，确保了最终模子的收敛效验 。另外，为了确保在数千张GPU上高效且稳固地训练超千亿参数模子，百川智能同步优化了模子的训练稳固性和训练框架 ，日本企业直聘并选择“异步CheckPoint遗失”体制 ，能够有性能损失地加大遗失的频率，增加机械障碍对训练恣意的作用，使Baichuan 3的稳固训练时刻抵达一个月以上，障碍回复时刻不突出10分钟 。

　　训练作用方面 ，百川智能针对超千亿参数模子的并行训练问题停止了一系列优化
，如高度优化的RoPE, SwiGLU算盘算子；在数据并行中完成参数通讯与算计的重叠 ，以及在序列并行中完成激活值通讯与算计的重叠，进而有用下降了通讯时刻的比重；在流水并行中引入了将激活值卸载至CPU的手艺，解决了流水并行中显存占用不均的问题
，增加了流水并行的分段数目并昭著下降了空泡率。通过这些手艺立异，Baichuan 3的训练框架在性能方面相比业界主流框架提升突出30%。

医疗数据集Token数超千亿，医疗威力贴近GPT-4

　　大模子医疗面前蕴涵着重大的社会价值和家当价值，从疾病的诊疗
、治疗到患者照顾护士与药物研发，大模子不只能够资助医生提升诊疗作用和质量，资助患者赢得更好的效劳和体验 
，还能资助社会下降医疗利润微危险，助力医疗资源完成普惠战争权。而且医疗问题专业性强、学问刷新速率快
 、准确性要求高 、集体悬殊大
，能充展现大模子的各项威力 
，被百川智能称为“大模子皇冠上的明珠” 。因而，诸如OpenAI、谷歌等头部大模子企业都将医疗作为模子的重心训练偏向和性能评介的主要系统。ChatGPT早在2023年2月便已通过了美国医学执照试验（USMLE），显现出其在医学畛域的壮大威力。而谷歌对换理畛域的注重愈甚 ，鉴于PaLM模子打造了医疗大模子Med-PaLM
 ，迭代后的Med-PaLM 2在医学试验MedQA中的问题突出80分，抵达专家水准 。

　　在医疗畛域，大模子的万能特征施展着至关主要的作用。最先，其多模态学习威力能够整合文本、影像、音响等多种种其余医疗数据 ，提供更周全、准确的综合和诊疗。其次，大模子的深层推理威力有助于庞杂医疗决议意图的制定
。另外，稳固的性能和学问刷新威力确保了医疗提议的稳当性和实效性。同时 ，大模子的语言明白和天生威力使其能够解决专业术语和庞杂句式 。最终，形式甄别与学习威力在大模子中的运用，使其能够从庞杂的医疗数据中学习和甄别出主要的形式和特征。因而 ，大模子想要在医疗畛域拥有优越效验其实不随意纰漏 ，既需要雄厚的医疗学问、适宜的Prompt，还需要模子自身具有过硬的逻辑推理威力 。

　　为了给Baichuan3注入雄厚的医疗学问 ，百川智能在模子预训练阶段建立了突出千亿Token的医疗数据集，席卷医学钻研文献、真正的电子病历资料 、医学畛域的专业书籍和学问库资源 、针对换理问题的问答资料等。该数据集涵盖了从实践到现实支配 ，早年提实践莅临床运用等各个方面的医学学问，确保了模子在医疗畛域的专业度和学问深度。

　　针对换理学问引发的问题，百川智能在推理阶段针对Prompt做了系统性的钻研和调优，通过准确的形容恣意、妥当的示例样本选择，让模子输入越发准确以及相符逻辑的推理方法
，最终不只提升了Baichuan 3在多项医疗试验上的问题 ，而且在真正的医疗问答场景下也能给用户提供更准确、注意的反应 。

　　逻辑推理方面  ，Baichuan 3在数学和代码等多个威信评测上亲近GPT-4的优异问题 ，已经充足注清楚明晰其壮大的前提逻辑推理威力。在拥有雄厚高质量专业医疗学问 ，并能通过调优后的Prompt对这些学问停止充足引发的前提上，联合超千亿参数的推理威力 ，Baichuan 3在医疗畛域的恣意效验提升昭著 
，在种种中英文医疗尝试中的问题提升了2到14个百分点 。

　　Baichuan 3在多个威信医疗评测恣意中展现优异，不只MCMLE 、MedExam
、CMExam等中文医疗恣意的评测问题突出GPT-4，USMLE
、MedMCQA等英文医疗恣意的评测问题也贴近了GPT-4的水准。

突破“迭代式增强学习”手艺 ，创作准确度大幅提升

　　语义明白和文本天生 ，作为大模子最前提的下层威力，是其余威力的支柱。为提升这两项威力，业界停止了少量钻研和试验，OpenAI、Google以及Anthropic等引入的RLHF(鉴于人类反应的增强学习)和RLAIF(鉴于AI反应的增强学习)就是其中的症结手艺。

　　鉴于增强学习对齐后的模子不只能够更准确地明白用户指令，尤为是多自在以及多轮对话下的指令，还能进一步提仙游生实质的质量
。然则在大模子中充散施展增强学习的作用不只需要稳固且高效的增强学习训练框架和高质量的优质偏序数据 ，还需要在“钻研与应用”两者间停止平稳 ，完成模子威力延续爬坡。

　　看待以上问题 ，百川智能停止了透彻钻研 ，并给出了针对性的解决计划。增强学习训练框架方面 ，百川智能自研了训练推理双引擎融会、多模子并行调理的PPO训练框架，能够很好支援超千亿模子的高效训练 
，训练作用相比业界主流框架提升400%。偏序数据方面，百川智能立异性的选择了RLHF与RLAIF联合的形式来天生高质量优质偏序数据 ，在数据质量和数据利润之间赢患有更好的平稳。在此前提上 ，看待“钻研与应用”这一基础应战
，百川智能通过PPO钻研空间与Reward Model评介空间的同步升级，完成“迭代式增强学习”(Iterative RLHF&RLAIF)。鉴于增强学习的版本爬坡 ，能够在SFT的前提长进一步施展底座模子的潜力 ，让Baichuan 3的语义明白和天生创作威力大幅提升 。

　　以文本创作中最具应战的唐诗宋词为例，作为中原泄露文明的珍宝
，诗词不只在样子、平仄 、对偶、韵律等方面均有着庄重的自在条件 ，而且实质高度凝炼 、寓意长远。要是仅通过SFT的微调学习，一方面高质量诗词的创作数据需要极高的专家利润，另一方面不行在平仄 、对偶、韵律等多个方面完成较好的自在明白和遵照。另外 ，泄露的单次RLHF范式在唐诗宋词眼前也遇到极大应战
，PPO在训练流程中天生的Response有能够越过Reward Model的评介领域致使“钻研”的流程失控
。

　　Baichuan 3联合“RLHF&RLAIF”以及迭代式增强学习的要领，让大模子的诗词创作威力抵达崭新高度 。可用性相比以后业界最佳的模子水准提升达500% ，文彩远超GPT-4。看待宋词这种样子多变，组织深细、韵律雄厚的高难度文体 ，天生的实质亦能工致对仗、韵脚折衷 。其准确、深挚的创作功底 ，将让每一小我私家都能轻盈创作出咏物
、寄思的五言律诗、七言绝句，写下的言志 、抒情的“沁园春”
、“定风云”
，这不只能够提升团体的人文修养 ，还能助力中华泄露文明在大模子时期真正地“活”起来。

　　作为参数领域突出千亿的大语言模子 ，Baichuan 3不只英文效验抵达亲近GPT-4的水准，还在多项通用中文恣意的展现上完成了对GPT-4的逾越
，是百川智能的崭新里程碑 。Baichuan 3周全的通用威力以及在医疗畛域的壮大展现
，将为百川智能打造“超级运用” ，把大模子手艺落地到诸多庞杂运用途景提供有力支持 。