持续技术创新 度小满“轩辕70B”金融大模型位居C-Eval、CMMLU榜首
时间：2023-11-28 18:14:07
如今，当大模型不断在金融各大场景落地，它能够为金融行业带来哪些改变？度小满布局大模型，通过创新技术精确解读和分析金融报告，提高金融服务效率，推动金融行业创新发展。近期，度小满发布“轩辕70B”金融大模型，并公布“轩辕70B”在C-Eval、CMMLU两大权威大语言模型评测基准的成绩。据悉，“轩辕70B”以高分位居榜首，展现了度小满强大的技术创新能力。
日前，度小满宣布“轩辕70B”金融大模型开源，所有用户均可自由下载和试用，并公布了“轩辕70B”在C-Eval、CMMLU两大权威大语言模型评测基准的成绩。数据显示， 在C-Eval榜单上，XuanYuan-70B的总成绩达到71.9分；在CMMLU榜单中，以71.05分的高分位居榜首，在两大权威榜单上的所有开源模型中排名第一，也是国内首个同时在两大权威榜单排名第一的金融大模型。
C-Eval榜单是由清华大学、上海交通大学和爱丁堡大学合作构建的综合性考试评测集，几乎囊括了所有国内外的主流模型，覆盖人文、社科、理工、其他专业四个大方向的52个学科，共有13948个多项选择题和中学、本科、研究生、职业等四个难度级别，是目前对模型潜力判断最具权威性的大模型榜单之一。
CMMLU 数据集是一个综合性的中文评估基准，由MBZUAI、上海交通大学、微软亚洲研究院共同推出，专门用于评估语言模型在中文语境下的知识和推理能力，共涵盖了67个主题，涉及自然科学、社会科学、工程、人文以及常识等。
金融行业场景丰富，数字化程度高，是大模型落地应用的最佳场景之一。但金融又是一个高合规要求的行业，业务决策复杂，大模型真正在金融业务中做到实际应用还面临不少挑战。
度小满CTO许冬亮表示，“相比通用大模型，‘轩辕70B’金融大模型经过度小满业务场景中沉淀的海量金融数据训练，对金融知识理解更专业、更精准，可控性、安全性更高。我们把大模型开源，希望能够降低大模型在金融行业的部署和应用门槛，促进金融行业服务效率和服务体验的突破性革新”。
2023年5月，度小满开源了国内首个千亿参数的金融大模型，已经有上百家金融机构申请试用。本次发布的新版大模型相较于上一个版本能力全面提升：在增量预训练和指令微调阶段，加入了度小满业务场景中的海量金融数据，对金融问题回复更专业，金融知识理解能力提升明显；同时在预训练阶段，"轩辕70B”的模型上下文长度扩充到8k，能够处理更长的金融报告、研究和分析。
技术创新是解决金融行业诸多发展难题的关键因素。多年来，度小满积极研发新技术、新成果，通过新技术的落地应用，缓解行业发展难题。继发布“轩辕70B”金融大模型后，度小满还会持续加强技术研究工作，为加速推动大模型落地金融各大场景贡献一份力量。
相关阅读
热门推荐
