界面新闻记者 |
界面新闻编辑 | 宋佳楠
“百模大战”爆发一年后 ,大模型虽然在智能办公、金融和教育等领域有了一些落地应用,但商业化落地难的问题并没有完全得到解决。
近日,猎户星空发布了一款自主研发的大模型Orion-MoE8×7B ,试图去探索一些能够破解上述难题的新方向 。
Orion-MoE8×7B大模型拥有8×70亿参数,采用了生成式混合专家的设计,支持中文 、英语、日语、韩语等多种语言。与同规模参数级别的基座大模型对比 ,Orion-MoE8×7B大模型在推理速度方面展现出一定优势。
猎户星空首席科学家韩堃对界面新闻表示,很多时候大模型用来聊天体验还不错,但要放到比较严肃的任务型或企业级技术应用中,效果总是不好 ,核心的原因就在于数据 。“用更好的数据赋能大模型,其在应用中才能真正发挥价值。 ”
近年来,随着AI大模型进入爆发增长期 ,算力 、算法、数据成为发展的关键三要素。相比于算法和算力,在大模型的商业闭环中,数据会直接影响其在垂直行业落地的效果 。
猎户星空董事长傅盛解释了背后的原因 ,称算力的供应商都是一致的,差距仅限于各家公司购买GPU规模的不同,算法也基本差不多 ,大模型的能力靠的就是数据,“之前并没有人捅破这层窗户纸”。
而该公司新发布的大模型Orion-MoE8×7B正是看准了市场对高质量训练数据的需求。其在研发基础模型的同时,也联合猎豹移动旗下聚云科技共同推出大模型数据服务产品AI数据宝AirDS ,为有大模型应用需求的企业提供数据收集、清洗 、标注、提示词工程以及评估等服务。
这相当于,猎户星空研发了基础模型和应用,帮助其他有大模型落地需求的企业提升训练数据质量,而这项服务本身有望让Orion-MoE8×7B大模型实现商业化落地 。
据界面新闻了解 ,目前大模型的训练数据标注主要还是依靠人工。但大模型训练需要的数据量非常大,人工标注或者数据清理的速度往往难以跟上市场的需求,成本也相当高。如果通过大模型对海量数据进行筛选、清理、去重 ,就能实现降本提效 。
不可否认的是,目前大模型在数据处理上还不能完全替代人工,在一些对数据质量要求比较高或者难度比较大的场景中 ,人工进行精细的标注和筛选更为合适。
一位大模型技术人士告诉界面新闻,未来的数据服务应该是AI+人工结合的方式。AI大模型的价值是把数据的规模快速提升上来,“如果数据质量非常高 ,但数据量不够,大模型的训练仍然会出现瓶颈 。”
这意味着,通过大模型进行数据处理的市场需求会大大增加 ,那些具备对外开放数据能力的厂商也将得到更多的发展机会。
沈向洋:大模型对算力需求每年增长四倍以上,合成数据催生百亿创业风口|界面新闻 · 科技
一年融资12亿的银河通用也面临数据缺失难题|界面新闻 · 科技
金融科技企业出海加速!信也年内获三张海外牌照,金融壹账通输出技术|界面新闻
医渡科技2025财年中期业绩:盈利能力持续提升,期间亏损大幅收窄|界面新闻
商业头条No.49 | 大模型抵达“分水岭”|界面新闻 · 科技
关于AI基建及产业大模型,吴泳铭、周鸿祎等在乌镇给出了这些看法|界面新闻 · 科技
腾讯再开源两款最新大模型,开闭源之争又起波澜|界面新闻 · 科技
解决小微企业跨境展业难题,蚂蚁集团创新风控技术案例入选2024世界互联网大会“携手构建网络空间命运共同体精品案例”|界面新闻