千行百业用AI大模型,为什么火山引擎是聚处?

千行百业用AI大模型,为什么火山引擎是聚处?
2024年09月06日 10:56 脑极体Unity

“角儿是座儿叫出来的”,这句话不仅适合相声艺术,也很符合AI大模型商业化的现状。

今年以来,“大模型落地”成为AI和云产业的高频词。避免“叫好不叫座”,让AI大模型更快地融入行业场景之中,被各行各业真正用起来,是当务之急。

行业用户多、落地案例丰富的大模型及AI服务生态,才算完成从实验室到商业化的闭环,才能在市场竞争中站稳脚跟。

最近恰逢2024火山引擎AI创新巡展,来到了天津站,分享豆包大模型的最新进展,并携手南开大学发布教育行业大模型应用开发平台。豆包大模型成功走进“象牙塔”,打造了“AI+教育”的落地标杆。

另外值得一提的是一组最新数据,截至7月,豆包大模型平均每家企业客户日均 Tokens使用量,较5月15日模型发布时期增长了22倍。在零售、汽车、智能终端等行业,都携手企业用户,落地了不少AI实践。

火山引擎,让AI大模型越来越“叫座”,在行业智能化中扮演着越来越重要的角色。

传统相声曲艺界有句话,叫“北京是出处,天津是聚处”。天津并非相声发源地,却将相声艺术发扬光大。有人说,因为天津观众的欣赏眼光高,接受住天津观众的考验,才算在相声界站稳脚跟。

我们也不妨就从南开大学的“AI+教育”实践开始,看看火山引擎到底经受了哪些考验,才最终在行业站稳了脚跟。

要说哪些行业对AI技术和服务的要求较高,教育行业一定排在前列。

简单来说,教育行业的用户数字素养普遍比较高,对数字服务和体验的要求也更高。而且,由于教学信息化、数字化变革早,科研任务的数据量大,高校数字基础设施建设也相对成熟,对AI的需求更多在于如何提升教学/管理/服务水平。

所以,AI大模型要融入教育场景,带来用户体验和管理效率上的实际提升,收获认可,并不是一件容易的事。

以南开大学为例,通过深入的调研和测试,最终选择与火山引擎合作,为师生的学习、工作和生活提供更加便捷、高效的服务。

此次“AI+教育”实践,体现出三个特点:

1.融合程度深。南开大学利用火山引擎的AI技术,改革教学、科研及管理体系,打造国内首个全面融合大模型能力的智慧校园,在全国范围内属于先例,具有标杆意义。

2.落地范围广。目前,双方已经在“AI技术设施”与“AI 管理服务”两个场景,落地一批“AI+教育”场景化应用,如教学场景中的“大学语文学习助手”“编程实训助手”,服务场景的“新一代校园AI智能融合门户”“部门服务助手”,以及管理场景中的“数据管理助手”,全面满足南开师生在教学和服务场景下的智慧学习、智能办事、教学咨询、数据查询、知识答疑等需求。

3.升级难度小。此次南开大学的智能化升级,火山引擎帮助建设了先进的AI基础设施,全力优化AI总体技术服务的底座与能力,提供了从硬件算力到开发工具、推理部署的一系列系统。这个完备的AI服务生态,让南开大学可以更聚焦于自身擅长的能力和行业经验,减少了智能化升级的难度。

比如已经落地的南开大学大模型应用开发平台,现已开放给南开的广大师生,使用大语言模型变成像使用Windows操作系统一样简单、易用,教育智能化的创新速度和效率,自然也就大大提高了。

目前来看,一系列AI赋能项目的实施和AI应用的落地,让南开大学在教学质量、科研效率和校园管理等方面都取得了显著进步。

(南开大学副校长、教授、博士生导师方勇纯)

南开大学副校长、教授、博士生导师方勇纯表示:“南开大学携手火山引擎,共同探索‘AI+教育’的创新模式,落地一批AI应用场景,培养一支高水平的AI人才队伍,全场景拥抱大模型,推进‘数字南开’智慧校园建设。”

可以看到,火山引擎的全栈AI技术服务生态,已经在海河之滨,点亮了一座AI在教育行业的落地灯塔。

与南开大学的合作中,火山引擎输出的不只有豆包大模型,还有火山方舟大模型服务平台、HiAgent AI应用创新平台以及AI全栈云等多种能力。这并不是孤例,而是很多行业引入AI的普遍现象。

随着以大模型为主的AI技术不断进化,涉及的相关技术体系也越来越庞杂,行业想要引入AI,需要考虑到算力资源、成本、开发工具、应用等方方面面,每一个环节都可能形成阻碍。这就使得行业从以往单一地采购硬件、算力或技术,转变为系统性地引入AI能力。

这时候,综合能力过硬的火山引擎,就迎来了惊艳亮相的舞台机会。

相声艺术的基本功是说学逗唱,火山引擎也在大模型落地行业场景时用到了三大基本功。

(火山引擎副总裁 张鑫)

功力一:更强模型。

行业用户最担心的,就是模型效果不达预期,无法在真实的生产环境中,利用大模型的理解、生成等能力,为业务提质增效。解决办法,就是把AI能力构筑在足够先进的模型底座上。

智源研究院旗下的 FlagEval 大模型评测平台6月发布的评测榜单显示,在闭源大模型的“客观评测”中,豆包大模型以综合评分75.96分排名国产大模型第一,并且还在不断升级演进。2024火山引擎AI创新巡展-上海站最新数据显示,豆包大模型综合能力提升了20.3%,角色扮演等6个维度性能最高提升38.3%,可以支撑行业用户构建更优质的语音对话、文本理解与生成、图像识别等AI应用。发布2个月以来,平均每家企业客户日均Tokens使用量增长22倍。建立在规模使用量上的“数据飞轮”转动起来,模型能力持续领先。

功力二:更易落地。

在实际业务中,AI大模型面临的环境更复杂、干扰源也更多,因此算法的准确率、鲁棒性等也会受影响,行业用户要真正把AI用起来,还需要结合知识库、专有数据、finetune进一步优化。

让AI落地无忧,火山引擎打造了从算力到应用的一系列平台和解决方案。比如一站式大模型服务平台火山方舟,提供模型精调、推理、评测等全方位功能与服务;模型层,豆包大模型家族,提供丰富的垂类模型,适配多种业务场景;应用层,企业级AI应用开发平台扣子专业版,提供专业级SLA和多种高级特性,使AI应用更易落地。AI 应用创新平台HiAgent,让业务人员可以轻松构建智能体,适配企业个性化需求,简化AI应用创新。火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,解除“买不到、买不起”算力的后顾之忧。

在此次天津站活动中,不仅南开大学分享了基于火山引擎全栈云与AI服务的智慧校园应用探索,中国国航、协和医院也分享了AI赋能业务的相关实践。

功力三:更低价格。

随着AI走向各行各业和生产环境,日常训练和推理的使用量不断增大,成本也变成了行业用户在引入AI时最关注的要素之一。模型价格高,试错成本高,会阻碍行业AI应用创新的意愿和行动。因此,更普惠的AI才是行业真正需要的。

帮助企业卸下成本负担,火山引擎一方面从当前入手,直接削减大模型推理成本,通过技术手段优化,让豆包大模型在各家大模型最强版本价格对比中,比行业价格低98%以上;另一方面着眼于长期使用,提供业内最高标准的初始TPM(每分钟Tokens)和RPM(每分钟请求数),每分钟处理Tokens 限额最高可达同梯队模型数倍,以更低价格、更高吞吐,让大模型在生产环境中用起来。

“叫好又叫座”的AI,不仅是发布会和实验室里碾压同行的漂亮数据与排名,更要走上行业舞台、直面群众,变成实际的案例与价值。

这是AI商业化所必须解决的挑战,也是云和模型厂商猛攻的新赛道。而火山引擎,已经亮出了具有说服力、全面而深厚的AI功底。

行之有效的行业案例,可以证明大模型确实有实用价值,才能推动各行各业“移风易俗”,向AI奔涌而来。

从这个角度看,已经在教育、零售、汽车、智能终端等领域点亮了AI灯塔的火山引擎,正吸引着越来越多的行业客户奔赴而来,为什么?

首先,“灯塔式”案例,可以照亮前路。当行业用户不知道AI有什么用、怎么用,这些示范案例可以像灯塔一样指明方向,让其他同类用户直接“抄作业”,减少创新的不确定性。

除了与南开大学进行“AI+教育”探索,火山引擎还在零售领域,推出了解决方案,包括以豆包大模型为基础的智能导购、VOC洞察分析、零售客服质检、零售客服陪练、练播房提升主播带货水平、企业商品知识库等技术和工具,助力零售智能化升级和业务增长。

在汽车行业,2024年8月梅赛德斯-奔驰与火山引擎合作,探索大模型、生成式人工智能和大数据等技术在智能座舱、车载应用等领域的落地。

有了这些案例,行业用户或许可以更勇敢一点,积极拥抱AI。

“灯塔”给出了升级方向,千行万业用户还要在陌生的智能航路上,独自探索,其间可能遭遇的暗礁与孤独感,这时则呼唤着伙伴同行。

为行业护航,火山引擎不仅亲自出马,搭建了完整的AI服务生态体系,也格外重视生态联盟的建设。

今年5月成立的智能终端大模型联盟,吸引了OPPO、vivo、三星、华硕等多个厂商,共同探索AI智能硬件的新路线;同月成立的汽车大模型生态联盟,除了一汽红旗、吉利、长城等车企外,还包括中国电动汽车百人会等行业组织也都加入,围绕汽车大模型应用场景及路径、汽车大模型行业标准、汽车大模型评估体系建设落地,行业白皮书发布等方向为汽车行业创新合作发展带来新模式。

8月成立的零售大模型生态联盟,则以AI交互为核心,将联合零售上下游企业,重新定义购买、营销、产品、供应链等场景,加速零售业的运营和周转效率,全面提升消费者的购物体验,推动行业进步发展。

上述生态联盟的意义在于,能够聚合产业的变革力量,让行业用户不再是AI路上的独行者。

火山引擎的一系列生态化动作,正推动AI从落地企业,进入到了落地产业的新阶段,让智能化从一家企业、一个行业的探索,变成整个产业都在加速拥抱的未来。而火山引擎自身,也成为连接AI与产业的核心枢纽。

或许未来,当我们回顾这段产业智能化的升级历程会说:火山引擎,既是AI技术的出处,也是千行百业的聚处。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部