新浪新闻客户端

云徙科技CTO&副总裁李楠:生成式 AI 的企业应用落地探索

云徙科技CTO&副总裁李楠:生成式 AI 的企业应用落地探索
2024年09月30日 09:52

  8月30日,2024农牧行业CXO数智化研讨会暨走进华为系列活动圆满结束。本次活动由云徙科技联合华为、麦汇信息,共同举办,活动以“数智农牧,共话增长”为主题,行业专家及数智化大咖齐聚深圳华为坂田基地,共同探讨农牧行业数智化发展趋势和新的增长点。

  云徙科技CTO&副总裁李楠受邀出席本次活动,并就生成式AI技术当前的发展趋势和企业侧深度应用做主题分享,以下是李楠的分享实录:

  从去年到现在,我比较关注生成式AI,今天的主题是想跟大家分享和探讨生成式AI现在的发展阶段,以及一些使用场景。

  说这个事之前,我们一定要意识到这一轮生成式AI是一场技术驱动的变革,会对企业业务带来非常深刻的影响。

  01 生成式AI已成为重要战略技术

  我们先来了解一个概念,何为生成式AI(Generative AI)?

  生成式AI,是指能够创建新的内容或数据的人工智能模型。这些模型通过学和分析大量的已有数据,能够生成与这些数据相似或完全创新的内容。生成式AI的应用非常广泛,可以用于生成文本、图像、音乐、视频等各种形式的内容。

  Gartner发布了《2024年十大战略技术趋势》,提出到 2026 年,超过 80% 的企业将使用生成式 AI 的 API 或生成式 AI 模型,或者在生产环境中部署支持生成式 AI 的应用,目前这一比例不足5%。

  下面这个曲线是Gartner 2024 年人工智能技术成熟度曲线,这张图释放了几个重要的信号。

  作为数字化的负责人,要把握新的技术进展,生成式AI已经度过概念峰值,即将进入泡沫破裂期。在这个区间,会有很多企业用到这个技术,会有很多厂商想要加入这个赛道提供技术。接着,就会不断的试错,会快速的死掉一批、成功一批、价值变现一批,这条曲线后面是稳步爬坡期,进入稳步爬坡期以后代表这个技术已经在行业内成熟应用了

Gartner《2024年十大战略技术趋势》Gartner《2024年十大战略技术趋势》

  可以看到,生成式AI马上就进入到泡沫破灭期,这个浅蓝色表示多5年,快2年就会进入生产力的稳定期,快的话2年后各行各业都可以普及,慢的话也不超过5年。

  这对我们一定是一种触动,我们要开始思考怎么办?企业怎么用它?

  按照Open AI对人类通用智能这个极致目标的技术路径来看,我们先从文本大模型起步,它有理解能力,它也有生成式能力,接着会做多模态的模型,它会有图像、视频等等。

  我们会把这些模型融合在一起,生成所谓的多模态模型,这个多模态模型还是在虚拟世界里边。如果装上物理世界的手脚,也就是机器人,从去年开始,大家可能看到有很多人形机器人层出不穷。它会去规划,它该怎么走、怎么去记、怎么去算,怎么和物理世界交互,我们称这些东西为世界模型,机器人会通过跟世界的交互收取世界的反馈,建立世界模型。

  在这个基础之上,再往后发展,如果我们给这个机器人具备对更复杂任务的规划能力,甚至具备对这些知识和问题的归纳总结能力,我们称之为人类大脑的第二层系统,将迈入通用人工智能。

  可以看到,生成式人工智能的能力已经接甚至在某些领域达到了人类水。从自然语言处理到视频生成,再到具身智能,AI正以前所未有的速度进步。

  有人把它叫AIGC,也有人叫GenAI,表达是同一个意思。

  GenAI好像不错,那咱们怎么用呢?

  现在业内有一个公论,我们所谓叫AI Agent(智能体),智能体这种架构和技术应该是大模型落地业务场景做应用的主流形式。

  说几个典型的代表性事件。

  今年一季度,百度CEO李彦宏在推出AI原生应用概念,他讲的就是智能体应用;今年6月份华为在开发者大会上有三个热的论坛,第一个就是Agent应用开发大论坛,第二个是机器人大模型,华为在盘古上做大模型,第三个热的场是多模态大模型。

  02 生成式AI落地应用架构—智能体

  请记住,生成式AI落地做应用,可能的架构是智能体。

企业AI智能体(AI Agent)蓝图企业AI智能体(AI Agent)蓝图

  我们有个客户,做保健品,一年营收几百个亿。他们在数字化部门里面成立一个四人的小组,专攻这个方向。他们在研究智能体架构选择什么样的框架,在这上面实现哪几个可能的应用方向,应用方向包括使用知识库、数据分析、业务办理助手。

  什么是智能体?

  我们先来看一下智能体架构是什么?怎么就能让企业做应用了呢?

  传统意义来说,如果一个物体,它有大脑,会推理,你给它一个目标,它能做计划,它有眼耳口鼻舌,能够感触你的世界,能够知道你的企业业务知识、业务流程,它还有手和脚能够去搬东西,能够去操作你的应用,能够调你的API,能够保存你的数据,我们称之为智能体。

  这个概念,五十年代就有了,只不过现在我们把它的大脑换成大模型,换成大语言模型,类似ChatGPT或者盘古这样的大模型。

  这样的智能体,在大模型的基础上,大模型做了它的大脑。这里我要提一点,我们所说的大模型绝不是你时在用的ChatGPT,你跟ChatGPT聊天的web应用也是智能体,只不过是Open AI原厂做的。大模型朴素的形体就是API,因为是生成式模型,你给它一堆的输入,你的输入描述你到底要干什么事,描述你的上下文,一堆的文字

  在固定的计算时间内生成结果,第二次再去调这个API,它不知道你上次干了什么,它是没有记忆的,大模型本身是没有记忆的,大家需要记住这一点。如果你做企业应用,那么,在大模型核心大脑基础上一定要给它配记忆,你要给它配你的业务知识,你还要让你的Agent智能体能看到你的业务数据在哪儿

  当然,这个数据不仅仅是业务数据,也包括你的知识数据、后面的行动。只有它观察到你的业务,它思考了,它制定行动链条,接着按照这个行动链条去执行,该调什么接口调什么接口,该保存什么数据保存什么数据,该提交什么报告提交什么报告。

  这些动作都通过调用系统的API,或者生成一些叙事报告,或者装配到机器人上可以去控制一些机器构建去操作物理世界。如果有这么一个智能体,就相当于企业多了很多的数字员工,有很多的任务都可以靠它去完成。

  如果要规划这件事情,整体架构要怎么做?

  底下这层,肯定是基础模型。

  我们要把这些模型作为大脑,装入智能体里面,对智能体结合业务场景来进行开发,比如说办公领域、采购领域、营销领域、生产领域都可以开发很多的智能体。

  智能体的开发范式跟过去做应用是不太一样的。

  过去比较多的是分析需求、梳理场景、设计架构、开发代码。智能体不需要,智能体更多的是结合业务需求去写提示词。

  你可能要去搞数据治理,知识治理,就是因为开发范式不同,需要管理层,管理层里面要配置智能体。使用什么大脑,使用什么业务知识,使用什么知识库,有什么策略,需要构建各种各样的提示词。

  这些提示词,是我们来指导大模型的。按照这样的员工岗位角色设计,完成我们下达的要求。我们会有各种各样的提示词,会有很多的技能开发。

  知识管理,就是管理知识库还有数据安全。在这一层上我们去开发各种各样的智能体,旁边是现有系统,包括业务系统,业务数据资产,甚至一些三方互联网上的数据,都可以去获取的。

  对业务系统来说,如果业务中台过去建的不够好,准确来讲,就是业务API不够标准化,也会面临一些难题。如果想把业务的能力装配给智能化的话,业务API必须完备。

  目前为止,生成式AI智力虽然不错,但是解决问题的能力还是处于偏点状的场景。比如说,面向渠道零售,面向导购,在导购上用生成式AI可以看一些场景,例如生成一些客户方案对导购进行陪练。

  在连锁加盟领域,连锁加盟可以通过一些连锁加盟助手来解决加盟商常见的业务办理,还有加盟商一些小B店,老板们如果很关注经营业绩,就可以用自然语言随时去看数。

  还有一些企业的指南针,比如说针对过去有些集团型企业,甚至国企建了数字大屏,在这之上,怎么叠加生成式AI把它变成交互式的,还有一些内部系统的指南针系统,内部系统指南针问答,服务你的内部成千上万的业务员。

  还有一个是获客助手,市场部会比较需要它。对于做品牌推广和营销来说,使用场景主要还是基于知识产品相关客户交互问答的机器人,但是特点在于这个Bot是随着流量分发的。

  如果你现在打开百度,搜索几个关键词,比如说你搜某几款汽车,反馈的结果不是文章,而是智能体。你可以跟它对话,不断的问这个汽车有什么特点,产品有什么优势,价格怎么样,可不可以预约试驾,它就会让你留资。本质上它是随流量分发在做品牌相关营销。百度搜索有、抖音里面也有、微信也有,但是从技术角度来说本质上它还是结合企业知识,结合知识库的Bot应用。

  03 云徙 AI Agent 应用产品方案

  目前,AI Agent 正逐步替代大消费零售&品牌行业内传统数字化能力,云徙也非常期待与各企业合作解锁更多应用场景。

  从这张地图里边,标蓝圈的这些点状的场景,这些都跟云徙的业务有一定关系。但其实利用生成式AI和Agent架构可以做更多的事情,不一定和营销业务那么强相关的。未来应该可以解锁更多的场景。

  比如,下面这个Demo,是我们自己做的,利用自然语言做出的会员复购的业务分析。过去做会员复购,需要提需求给数据分析师,他需要做蛮多的数据加工脚本,模型计算脚本,以及后面报表呈现的脚本,后再写成图文并茂的数据报告给到市场部或者销售部。

云徙科技自然语言业务分析Demo云徙科技自然语言业务分析Demo

  我们认为这个过程中,有些部分是不需要去重复编写数据分析代码,有些部分大模型会做好思路,这可以加速写代码的过程。比如说会员复购分析,我们把它拆解成为这张图里的步骤,比如说复购的宏观指标分析,复购率下降归因分析,影响复购率的相关性分析。你可以单独用语言唤醒它,也可以说把复购分析这些工作全部做了。

  规模庞大的企业,数据分析团队是挺大的,有20-30人,这种类型企业是可以考虑把数据分析师的职能从过去单纯响应需求转化成为提供更多分析工具,以及超级入口和上面业务分析的场景,这样业务部门可能可以更方便去做一些数据上的获取,而不需要把数据分析师日复一日重复相应的事务性劳动。

  此外,我们也有尝试结合知识库和互联网媒体台数据,来生成营销文案。关于生成营销文案,过去就是直接问通义千问、盘古,让给你写个文案。你需要明确:

  1、舆情是什么,这个社会上关注的热点是什么。

  2、你的产品是不是有相应卖点匹配热点。

  3、文案既要结合符合用户热点的产品特性,也要符合品牌的社媒风格。

  我们做这个场景,会先送给智能体几个工具,比如热点舆情获取工具、文案撰写工具、内容摘要和梳理的工具。

  拿扫地机器人举例子,当给它下达这个任务的时候,它干的第一件事是爬取微博、小红书等媒体台上面的相关信息,爬了一个月的数据,大概用了几十分钟;第二步让它对爬取的数据用小模型做无效内容的过滤;第三步是用大一点参数的模型过滤剩下的文章,然后给出总结摘要,即消费者到底关心的是什么?

  然后我们发现,就关心两点:一是机器人扫角能不能扫到墙角;二是划不划地板。根据这两个点去我们的产品知识库里面找我的卖点,看我的特性里面,有没有符合这两个点的,有再去写,也是在知识库里面基于它再写。

  云徙xAgent,就是上面提到的智能体管理台,一个构建企业级 AI Agent 的台,情景化业务数据,构建契合toB智能化场景的 AI 原生应用,实现 AGI 技术的价值落地。xAgent 以大语言模型(LLM)作为核心大脑,可实现自主理解、长期记忆、规划决策、执行复杂任务。

  具像化一点,在这里面你可以创建很多智能体Agent,可能一年创建几百个,对它进行治理,配记忆、知识、工具、技能,你会写很多的Prompt。

  你可能需要整理你的业务数据,让你的业务数据能够被智能体认识,所以你要去情景化业务数据。你可能会开发很多的技能,API调用也好,外部搜索也好,有些流程可以图形化固化下来,没有必要每次都让大模型去做规划。

  后,也跟大家也汇报一下,目前,云徙也正在与一些大模型生态伙伴合作一起,打造联合解决方案。敬请期待!

  今天的分享主要就是这些,谢谢大家!

  (来源:点财网)

责任编辑:何奎良

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2024 SINA Corporation

All Rights Reserved 新浪公司 版权所有