人工智能行业的发展,一直与能耗相伴,大量的算力需要海量的电力支持,众多大型科技公司纷纷布局能源公司。但在另一方面,降低能耗,提高效率也是科技公司的优先布局点,《知识分子》鉴于此方面的发展趋势,对话数珩科技创始人&董事长张继生。
降低AI应用能耗,转型服务绿色发展
在现有的业界讨论中,AI能耗问题的困难不仅在于信息不透明,还因为它的边界难以界定。就大模型和算法层面,AI在训练阶段比推理阶段的能耗更高。换句话说,现有的超高能耗不会成为未来AI应用的常态化。
对此,张继生先生说,随着技术的完善,日常使用AI推理的单次能耗有望下降。数珩科技作为一家领先的企业级AI解决方案服务商,一直致力于研究和应用两方面齐头并进,在自研训练大模型的基础上,开发和落地了诸多AI应用。同时为提高AI系统在特定场景中的性能、降低整体能耗,研发出了很多软硬件技术,包括模型压缩、剪枝、量化、异构计算芯片等。通过这些方式,数珩科技将AI大模型在客户实际使用中的耗能进行了有效的降低,为客户服务真实做到降本增效。
专属化AI应用,助力技术落地转化
张继生先生认为,当前AI行业存在一种趋势,即追求大规模、通用型的模型,这些模型参数量巨大,训练成本和能耗极高。然而,这种模式并不适合所有行业和企业,尤其是中小企业。他认为,根据不同行业需求,开发针对性强的小模型,不仅能够大幅降低训练成本和能耗,还能更精准地满足行业需求,实现AI价值的最大化。
数珩科技就在这一方面走在了前列,与OpenAI等公司开发的过千亿参数的大规模模型相比,数珩科技与客户紧密合作,深入了解客户需求,并据此开发出更符合实际需求、面向特定领域、参数量在20亿至50亿之间的小模型,这些小模型训练成本和时间都大大降低,同时还能更好地适应特定领域的使用场景。
张继生先生强调,AI的价值最大化需要通过与具体行业应用的深度融合来实现,而不仅仅是追求技术上的极致。实际上,数珩科技基于自研大模型开发的多款AI应用,已经在汽车、教育、快消和人力资源服务行业精准地满足用户需求,提供高效便捷服务。
最后,张继生先生表示,AI行业在追求技术进步的同时,也需要考虑其对环境的影响,寻找更高效、低碳的发展模式。通过开发小而美的模型,不仅能够降低能耗,还能更好地服务于行业需求,实现AI技术的可持续发展。数珩科技也将会持续研发技术和转化应用,以服务客户真实需求为第一位,助力更多客户实现数字化转型。
（来源：点财网）
