新浪新闻客户端

AIGC野蛮生长,知道创宇发布SecGPT内容治理应万变

AIGC野蛮生长,知道创宇发布SecGPT内容治理应万变
2023年05月31日 15:26

  5月27日,创业黑马在北京举办了以“预见新世界,构建新格局”为主题的“2023•黑马AIGC峰会”,旨在帮助中小企业更好地了解、应对AIGC时代的挑战与机遇。在峰会上,知道创宇副总裁李伟辰进行了题为《知道创宇SecGPT,AIGC时代全流程业务风险治理》的分享,发布SecGPT架构下的内容治理方案,为中小企业做好AIGC内容治理提供了创宇思路和解决方案。

  SecGPT:一种网络安全“大模型”

  SecGPT是知道创宇创始人、CEO赵伟在2015年世界互联网大会上提出的超前性概念,是将整个网络空间的所有数据放到一起进行跨域跨层的数据关联,然后寻找风险以及应对方式的过程。

  在当下的智能时代,AI技术逐渐成为网络攻防双方所关注的核心技术之一,网安行业的需求也逐渐从“合规”向“实战”升级,随着数据资源的指数级增长及大数据能力的崛起,以SecGPT概念打造安全能力生产线成为可能。实际上,这一概念也是知道创宇构建整个技术体系以及产品矩阵的理论基础。

  AIGC野蛮生长,危机十面埋伏

  李维辰在演讲中指出,“AIGC行业从去年下半年发展到现在,不仅走出了低谷,如今这个行业的创业热潮更是如火如荼”。根据数据显示,截至2022年底,我国人工智能相关企业注册量为42.27万家;到了2023年第一季度,我国人工智能相关企业注册量新增11.41万家,较2022年同比增长25%。仅部分搜索可见,在Github上人工智能相关开源项目已经多达6.8万个以上。

  “事实上,在AIGC野蛮生长的过程中,我们也遇到了一些危机,例如AIGC生成的内容,在10分钟之内就从一个老板手里骗走了430万;还有一些人工智能生成内容的应用风险,比如AI脱衣、AI换脸等。

  我们总结了一些互联网应用平台有可能面临的危机,比如误导性和虚假信息,不当违法内容、伦理道德、歧视性内容、隐私泄露等。而这些风险都会被应用平台自身承担,后果往往是通报、罚款、整改或下架。从去年年底开始,监管的口径就已经非常严格,甚至可能会出现应用直接被下架的情况。我们已经遇到过非常多案例,所以我们认为在AIGC广泛应用的时代,互联网平台势必将面临巨大的风险压力。”李维辰指出。

  从监管视角看AIGC合规,内容、算法、数据是三大重点方向

  我国的监管部门已敏锐察觉到AIGC野蛮生长所带来的风险,并准备开展监管工作,以使其健康发展。从监管视角出发,AIGC的整个业务形态需要落实三类要求,分别是内容、算法和数据。

  在内容合规方面,今年发布的《生成式人工智能服务管理办法(征求意见稿)》提到:“利用生成式人工智能的产品提供聊天和文本、图像、声音生成等服务的组织和个人,需要承担该产品生成内容生产者的责任;提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行进行标识。”《互联网信息内容生态治理规定》里也提到:“网络信息内容服务平台应当履行信息内容管理主体责任,加强本平台网络信息内容生态治理。”

  在算法合规方面,《互联网信息服务深度合成管理规定》里提出:“深度合成服务提供者应当落实信息安全主体责任。”《互联网信息服务算法推荐管理规定》中提到的“算法推荐服务提供者应当落实算法安全主体责任”。算法合规必须考虑算法备案要求、算法评估要求、算法相对透明要求、用户权益建立健全机制等要求。

  在数据合规方面,尤其是在AIGC特定的大模型下,更会遇到一些特殊的数据合规要求。在《生成式人工智能服务管理办法(征求意见稿)》里提到:“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。

  李维辰表示,“这些监管的明确要求,都给互联网带来了新的挑战”。另外,他还指出,“除了上述监管要求,当企业成长到一定程度,进入IPO节点时,相关的部门还会提出更高的要求。比如他们会询问公司在保证人工智能技术可控、符合伦理规范方面有哪些措施和规划;公司经营是否符合相关法律;如果对外提供的产品有涉及服务数据的采集和应用,还要说明数据来源合法合规性;以及保证数据采集、清洗、管理、运用等各方面的合规措施”。

  李伟辰表示:“相信随着相关法律的逐渐出台,在IPO阶段,企业将面临的合规性的质询会越来越多。”

AIGC合规性如何应对?知道创宇发布SecGPT内容治理方案AIGC合规性如何应对知道创宇发布SecGPT内容治理方案

  面对趋严的监管趋势,李伟辰介绍到:“知道创宇SecGPT架构,由大数据AI安全基座、大数据AI安全模型算法中台、大数据AI安全能力引擎、大数据AI安全业务应用构建。在这一套基座上,我们已经成功运营了国内甚至全球性的几个超大型互联网平台,比如拥有数十万业务用户系统的云安全SaaS平台,被世界各地用户所认可的网络空间测绘平台,以及为全球客户服务的威胁情报平台。在业务安全方面,知道创宇的内容安全引擎和业务安全平台,也已经为很多互联网头部企业提供服务超过七八年时间。”

  据悉,知道创宇在内容安全方面还自研了一套创新AI系统解决架构——CDAI(Cognitive Domain Artificial Intelligence)认知域AI引擎系统,融合其多年业务审核实践经验,使用数十种前沿数据科学算法作为能力核心。目前该系统已完全接入知道创宇的ScanA内容安全监测、ScanA智能审核平台、资质审核平台、数据精标平台等诸多产品。

  李维辰介绍道,“基于SecGPT,我们可以根据客户需求制定不同的解决方案。比如针对互联网应用平台,可提供AIGC智能审核定制、内容合规鉴别服务、AIGC训练标注服务、AIGC合规基线评测4套内容安全风控方案;针对大模型、大模型应用和相关企业,可以在训练阶段、评估阶段、推理应用阶段提供三位一体的合规解决方案;而针对AI对话、AI绘画、AI办公、AI搜索、AI视频、AI音频等AIGC应用场景,也可以提供ScanA全栈式内容风控体系解决方案。”

  最后,李伟辰表示:“知道创宇作为网信代表企业,将紧跟国家政策要求,向AIGC领域全方位渗透。通过人机深度交互,机器智能与人类智慧深度结合,实现以数据为中心、以分析处理数据为中枢的自主感知、自主分析、自主决策、自主打击能力,可为业内提供非常靠谱的、且能够落地的合规安全解决方案。”

  (来源:看头条网)

责任编辑:孙青扬

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2023 SINA Corporation

All Rights Reserved 新浪公司 版权所有