5月27日，创业黑马在北京举办了以“预见新世界，构建新格局”为主题的“2023•黑马AIGC峰会”，旨在帮助中小企业更好地了解、应对AIGC时代的挑战与机遇。在峰会上，知道创宇副总裁李伟辰进行了题为《知道创宇SecGPT，AIGC时代全流程业务风险治理》的分享，发布SecGPT架构下的内容治理方案，为中小企业做好AIGC内容治理提供了创宇思路和解决方案。
SecGPT：一种网络安全“大模型”
SecGPT是知道创宇创始人、CEO赵伟在2015年世界互联网大会上提出的超前性概念，是将整个网络空间的所有数据放到一起进行跨域跨层的数据关联，然后寻找风险以及应对方式的过程。
在当下的智能时代，AI技术逐渐成为网络攻防双方所关注的核心技术之一，网安行业的需求也逐渐从“合规”向“实战”升级，随着数据资源的指数级增长及大数据能力的崛起，以SecGPT概念打造安全能力生产线成为可能。实际上，这一概念也是知道创宇构建整个技术体系以及产品矩阵的理论基础。
AIGC野蛮生长，危机十面埋伏
李维辰在演讲中指出，“AIGC行业从去年下半年发展到现在，不仅走出了低谷，如今这个行业的创业热潮更是如火如荼”。根据数据显示，截至2022年底，我国人工智能相关企业注册量为42.27万家；到了2023年第一季度，我国人工智能相关企业注册量新增11.41万家，较2022年同比增长25%。仅部分搜索可见，在Github上人工智能相关开源项目已经多达6.8万个以上。
“事实上，在AIGC野蛮生长的过程中，我们也遇到了一些危机，例如AIGC生成的内容，在10分钟之内就从一个老板手里骗走了430万；还有一些人工智能生成内容的应用风险，比如AI脱衣、AI换脸等。
我们总结了一些互联网应用平台有可能面临的危机，比如误导性和虚假信息，不当违法内容、伦理道德、歧视性内容、隐私泄露等。而这些风险都会被应用平台自身承担，后果往往是通报、罚款、整改或下架。从去年年底开始，监管的口径就已经非常严格，甚至可能会出现应用直接被下架的情况。我们已经遇到过非常多案例，所以我们认为在AIGC广泛应用的时代，互联网平台势必将面临巨大的风险压力。”李维辰指出。
从监管视角看AIGC合规，内容、算法、数据是三大重点方向
我国的监管部门已敏锐察觉到AIGC野蛮生长所带来的风险，并准备开展监管工作，以使其健康发展。从监管视角出发，AIGC的整个业务形态需要落实三类要求，分别是内容、算法和数据。
在内容合规方面，今年发布的《生成式人工智能服务管理办法（征求意见稿）》提到：“利用生成式人工智能的产品提供聊天和文本、图像、声音生成等服务的组织和个人，需要承担该产品生成内容生产者的责任；提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行进行标识。”《互联网信息内容生态治理规定》里也提到：“网络信息内容服务平台应当履行信息内容管理主体责任，加强本平台网络信息内容生态治理。”
在算法合规方面，《互联网信息服务深度合成管理规定》里提出：“深度合成服务提供者应当落实信息安全主体责任。”《互联网信息服务算法推荐管理规定》中提到的“算法推荐服务提供者应当落实算法安全主体责任”。算法合规必须考虑算法备案要求、算法评估要求、算法相对透明要求、用户权益建立健全机制等要求。
在数据合规方面，尤其是在AIGC特定的大模型下，更会遇到一些特殊的数据合规要求。在《生成式人工智能服务管理办法（征求意见稿）》里提到：“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。
李维辰表示，“这些监管的明确要求，都给互联网带来了新的挑战”。另外，他还指出，“除了上述监管要求，当企业成长到一定程度，进入IPO节点时，相关的部门还会提出更高的要求。比如他们会询问公司在保证人工智能技术可控、符合伦理规范方面有哪些措施和规划；公司经营是否符合相关法律；如果对外提供的产品有涉及服务数据的采集和应用，还要说明数据来源合法合规性；以及保证数据采集、清洗、管理、运用等各方面的合规措施”。
李伟辰表示：“相信随着相关法律的逐渐出台，在IPO阶段，企业将面临的合规性的质询会越来越多。”
AIGC合规性如何应对？知道创宇发布SecGPT内容治理方案面对趋严的监管趋势，李伟辰介绍到：“知道创宇SecGPT架构，由大数据AI安全基座、大数据AI安全模型算法中台、大数据AI安全能力引擎、大数据AI安全业务应用构建。在这一套基座上，我们已经成功运营了国内甚至全球性的几个超大型互联网平台，比如拥有数十万业务用户系统的云安全SaaS平台，被世界各地用户所认可的网络空间测绘平台，以及为全球客户服务的威胁情报平台。在业务安全方面，知道创宇的内容安全引擎和业务安全平台，也已经为很多互联网头部企业提供服务超过七八年时间。”
据悉，知道创宇在内容安全方面还自研了一套创新AI系统解决架构——CDAI（Cognitive Domain Artificial Intelligence）认知域AI引擎系统，融合其多年业务审核实践经验，使用数十种前沿数据科学算法作为能力核心。目前该系统已完全接入知道创宇的ScanA内容安全监测、ScanA智能审核平台、资质审核平台、数据精标平台等诸多产品。
李维辰介绍道，“基于SecGPT，我们可以根据客户需求制定不同的解决方案。比如针对互联网应用平台，可提供AIGC智能审核定制、内容合规鉴别服务、AIGC训练标注服务、AIGC合规基线评测4套内容安全风控方案；针对大模型、大模型应用和相关企业，可以在训练阶段、评估阶段、推理应用阶段提供三位一体的合规解决方案；而针对AI对话、AI绘画、AI办公、AI搜索、AI视频、AI音频等AIGC应用场景，也可以提供ScanA全栈式内容风控体系解决方案。”
最后，李伟辰表示：“知道创宇作为网信代表企业，将紧跟国家政策要求，向AIGC领域全方位渗透。通过人机深度交互，机器智能与人类智慧深度结合，实现以数据为中心、以分析处理数据为中枢的自主感知、自主分析、自主决策、自主打击能力，可为业内提供非常靠谱的、且能够落地的合规安全解决方案。”
（来源：看头条网）
