2023年4月11日,国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》),生成式人工智能服务在我国的规范化发展从此将有章可循、有据可依。这一文件的出台,为开普云的内容安全产品提供了更大的用武之地。
《办法》明确提出“提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗”,并列举了5项要求,包括内容应该遵守社会主义核心价值观、不得涉及歧视性内容、尊重知识产权和公平公正、不得生成虚假信息、保守隐私秘密等。这些要求与UGC时代一脉相承,贯穿始终。开普云始终恪守人类道德准则和社会主义核心价值观,紧密围绕针对互联网中涉政涉敏、危害党和政府形象、人民群众合法权益、以及不符合构建和谐社会和清朗网络空间要求的有害内容管控场景,持续打造提升针对AIGC的内容安全核心技术和全系产品。
《办法》要求AIGC的生产者要对其产生的任何结果负责,从事AIGC相关活动前必须向有关部门申请备案,用于训练的数据模型和生产的成果,都必须有合法的来源,不得侵害各类实体的合法权益,并接受全社会的监督。开普云为全国各级网信监管部门打造属地网监平台,集信源报送、常态化监测、专项任务调度、安全态势感知、纠错举报与大数据可视化展示于一体,真正实现了从数据采集、治理、问题识别、预警,到处置结果反馈的全生命周期闭环管理。
AIGC异军突起的背后,是生成算法、预训练模式、多模态等AI技术的累积与融合。开普云未来科技研究院于2022年提前布局,构建完成了大数据全生命周期能力和人工智能平台能力的两大底座,基于开源大模型和领域数据集,自主研发出了AIGC内容安全审核能力,可针对AIGC内容多模态、海量化、碎片型、变异快、反检测等特征,进行快速识别。在政务领域AI作品鉴伪、伪造政治人物识别、谣言甄别、网络水军鉴别等方面已取得了不俗的实验室成果,即将赋能产品投入市场,用更优质的产品和服务,助力实现各级各类监管部门对互联网AI生成式内容的识别和监管需求。
作为一家以数据智能化为核心技术赋能行业数字化转型的公司,开普云自成立以来,累计服务了包括中办、国办、中纪委、国家发改委、新华社、中投、中石油、国家电网在内的2000多家党政、媒体和企事业客户。公司不断加大投入内容安全业务,部署千余台服务器用于服务全国80%以上的省级政府、60%以上的中直机关和国务院组成部门、60%以上的市级政府客户,积累了PB级数据资产,处于行业领先地位。随着AIGC的爆火出圈,软件服务行业即将迈入MaaS(模型即服务)新阶段。开普云将紧跟步伐,顺势而为,坚持以科技力量坚定守护网络意识形态安全,使防范先于监管,让风控跑赢风险。
（来源：看头条网）
