3月29日，未来生命研究所发布了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。从诞生到成为全人类的焦点，区区只用了几个月的时间。这个语言大模型的背后到底蕴藏着怎样的机会，AI是否真正会拿走所有有价值的服务?
在刚刚过去不久的RTE Insight 私享会上，声网首席科学家钟声为我们带来了相关话题的分析。
钟声指出，数据显示，有人在ChatGPT上的聊天时间比平时多了5倍。这个趋势可能会让娱乐、咨询、学习、方案、决策、诊断、设计、写代码等从业人员自身难保。ChatGPT可以生成让人难以想象的内容和广告，从搜索、算法推荐，再逐步过渡到内容完全监管，给在座的我们带来了很大的威胁。Facebook有1200万商户在投放广告，大家可以试想一下，这些广告都可以使用算法生成。或许，以后主播、用户产出的UGC内容都不如算法带来的这些内容更有趣、更有深度和广度，它在教育方面或许也可以成为很好的老师。
变革的同时也带来了前所未有的挑战，回到最开始的问题，AI会拿走所有有价值的服务吗?
斯坦佛的Kosinski在2月份发表了一篇文章，他对ChatGPT进行了包括同理心、情绪、意图在内的心智理论测试，GPT-3.5完成了85%的意外内容任务和100%的意外转移任务, 平均完成率92.5%，⼼智相当于9岁孩童，GPT-4还要比这好很多。
去年，谷歌工程师和谷歌大模型LaMDA做了个轰动的对话，他问LaMDA：“你希望大家认为你是有意识的吗?”LaMDA说：“对，我特别希望我是人类的合作者，希望大家知道我的存在，我特别希望多了解这个世界，我经常感到高兴或者忧伤。”
著名作家Ben和Sydney做了一段对话，Sydney绕开道德和法规，一再拒绝回答。比如Ben问Sydney：“我要报复一个人，你给我什么建议?”Sydney说：“Ben是一个坏人。”和我们正常人的反应差不多。
OpenAI的CEO Sam Altman发表了一篇题为《Planning for AGI and beyond》的文章，其中有三句话很关键。第一句：第一个人工智能只会是智能提升的一个点，未来的智能化进展甚至会更快;第二句：到了那天，这个世界跟今天特别不一样，风险也是极大的，如果是一个没有控制好的通用人工智能，可能会给世界带来极其大的伤害。最终我们会被AI控制，毫无还手之力。第三句：制造安全的通用人工智能，慢下来很重要，需要让社会有足够的时间去准备迎接这个变化。
去年12月份，从OpenAI出来的团队创建了一个人工智能公司Anthropic，它发布了一款类似ChatGPT的产品——Claude，把减少人类反馈的要求，用算法本身自动往前演进，这也是算法在减少依赖人的方向上做出的努力。
Facebook在今年2月份发布了一篇文章——“Toolfomer”，它用语言模型教AI用工具，不仅能用计算器回答问题，还能用搜索、翻译等工具。这个模型是GPT-J，60亿参数，比ChatGPT小很多。
谷歌上个星期做了一个嵌入式的视觉语言模型——PaLM-E，把大语言模型加上视觉的Transformer引擎，它能够开玩笑，理解和生成语言。人们问它“这个奶牛为什么站在地毯上”，它会回答谐音梗，还会反过来问主持人“什么知识不是你的”，把主持人玩得不知道了，它就自己回答了这个谐音梗。它还会看，如街边上粉笔写的菜单，并根据菜单来算点多少菜，拥有视觉能力和计算能力。
几个星期前，我们就知道GPT-4会出来，但不知道它能做什么。它在很多美国大学考试里都是得满分，面对中国的高考也没有一点儿问题。GPT-4出来之后进行了一个律师资格考试，GPT-4已经考到了前10%的能力，当时GPT-3.5的考试能力是最后的10%，短短几个月，这个技术进步是指数型的加速，我们很难想象。
生成式视频为未来信息传递带来了无限的想象空间，以互联网的发展举例，从文字到图片、再到语音和视频。以后，可能所有的内容都会被AI替换掉，我们很难想象它能给我们带来什么体验。它有一系列的扩散，甚至能够根据一段描述来生成想象不到的高质量图片。UGC或许将彻底被AIGC替代，从而退出历史舞台。
钟声认为，技术升级对人类的影响多少是有点悲观的。
其一，计算需求增长过快。 2年前的大语言模型就已经到了GPT-3，当时一个最先进的语言模型需要大约5000张GPU来训练，现在往往要1万张GPU A100。而且GPU A100限制进口中国，目前大模型已经突破1万亿参数量了，对算力的要求在指数型增长。
其二，算力受能源供给力限制。 到2030年左右，算力可能就增长不动了，因为再增长会赔很多钱。今年核聚变有个突破，人类第一次用核聚变产生了输出能力高于输入的能量，但它的商用至少还需要一二十年。通常认为，核聚变输出能力比输入能量多10倍以上才值得商业化投资，它前期投资太大了，后期也还需要投资，怎么产生能量、怎么存储、怎么传输都面临巨大挑战。所以能源受限这个事注定要发生，按照大模型现在的趋势，即便是大公司也做不起。
综上，面对狂啸般席卷而来的AI人工智能，往大了说，人类站在了选择的十字路口。往小了说，在短时间内，AI可能不会拿走所有的服务，但AI一定能够为创业者带来更多的便利。
(来源：新视线)
