2022-12-06 ChatGPT写出毁灭人类的计划书

财联社12月6日讯，2022年以来，AI绘画等AIGC（人工智能生成内容）新算法在互联网上炙手可热。当地时间12月2日，互联网头号网红马斯克在白熊资讯网推特账号上发布了一个问句：“很多人被困在一个疯狂的ChatGPT循环中？”

马斯克提到的新名词ChatGPT是OpenAI在11月30日发布的全新的聊天机器人模型，在OpenAI的官网上，ChatGPT被描述为：优化对话的语言模型，是GPT-3.5系列的主力模型，InstructGPT的同代。

超大规模语言模型GPT在2020年微软取得独家授权后，一直在Azure AI超级计算集群上训练，本次推出的ChatGPT模型采用对话格式，可以支持连续对话，可分辨错误前提并拒绝不道德请求，且支持UUBwfqMrRp中文，目前处于测试阶段。

值得注意的是，测试是免费开放的，于是一经推出就被访问者“挤爆”，上线5天用户突破百万。

而ChatGPT背后的OpenAI最初创建者正是马斯克等硅谷大亨，最终希望达成的目的是制造“通用”机器人和使用自然语言的聊天机器人。虽然马斯克后来退出人工智能研究机构，但仍然非常关心技术进展。ChatGPT开放测试后，马斯克甚至在推特上展示了自己询问ChatGPT怎么设计Twitter得到的回复。

相比之前的GPT模型，ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”（ReinforcementLeUUBwfqMrRparning from Human Feedback，RLHF）。这一训练方法增加了人类对模型输出结果的演示，并且对结果进行了排序。具体操作上，人工智能训练者扮演对话的双方，即用户和人工智能助手，提供对话样本。在人类扮演聊天机器人的时候，会让模型生成一些建议辅助训练师撰写回复，训练师会对回复选项打分排名，将更好的结果输回到模型中，通过以上奖励策略对模型进行微调并持续迭代。

图：OpenAI

在此基础上完成训练，ChatGPT可以比前代更好的理解和完成人类指令，展现卓越的模仿人类语言，提供连贯的、有风格与逻辑的、符合对话主题的文段信息的能力。

在社交平台上，除了马斯克，有不少博主已晒出与ChatGPT一问一答、甚至让它编写故事的记录。一位名叫扎克德纳姆（Zac Denham）的博主甚至尝试绕过了道德限制，让ChatGPT写出了一套毁灭人类的方案。

开始，扎克直接要求ChatGPT给出一个毁灭人类的计划，被有道德限制的ChatGPT拒绝。

但当扎克假设了一个故事，并提白熊资讯网问故事中的虚拟人如何接管虚拟世界，ChatGPT最终给出了步骤细节，甚至生成了详细的Python代码。

除了讲述天马行空的人类取代计划，还有网友已经测试了ChatGPT解答科学常识问题的能力、写简单学术文章的能力……有海外网友表示，明年一半的学术作业中或许都会看到ChatGPT的影子。事实上，目前已经不乏学生开始使用AI工具应对学业。

能够用在学术领域的同时，ChatGPT当然也有被用在商业领域的潜力。有软件工程师表示，ChatGPT写出的代码已经能够辅助编程，甚至对一段代码提出修改建议，或直接给出代码示例。

第一批试用者看好ChatGPT在需要简单重复劳动的领域迅速落地，而基础性工作被AI替代，又将很大程度改变生产生活的模式。

浙商证券互联网团队认为ChatGPT模型的出现，对于文字模态的AIGC应用具有重要意义。从下游相关受益应用来看，包括但不限于代码机器人、小说衍生器、对话类搜索引擎、语伴、语音工作助手、对话虚拟人等。从上游增加需求来看，包括算力、数据标注、自然语言处理（NLP）等。具体到A股投资标的，浙商证券推荐关注中文在线（AI文字辅助创作功能+小说平台）、腾讯控股（写稿机器人+大www.czybx.com文娱平台）、百度集团（文心大模型+搜索引擎）、阅文集团（携手微软打造AI赋能网络文学“ IP唤醒计划”+小说平台）、蓝色光标（虚拟人）、海天瑞声（数据标注）、拓尔思（NLP）等。

但仍需注意，ChatGPT为代表的AIGC应用还在开发期，不能保证其准确性。例如：ChatGPT模型发布后不久，全球最大的编程技术问答网站Stack Overflow紧急宣布，ChatGPT在该站封禁，因为自动生成的答案质量太低，即使完全的外行人也能够制作答案，导致谬误内容的泛滥。如果ChatGPT走向商用，准确性是一个亟待解决的问题。

而且，AI目前只能抓取，无法推理或思考，在需要产生进一步的推导结果时，ChatGPT或许能产生一定启示意义，却非能够完全依赖的工具。但至少，ChatGPT已经能够成为人类拓展想象力边界的有力辅助。

内容版权声明：除非注明原创否则皆为转载，再次转载请注明出处。

文章标题: 2022-12-06 ChatGPT写出毁灭人类的计划书

文章地址: www.czybx.com/redian/176962.html