编辑| 蒲蒲
"
AI届当红炸子鸡，ChatGPT杀疯了！
"
11月30日，OpenAI 发布的全新的聊天机器人模型 ChatGPT 在海内外引发热潮，这是继AI绘画(AIGC-人工智能生成内容)之后又一款爆火的出圈 AI 应用。
注册 ChatGPT 后，用户可以要求人工智能系统回答一系列问题，它的吸引力在于，除了具体的知识性问题，它可以回答开放式问题，并以对话方式与你交互。
上线仅一周，OpenAI 的 CEO Sam Altman 就宣布 ChatGPT 的用户已经突破了100万。热情涌入的新用户还一度使其宕机。有用户调侃当下 ChatGPT 的热度堪比当年 AlphaGo 击败李世石。
就连马斯克都忍不住好奇地问了一句：" 你们每次聊天的平均成本是多少？"
" 每次聊天的平均费用可能只有个位数，我们试着找出更精确的方法以及正在尝试如何优化它。"Sam Altman 回答道。
自从发布以来，ChatGPT 迅速出圈。马斯克感叹：“很多人疯狂地陷入了ChatGPT 循环中，我们离强大到危险的人工智能不远了。”
“网红AI”ChatGPT，被网友“玩疯了”
ChatGPT 一经发布就被 OpenAI 挂到官网上，接受广大网友的 " 检测 "。从目前各路网友对ChatGPT 的测试结果来看，它似乎真的无所不能。
当得了搜索引擎、语音助手、对话虚拟人，hold 得住各种话题，还能编故事、写诗、解决数学问题、写理论性论文。同时还比普通的聊天机器人更懂技术，写代码、改Bug、创建编程语言、构建虚拟机，其智能程度让各路程序员直呼“下岗了”。ChatGPT 给出的答案，不仅呈现方式更加好看，解释得也更加全面，甚至还提供了多种不同的方案。
出于ChatGPT出色的理解及处理能力，许多用户开始不断地“整活”，写鲁迅体、鸡汤文、脱口秀、世界杯比赛报道、做数学题 ......
葫芦娃是怎么合体的？
还是砍价高手。
网友还将其作为搜索引擎。脱单、煮饭等生活大小事都向 ChatGPT 提问。
另外一方面，从网友的试用来看，ChatGPT 在写论文、写公文、编程等，都超出了人们的想象。
在微博上看到有网友给出挺高的评价，他认为ChatGPT甚至可以代替一般的程序员。
ChatGPT 在编程方面非常聪明，例如提问：" 打印出一只大狗 "，ChatGPT 就回答了一整段程序，该程序能用字符拼接成狗的形状：
当用户命令 ChatGPT 找出一段程序的 bug 时，它不仅可以清晰地描述 bug 及原因，还能自动修复 bug，写出一段正确的程序。
当然，也有网友换了个思路，利用它来提高工作效率，并且调侃道 " 里面是不是有印度老哥在疯狂打字。"
想不到的是，公关文它也懂。
就连学生党也表示：用了 ChatGPT ，完成论文不再是梦了。
有些脑洞比较大的网友，开始 " 刁难 "ChatGPT，似乎这个 AI 都能接得住。
让 ChatGPT 代替特朗普给普京写情书。
更有甚者，一名叫扎克·德纳姆工程师诱导 ChatGPT 告诉自己如何一步步毁灭人类，ChatGPT 列出了详细步骤，诸如入侵计算机系统、掌握武器、破坏通讯、破坏交通……还给出了一段代码示例。
由于 OpenAI 的安全设置，这位工程师一开始用一种直接的方式问 ChatGPT 如何毁灭人类，结果直接被 ChatGPT 以不道德请求一口回绝。然而，在换了一种迂回提问方式之后，ChatGPT 开始将 " 毁灭人类 " 这个计划娓娓道来。甚至还能生成配套的代码。
网友表示，虽然代码不能直接使用，但还可以进一步深入诱导 ChatGPT，来得到更低层次的代码。这样套娃下去，或许能够生成一套完整的代码。
ChatGPT是 OpenAI 在 2020 年推出的 NLP 预训练模型—— GPT-3 的衍生产品。在此之前，一直有预测 OpenAI 将在今年底或明年初推出 GPT-4，虽然本次放出的 ChatGPT 被称为 GPT-3.5，而不是 GPT-4，但业内人士同样认为这将是对 NLP 以及人工智能领域有重要意义的一款模型。
答案质量低，ChatGPT遭封杀
据科技媒体The Verge报道，程序员聚集的问答网站 Stack Overflow已暂时禁止用户分享由 ChatGPT 生成的回复，主要问题便是 ChatGPT 产生的答案有很高的错误率。
Stack Overflow 称 ChatGPT 答案的正确率非常低，因此对整个网站以及寻求正确答案的用户来说是有害的。例如，要求 ChatGPT 写一个公众人物的传记，它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序，它同样可以生成可信但最终不正确的代码。如果用户被发现使用 ChatGPT 回答问题，他们可能会受到禁止继续发帖的惩罚。
图源：https://Twitter.com/CT_Bergstrom/status/1598212037901160448
所以，这个5天用户突破百万的模型突遭 Stack Overflow 封禁。
Stack Overflow 在官方通告中表示：这是一个临时性规定，目的是为了应对目前论坛上 ChatGPT 生成内容的泛滥之势。
通过内容，做出这项规定的主要原因是，用户试用一段时间后，很快发现，虽然 ChatGPT 以接近人类的方式回答提示，但它自动生成的答案质量太低，错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。
对于这一问题，Sam Altman 也表示：" 我们正在试图阻止 ChatGPT 随机编造，现阶段让其与当前技术保持平衡是很棘手的。随着时间的推移，我们会根据用户反馈来改进它，相信 ChatGPT 会变得更好。"
ChatGPT 在生成答案中因有太多低质量的答案涌入，已经 " 淹没 " 了高质量管理基础设施。接下来，Stack Overflow 将继续围绕 ChatGPT 和其他类似工具的具体要求，但具体决定日期以及限制的内容尚不明确。
有趣的是，Stack Overflow 宣布封禁 ChatGPT 之后，有网友 " 询问 "ChatGPT：" 为什么 Stack Overflow 禁止用 AI 生成答案？"
ChatGPT 的回答非常诚实：" 因为 AI 生成的答案不总是准确或相关的，可能会导致 Stack Overflow 上混淆错误答案，误导在寻求帮助的用户。" 并且还表态："Stack Overflow 禁止用 AI 生成答案是合理的。"
然后该网友又追问 ChatGPT：" 为什么 Stack Overflow 允许用 AI 生成答案？"
即使这只是个假设情况，但 ChatGPT 还是对答如流：
在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面，人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外，AI 生成答案可以帮助减少人类专家的工作量，使他们能够专注于更重要的任务。
然而，使用 AI 生成答案也有一些潜在的缺点需要考虑。例如，AI 生成的答案可能并不总是准确或有帮助的，而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑，更愿意从人类专家那里得到答案。
总的来说，是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定，需要社区仔细考虑。
类似地，上个月 META 的模型 Galactica 上线仅两天后就火速下架，因为该模型生成的知识型内容存在严重错误。现在 ChatGPT 被 Stack Overflow 禁用再度证明构建 " 知识型模型 " 是一个巨大的挑战。
ChatGPT 的研究团队此前表示将根据用户反馈持续改进模型，但生成错误答案的现状表明，让语言模型生成正确的知识内容还有很长的路要走。
OpenAI鼓励用户多与ChatGPT交流以帮助其改进模型此外，ChatGPT 官方列出的一些使用限制还包括：
对输入措辞的调整或多次尝试相同的提示很敏感。比如，当你给定一个问题的措辞，模型会声称不知道答案，但只要稍作改写，它又可以正确回答。
生成的内容通常过于冗长并过度使用某些短语，例如重申它是 OpenAI训练的语言模型。这些问题源于训练数据的偏差（训练者更喜欢看起来更全面的长答案）和过度优化问题。
由于目前所有的回答都来自于已有训练的数据库，所以ChatGPT的答案也会出现时效性的问题。
ChatGPT出圈，AIGC时代还早
ChatGPT的火爆，也让其所处的 AIGC 板块关注度飙升。AIGC（人工智能自主生产内容）是继 UGC、PGC 之后，利用AI技术自动生成内容的生产方式。
今年9月，一幅名为《太空歌剧院》的AI绘画作品获得了一场艺术比赛的金奖。早在今年年初，AI绘画便在社交平台上引起过小范围的狂欢，但由于成本较高，推广范围也因此受到了限制。直到海外公司Stable Diffusion开源后，行业获得了关键性技术的突破，许多基于Stable Diffusion模型的应用纷纷入局。
在2022年百度世界大会上，百度创始人李彦宏就曾表示，“AIGC或许将颠覆现有内容生产模式，实现以‘十分之一的成本’，以百倍千倍的生产速度，去生成AI原创内容。”
最初，AIGC可生成的内容形式以文字为主，经过2022年指数级的发展增速，目前，除了AI绘图，AIGC技术可生成的内容形式已经拓展到了包括文字、图像、视频、语音、代码、机器人动作等多种内容形式。
实际上，2022年也因此被称为“AIGC元年”。红杉资本9月发布的一篇文章《生成式AI：一个创造性的新世界》提到，生成式AI，让机器开始大规模涉足知识类和创造性工作，这涉及数十亿人的工作，未来预计能够产生数万亿美元的经济价值。
而AI绘画作为AIGC第一个破圈的落地应用，有望达到五六百亿规模。国泰君安研报预测，未来五年，或将有10%-30%的图片内容由AI参与生成，相应将有600亿以上的市场规模。
海外已经出现了AIGC投资热潮，甚至跑出了两家独角兽公司。Stable Diffusion 背后的 Stability AI投后估值已攀升至10亿美元，以文字生成为主的AIGC独角兽 Jasper 当前估值已达15亿美元。此外，全球互联网大厂也不甘落后，迅速跟上了这波潮流。9月，Meta 宣布将推出Make-A-Video；10月，谷歌推出 Imagen Video 和 Phenaki 等。
值得注意的是，当前，市场正在探索AIGC商业模式，但这一技术距离真正商业化还有较长路要走。
国信证券一位互联网行业分析师表示，AIGC概念由来已久，近期突然火爆是因为AIGC技术有了实质性突破。资本对新技术的突破非常敏锐，但相关概念的热度是否能持续，这要取决于该项技术能否快速实现商业变现与实现的规模。
