OpenAI的大模型又一次火出了圈：ChatGPT在多轮对话中对答如流，无所不能，人类又一次惊呼自己要失业了。
我对火爆的ChatGPT怎么看？说实话，作为AI/CS从业者，我特别担忧。瞧，这几天，Stack Overflow不是忙着讨论禁止用ChatGPT回答问题吗（技术上能否禁止要另说）？我也严肃地把我对ChatGPT的个人意见简单列在下面：
观点1：AI创作在知识教育领域极度危险
任由AI一本正经地“编造”知识型答案的前景是非常危险的：想象一台内容创作成本接近于零，正确度80%左右，对非专业人士的迷惑程度接近100%的巨型机器，用超过人类作者千百万倍的产出速度接管所有百科全书编撰，回答所有知乎问题，负责孩子课外读物的生成，甚至直接被既懒又坏的教程编撰者、科普作者用来代笔……
例如，以下是我用杜撰的学术概念“镜像等离子规范场”“自然语言里的丁达尔现象”向ChatGPT提问的情形。看得出，AI确实在不懂装懂地卖弄“学识”：
ChatGPT的模仿能力和文笔越好，这个未来风险就越恐怖。今天的AI生成理论，还没办法保证生成内容的逻辑正确与合理；建立人类领域专家参与的AI训练过程，发展与正确性相关的增强学习算法可能会是未来的一个AI科研热点。
观点2：AI/CS专业人要保持冷静
面对大幅提升多轮对话能力的ChatGPT，越是AI/CS 的从业者越是不能一味地顶礼膜拜；最起码，应该有测试和验证的精神，不断探索新模型的能力上限，甄别模型生成答案时真正的“记忆认知”和基于特征相似性的“模仿游戏”。
今天的AI仍然没有摆脱“大黑盒”的问题，从黑盒内部做的数学解析和从黑盒外部做的边界测试，都有助于理解AI与咱们大脑之间的真实距离。
观点3：AIGC大发展，“跟风”要有道德底线
今年AIGC（AI生成内容）大发展。上个月我在硅谷拜访投资公司、科技公司、创业团队。科技圈里，几乎人人都在谈AIGC，似乎没有AIGC包装的创业项目就不是好项目，没有AIGC概念的科研就发不出好论文。
有件事给我一个“当头棒喝”：因为行业大佬的安排，我们有幸与OpenAI的两位联合创始人一起咖啡。期间，统领OpenAI科研的两位科学工程大牛用非常技术化、务实的心态谈他们的工作计划和技术思考。但，让我们无比诧异的是，两位创始人竟然不知道AIGC是什么意思！
仔细想来：从科技上开创AIGC这个新领域的OpenAI创始人，其实并不需要知道类似AIGC之类纯粹用来包装科技概念的新名词；他们要研究的是大模型结构、并行训练加速、神经网络优化等等具体科学与技术。这样的人才是真正的创建者和领航者。
在AIGC的概念下一拥而上，或创业，或投资，或把AIGC快速包装成应用产品的大多数，其实都是没能力决定科技大方向的跟风者。这世界上本来就跟风者多，领航者少，一点儿也不奇怪。我只是简单期望所有跟风者在AIGC这个大舞台上，不要过于头脑发热，还是要多判断一下，自己构建的所谓“产品”，到底是有益于人类进步的，还是向已经碎片化的内容世界继续灌水或倾倒垃圾的。
嗯，就快速总结这几条。
另外，本文题图及文内彩色插图是由Stable Diffusion模型自动生成的。
