生成式人工智能是如何忽悠你被解雇的？
文摘
科技
2024-09-02 11:50
中国香港
一名营销顾问因使用 ChatGPT 为电影预告片“研究”历史电影评论而丢掉了工作。这一事件凸显了人们对生成式人工智能工作原理的普遍误解。据Deadline报道，营销顾问 Eddie Egan 因使用ChatGPT等人工智能工具为电影《大都市》的预告片生成影评而被解雇。该预告片中包含了对导演弗朗西斯·福特·科波拉之前作品的严厉批评，而这些影评最终被证实是人工智能凭空捏造生成的假影评。伊根的目的是要证明《大都市》和科波拉之前的电影一样，一开始会受到严厉批评，但最终会被公认为杰作。预告片引用了《纽约客》的保琳·凯尔和《村声》的安德鲁·萨里斯等著名影评人的话，据说他们称《教父》等经典电影是一部“粗制滥造、自我放纵的电影”，而《现代启示录》则是一部“史诗般的垃圾”。事实上，这些尖酸刻薄的评论从未发生过。相反，据《秃鹫》杂志报道，评论家们对这些电影大加赞赏。最终，制作公司狮门影业为这一错误道歉，删除了预告片并终止了伊根的合同。人工智能模型生成的只是文字，而不是真相
此案例表明，如果不了解 ChatGPT 和类似系统的底层机制，很容易被误导。这些工具所依赖的大型语言模型 (LLM) 会根据概率生成词组，并受到用户提示的影响。生成的句子可能是准确的，也可能是无意义的胡说八道，这些模型没有内置的事实核查功能。如果您要求进行批判性评论，它就会按照你的意思生成一些。![]()
其他人则被聊天机器人听起来很有道理的句子所迷惑：律师史蒂文·A·施瓦茨最初使用 ChatGPT 进行研究，没有意识到该系统可能会生成虚假内容。在另一个案件中，律师使用 ChatGPT 查找和引用所谓的参考案例，结果发现这些案例是人工智能的发明。这些例子表明，许多人还不了解生成式人工智能的工作原理，其结果不应未经检查就使用。甚至OpenAI 本身在其第一个 SearchGPT 演示中也出现了事实上的生成错误。
![]()
