卡帕西（Andrej Karpathy），曾是特斯拉的AI负责人，也是OpenAI的前研究员，他透露了一个令人吃惊的真相：“你以为你在跟AI说话？其实，你是在和一群人工标签员的‘脑袋’对话。”换句话说，当你向AI提问时，得到的答案并不是AI“自己思考”出来的，而是基于大量人类标签员的答案进行统计后生成的。
AI到底是怎么“回答”问题的？
比如你问AI：“阿姆斯特丹的十大景点有哪些？”其实，AI并不是自己去了解阿姆斯特丹，而是它根据人类之前给出过的类似答案，拼凑出一个“平均值”。如果问题是它没有见过的，它就会根据它学习过的数据，找到最接近的答案来“猜”出一个合理的回应。
政策问题？别指望AI能给你真正的答案！
卡帕西特别提到，不要指望AI能回答像“如何治理国家”这种复杂的问题。他打个比方：你问AI如何治理国家，其实就像是给一个来自俄亥俄州的玛丽（Mary）10美元，给她30分钟时间，按照公司给的100页规则书去查找资料，给你一个答案。意思就是，AI根本没有能力“思考”这个问题，它只是按照规则把别人给的答案拼起来。
AI为什么好像有个性？
很多人觉得和AI对话很像和一个有“个性”的人说话，它很温和、理性或者中立。其实，这种“个性”是AI在训练时通过人类标注员的“精调”得到的。比如，AI在回答一些争议性问题时，会加上“这是一个有争议的问题”这样的措辞，这也是人类标签员教它怎么保持中立和客观。
专业问题？背后是专家在标注数据！
对于一些专业领域的问题，比如医学、数学，AI背后会有真正的专家来做数据标注。比如，医学问题会由医生来标注，数学问题会有顶级数学家帮忙。不过，卡帕西提醒，这种方法虽然能让AI的回答比普通人靠谱，但它依然缺乏真正的理解和推理能力。简单来说，AI的答案通常比大部分普通互联网用户给的答案要好，但也未必能达到真正专家的水平。
简单来说：
AI能帮我们找到答案，但要想在复杂的环境中真正成功，我们需要靠自己的智慧去做决定。
更多AI内容
