欢迎转载，转载请注明来源！
有条件的，请在文末点一个“在看”！
近日，记者乔恩·里德（Jon Reed）采访了 SAP 全球人工智能主管——Walter Sun：共同探讨了人工智能相关的热门话题？
![]()
声明：本文所有信息和数据，全部来自互联网公开信息，仅代表本公众号的个人意见，与SAP公司的立场无关！![]()
图源：www.sap.cn
我对 SAP 人工智能战略的报道留下了一些亟待解决的问题。最近，SAP 全球人工智能主管 Walter Sun 回答了我的热门问题 - 包括 SAP 的人工智能再培训计划是什么。Walter Sun 关于机器消除人类偏见（反之亦然）的观点引起了我的注意。企业人工智能是一个不断变化的目标。解决一个关键问题，就会出现另外三个问题。有一件事我很确定：如果软件供应商在竞争中各自为政，我们不太可能创造出让工作更美好的人工智能。这就是为什么看到一群人就职场人工智能的影响结成联盟是件好事：领先公司成立联盟，以解决人工智能对技术劳动力的影响（该联盟包括埃森哲、英特尔、微软、思科和 SAP 等公司 - 本文的主题）。人工智能对就业的影响是一个强有力的、被广泛误解的、经常被耸人听闻的问题，但它绝对需要规划和立即讨论。该联盟的任务是及时的：“作为私营部门的合作组织，该联盟正在评估人工智能如何改变工人成功所需的工作和技能。
第一阶段的工作将以一份报告结束，其中包含可供企业领导者和工人付诸行动的见解。未来几个月将分享更多细节。研究结果旨在为寻求重新培训和提升员工技能以准备迎接人工智能环境的雇主提供实用的见解和建议。”Walter Sun 于 2023 年加入 SAP，担任高级副总裁、全球人工智能主管。在 SAP Sapphire 2024 上，我与他进行了一次有启发性的对话。以全新的视角回顾这次对话，Walter Sun 解决了我之前的一些疑问。因此，在 SAP 的 AI 追求取得更大进展之前，让我们先了解一下这个背景。我过去与 AI 首席官菲利普·赫尔齐格（Philipp Herzig）博士的对话非常坦诚，但我不知道 Walter Sun 会做出什么。在奥兰多一个繁忙且以过度冷藏而闻名的媒体/分析师中心，我即将找到答案。为什么我们不开发 AI 来挑战人类的偏见？
我对企业 AI 推广者最大的不满之一是：我听到太多关于取代人类的热情，通常超出了这些工具的能力范围。但我没有听到足够多关于 AI 的优势如何平衡人类的优势，反之亦然。例如：AI 擅长模式识别——那么它在人力资源等领域难道不应该很有价值吗？它可以帮助标记/平衡人类的偏见？在我们讨论 SAP 的嵌入式 AI 功能时，Walter Sun 在薪酬管理的背景下亲自提出了这个话题。从 2023 年第四季度到 2024 年 6 月，SAP 在其应用程序中嵌入了 50 个新的支持 AI 的场景，并表示到 2024 年底将“这一数字”翻一番。正如 Walter Sun 所解释的那样，SuccessFactors 的薪酬助理就是其中之一："如果您管理一个团队，并且发生了重组，或者您继承了一个新团队；你会得到一个更大的团队。每年，大多数公司都会进行薪酬轮次或评估轮次。这很难，因为有时你不太了解这个人，或者不了解他的过去。所以这个工具可以帮助你从某人的整个公司历史中提取数据，查看他们的薪酬水平：平均值、中位数和最大值。如果是表现最好的 1%，他或她是否获得了 1% 的报酬？如果他们不是表现最好的，他们是否获得了过高的报酬？因为我们有时会认为吱吱作响的轮子会得到润滑 - 所以当有人每天抱怨他们的薪酬时，[我们开始认为] 这个人的薪酬过低。但也许他或她的薪酬可能并不低。可能只是一个人抱怨很多，但数据消除了这样的偏见，对吧？但 Sun 认为这既可以帮助员工，也可以帮助经理：另一方面，我们也为员工启用了功能。员工可以使用这些生成工具来帮助他们撰写自己的评估，也可以为同事撰写评估。这些工具具有政策检查功能，可以确保您撰写的文本没有偏见。例如，如果您写道“这个人是个干劲十足的人”或“这个人工作努力”，这些事情是无法量化的。因此，该工具可以回复说，“嘿，给我一些影响。”例如：“这个人帮助我发布了这些功能。”或者：“这个人与我合作得很好，并花时间制定了这份文档的规范。”因此，这些工具可以帮助您撰写更好的评论和评估。另一方面，我们也为员工启用了功能。员工可以使用这些生成工具来帮助他们撰写自己的评估，也可以为同事撰写评估。这些工具具有政策检查功能，可以确保您撰写的文本没有偏见。例如，如果您写道“这个人是个干劲十足的人”或“这个人工作努力”，这些事情是无法量化的。因此，该工具可以回复说，“嘿，给我更多一点信息。”例如：“这个人帮助我发布了这些功能。”或者：“这个人与我合作得很好，并花时间制定了这份文档的规范。”消除人类偏见——也消除机器偏见
这里有一个情节转折。有时人类团队成员不喜欢“消除偏见”输出的结果。但我认为这是应该提出的正确问题，是人工智能引发必要对话的一个例子。正如 Walter Sun 告诉我的那样：我们一直在进行这样的对话，我们会说，“嘿，让我们从董事会中删除名字——让我们谈谈信息。”当你进行盲测时，事情有时会发生变化，这令人惊讶……人们有好或坏的名声。这不一定是好事；机器不在乎[那些]偏见。但现实是，有偏见的人不喜欢计算机在没有偏见时给出的一些结果——一旦你删除名字，只给机器提供信息。
机器可能会有偏见，算法也可能有偏见，但使用人工智能来帮助消除偏见也是件好事。事实上，机器也会带来偏见——尽管我认为大多数时候，这些偏见是由于训练数据中过于人性化的偏见造成的。不过，人工智能开发人员需要意识到这些风险。如果没有尽职调查，人工智能设计可能会使有偏见的人工智能输出变得更糟。Walter Sun 提出了一个反驳观点：我们应该致力于“消除”机器的偏见。因某些机器知道如何消除算法的偏见。例如，如果你想改变员工队伍的构成，你可以采用一种算法并将其标准化，然后说，“好吧，这是训练数据，但这种训练不是我想要的。”这样我就可以重新加权。例如，我们有三个同类型的人，一个是另一种类型的人，你希望它是 50/50——所以这三个人的权重应该除以三，这样你就均匀地加权了模型。SAP 的 AI 道德监督 - 它如何影响 AI 开发？
但是请稍等 - 我看到这个房间里有一头道德大象；我怀疑我们的读者也看到了。薪酬助理示例是否涉及欧盟 AI 法案中被视为高风险的情况，我知道 SAP 会认真遵守该法案？对于这种功能，Walter Sun 的团队是否咨询过 SAP 的 AI 道德委员会？（确切地说，SAP 有一个 AI 道德指导委员会/和一个咨询委员会）。简短回答：是的。在我们上次采访中，赫尔齐格博士分享了一个例子，SAP 因道德问题停止了对某个 AI 功能的开发。Walter Sun 详细介绍了其工作原理：所有生成 AI 用例都需要由政策团队进行... 您有来自法律部门的人员、与治理部门合作的人员以及工程师，因为我认为您需要双方的意见。政策团队提供反馈，并研究与每个渠道相关的风险和危害 - 可能发生的最坏情况是什么，然后进行讨论。我们需要在发布任何内容之前达成共识。显然，人类需要对其进行审查，这提供了一些保障。经理在向员工提交任何内容之前会查看它。它主要是建议，而不是最终决定……我们不希望算法说，“给这个人多付 10%；给这个人少付 10%。”这只是第一层信息。所以是的，薪酬助手已经通过了 SAP 的 AI 道德指导委员会的审查。但这并不是一锤定音，对吧？未来这种情况是否需要重新审查？Walter Sun 回答道：每当有人创建更新时，我们都必须对其进行审查，以确保没有以前不存在的新 [合规] 问题。“AI 再培训”能为 SAP 员工带来什么？
2024 年 1 月 23 日，SAP 宣布了一项重大“转型计划”。该计划包括重组 8,000 个职位。金融市场对此反应良好。我对这一点始终如一，这对 SAP 来说并不是什么个人问题；我不喜欢任何类似于裁员的事情，不管你怎么称呼它——过去几年，我们在技术供应商身上看到了很多这样的情况。（当时，SAP 表示大多数离职都是“自愿的”。）在 2024 年，这对 SAP 员工来说并不容易（我对此有第一手了解，因为我听过他们中的许多人说的话）。另一方面，我一般支持内部转型——尤其是像 SAP 这样的大公司。商业模式的转变也与技能和文化有关。所以，公平地说，听听这件事的另一面：员工从这里走向何方？SAP 在 1 月份的公告中提到了对 AI 再培训的投资。在 SAP Sapphire，我有机会问 Walter Sun：这种 AI 再培训在实践中是什么样子的？Walter Sun 解释说，SAP 的 AI 再培训听起来不像是针对特定过渡期个人的。它看起来是一项全公司的培训计划，包括使用 大语言模型聊天提示进行动手实践：我们提供“人工智能日（AI days）”，基本上是一整天的课程，教育所有学科的人。程序员需要知道有哪些工具可用，但营销人员、销售人员需要了解“这个生成 AI 功能是什么？”。此外，我们实际上已经在内部启用了这个人工智能实验平台（Playground），您可以在其中以符合企业要求的方式访问生成 AI。在企业中，您只是不希望新信息用于 ChatGPT 等消费者模型。因此，我们有一个内部工具，人们可以使用，具有企业安全性。我认为这是提高人们技能的最佳方式：什么是大型语言模型？你如何提示机器？那么 SAP 内部的所有员工都可以参加这种再培训吗？每个人都可以参加这些培训大会……我认为 SAP 员工在几个月内使用了生成式人工智能平台，超过一百万次。人们正在尝试用它来创建电子邮件，只是为了了解这些模型是如何工作的。这对我们有两个帮助。一是它提高了员工的技能。二是这些员工是其业务领域的主题专家。所以他们可以来找我们说，“嘿，我在玩这个。你在 AI 组织的团队应该构建这些功能。”作者的看法——关于人工智能对就业的影响、和 SAP 的再培训目标
在 SAP 就业联盟新闻发布之际，发表这篇文章似乎恰逢其时。我并不是一个人工智能就业危言耸听者；我相信这一代人工智能工具具有固有的局限性，可以防止大规模失业。但在某些领域，新一代人工智能对就业的影响将非常强烈。零工经济创意人员，尤其是平面设计领域的创意人员，已经受到了重创。计算机程序员将感受到这种就业影响，企业环境中的“创意人员”也是如此（尽管我会谨慎行事；人类创造力对品牌影响很重要）。当然，客户支持团队会受到影响，但我担心公司会过度使用人工智能并过早地取代员工，这既不利于不明智的裁员，也不利于处理这些技术反乌托邦呼叫中心的客户体验。关键是：无论您对人工智能就业影响持何种立场，现在都需要进行对话；我期待联盟的第一批研究结果。我希望 SAP 能分享更多其在 AI 再培训方面的目标；SAP 客户将从这些第一手资料中受益。在我与赫尔齐格博士讨论快速工程兴起时，我们谈到了他认为这项技能很重要的原因。但这在实践中会如何发挥作用？在多大程度上，“快速工程师”将是技术专家的角色，而不是业务用户技能要求？这只是 SAP 能够很好地解决的一个问题。我对 SAP 的 AI 战略的看法不一，但我确实同意 SAP 有很大机会帮助客户在 AI 方面取得成功，而客户自己的 AI 试点可能会遇到困难。我不会在这里重复我对 SAP AI 举措的批评，但 SAP 的 AI 优势也在显现。这些优势围绕数据隐私、道德和负责任地使用客户数据 - 以及对新一代 AI 架构的投资，以提高输出准确性并减少幻觉因素。这很关键，因为这一代 AI 系统将需要客户和行业特定的数据来提供企业期望的那种价值。不，这不会消除输出准确性问题，至少目前还不会，但这是另一个话题。在公开回答棘手的 AI 问题时，很少有供应商像 SAP 那样坦诚。我经常听到客户对供应商在这个问题上的表现感到失望；他们希望深入了解。这意味着开放架构、训练数据、外部大语言模型的使用、客户数据移动、日志文件生成 - 以及道德与开发如何交叉。如果道德与产品没有交集，那么“负责任的 AI”言论就只是表面文章，甚至是彻头彻尾的虚伪。下次我和 Walter Sun 谈话时，我想问他关于生成式 AI 和 ESG（Environmental, Social, and Governance - 环境、社会和治理）之间的紧张关系。越来越多的研究记录了生成式 AI 与其他“经典”深度学习形式之间的能耗差异。我看到了一些可以缓解的方法，但对于像 SAP 这样认真对待 ESG 的公司来说，这里需要明确这一点。我还没有从 SAP 那里得到答案，但这就是人工智能的发展方向，肯定会带来新的问题。
![]()
Walter Sun - SAP 全球人工智能主管
图源：www.thesoftwarereport.com
好了，今天就先聊到这里吧。 如果觉得还行，请随便给一个在看、评论、点赞、或者转发； 如果您坚持全部都给，我也不会介意!
|
参考资料：
[1] https://diginomica.com/can-machines-de-bias-humans-saps-global-head-ai-walter-sun-answers-burning-questions-about-ai
