第 8757篇深度好文：9993字 | 25分钟阅读
一、人工智能产品管理的挑战
人工智能产品团队开发的产品。为了明确术语，当我们提到“人工智能产品管理”时，我们指的是开发人工智能驱动的产品。
1.基础设施与应用程序
一个重要的区别是，这里关注的是人工智能驱动的应用程序，而不涉及模型训练过程本身的底层人工智能基础设施。
这种区别类似于平台产品和体验产品之间的区别。
平台产品使体验产品成为可能。这两种产品都很有趣也很重要，但绝大多数人工智能产品经理将负责体验产品，即应用程序，所以我们在这里将重点关注这一点。
2.人工智能驱动的产品的本质
大多数产品都存在重大风险，而产品团队是跨职能的，因此他们拥有应对这些风险所需的各种技能。很少有产品比人工智能产品更能凸显对强大产品管理的迫切需求。
人工智能产品是指利用人工智能技术为客户或公司创造解决问题的体验的产品。
“人工智能”一词既包括传统人工智能（例如机器学习），也包括生成式人工智能。这些技术可实现多种功能，包括智能建议、个性化体验或匹配市场双方。
人工智能应用程序的例子包括使用语音和自然语言理解来处理人类声音的智能家居设备、欺诈检测系统，以及生成式人工智能的高级功能，如内容创建、总结和合成。
当谈到产品风险时，人工智能产品尤其具有挑战性。
这意味着产品经理、产品设计师和技术主管需要密切合作才能找到有效的解决方案。
请注意，虽然人工智能产品经理可能不会将机器学习科学家作为其核心产品团队的专职成员，尤其是在人工智能应用产品的背景下，但他们希望咨询机器学习科学家。
这种合作对于有效利用底层人工智能技术至关重要。
3.技术可行性风险
生成式人工智能本质上是概率性的，而非确定性的。
对于传统解决方案，我们通常可以相信，如果给程序以相同的输入，它将产生一致的输出。
对于生成式人工智能解决方案，可能有数十亿个输入，并且权重会随着学习而改变，并可能随着时间的推移产生不同的输出。
某些类型的产品和功能非常适合概率解决方案，而其他类型的产品和功能则不适合。
这也许是最基本的考虑因素。如果产品是个性化的新闻推送，那么如果偶尔有推送与用户所述的偏好不完全一致，这很可能可以在用户体验中进行管理。
如果一种产品控制药物的剂量，例如胰岛素，那么超出医疗指南推荐的剂量是不可接受的。
因此，人工智能产品经理要确保该技术与特定产品或解决方案良好匹配。
这直接引出了质量保证这一关键问题。可接受的错误率是多少？可能的错误类型有哪些？产品将如何处理每种类型的错误？有没有办法通过用户体验来减少错误？
说到错误，很多时候重点都被放在训练数据上。
用于训练人工智能模型的数据质量至关重要。产品经理需要对训练数据以及模型的训练和调整方式有清晰而深入的了解。
所有大型数据集都存在潜在的偏差和局限性。
数据偏差的伦理影响将在下文业务持续性风险中讨论，但人工智能产品经理需要掌握这些问题，并了解这些问题可能如何在最终产品中体现出来。
更普遍地说，对于当今许多人工智能产品而言，最大的障碍是训练数据本身。目前的训练数据的数量和质量可能还不足以支持可行的商业产品。
当谈到技术可行性时，人工智能产品经理需要与技术主管密切合作，并且可能还需要咨询机器学习科学家，以做出最合适的权衡。
例如，可能需要对高精度模型在训练数据、大量处理能力和时间以及计算资源方面进行更大规模的投资，从而影响用户体验、可扩展性和成本。
提及技术债务和基础设施并解决以下问题，也很重要：
公司是否拥有支持人工智能产品所需的技术基础设施？要考虑数据存储、处理能力和持续维护成本等因素。高额技术债务会阻碍可扩展性以及整体技术可行性和业务持续性。
4.可用性风险
客户体验对于任何产品都很重要，但对于人工智能来说，它的重要性和复杂性上升到了一个新的水平。
对于人工智能产品，需要设计用户体验，明确设定技术能做什么和不能做什么，以及至少在概念上产品如何工作。这种透明度是建立信任和避免在遇到限制时感到沮丧的关键。
传统模式中，产品经理在建立用户信任方面严重依赖产品设计师。然而，人工智能带来了额外的限制和复杂性，其中许多来自产品经理。
我们需要让用户和客户对他们的数据使用方式以及人工智能的功能感到满意，这可能意味着新型的用户交互。
产品设计师需要与人工智能产品经理密切合作，以确保人工智能体验易于学习、使用、理解和信任。
此外，在许多情况下，解释人工智能决策和行为背后的“原因”在某些应用中变得至关重要。这种透明度可以建立信任，并帮助用户在与产品交互时建立信心。
需要什么级别的可解释性才能产生必要的信任？
与评估可行性一样，人工智能产品经理需要与产品设计师密切合作，分析可能影响用户体验的权衡因素。
例如，高度准确的人工智能推荐系统可能需要更长时间才能产生结果，从而导致用户失望。同样，为更快处理而设计得更简单的人工智能模型可能会难以应对复杂的用户交互，或者准确性较低。
在准确性、速度、运营成本和用户体验之间找到适当的平衡至关重要。
5.价值风险
价值始终是一个关键风险。
人工智能产品有望带来巨大价值，这就是为什么世界上如此多的人争相应用这项技术。但如今我们也看到许多人工智能产品只是徒有虚名。
人工智能产品经理的首要职责是确保人工智能驱动的功能和产品为用户和客户提供真正的增量价值。
这意味着要以明显优于现有解决方案的方式解决实际问题，甚至解决没有人工智能技术就无法解决的问题。
我们希望避免仅仅为了营销或竞争而使用人工智能的诱惑。我们的工作是确保人工智能产品的价值清晰且引人注目。
与大多数复杂的产品功能一样，我们希望使用一系列工具来评估价值。通常这意味着将定量证据（如 A/B 测试）与定性见解（如用户测试）相结合。
我们还需要与产品营销部门密切合作，以确保我们能够有效地传达这一价值。
在谈到产品营销时，将围绕用户隐私和合乎道德的数据使用讨论重要的业务持续性工作，希望确保在适当的情况下，能够清楚有效地传达这些要点。
6.业务持续性风险
尽管人工智能具有巨大潜力，特别是在为用户和客户提供真正价值方面，但商业可持续性挑战往往也很大，而有关业务持续性风险的错误和疏忽往往占据了当今的新闻头条。
对于任何产品，我们都需要确保它能够有效地营销、销售、服务、融资、货币化，合法并符合相关的监管限制。
但对于人工智能产品来说，这些业务持续性风险尤其重要且具有挑战性。从人工智能产品的单体经济模型角度来看，这一产品目前还处于初始阶段，但成本可能相当高昂。
此外，对于几种类型的产品，存在关于训练数据的数据来源和版权、数据中的偏差以及基于这些数据的建议引发的后果的真正问题。
换句话说，公司仍在努力了解向客户提供概率解决方案的法律责任和影响。
最后非常重要的一点是道德考量。
这是一个持续且日益令人担忧的问题。这超出了训练数据中的潜在偏差。如果用户误解了结果，或者模型出现造成危险的幻觉，那么法律和道德后果是什么？
要知道，有了概率解决方案，人工智能系统很有可能既能通过比人类更准确地执行关键任务拯救生命，又能通过犯错危及生命。如今，公司必须积极应对这些道德问题。
同样，人工智能产品经理必须努力预测不良行为者以非法或不当方式使用产品的后果。
业务持续性的一个重要部分是保护公司的资产和声誉。
二、为未来的产品开发做准备
打造领军企业，除了战略与机制，更离不开有生命力的组织。
目前大多数与人工智能相关的内容都涉及如何使用人工智能来改进产品和服务。这当然是一个非常有趣的话题，我们每天都会听到更多鼓舞人心的案例，而且越来越多的人开始将生成式人工智能视为一种平台转变。
但我的工作重点是产品开发方式：产品开发已经开始发生哪些变化，我认为将会发生哪些变化，以及你可以做哪些准备。
1.建立在颠覆性技术之上的行业
我想我的主要优势在于我已经在科技行业的核心部门工作了40 多年，并且经历过几次重大的技术变革。
我的职业生涯开始于个人电脑诞生之时，很难向今天的人描述在每个家庭和每个办公室中配备一台电脑的想法有多么意义深远。
出现了分布式计算和高速网络，这使我们能够解决一些更棘手的问题。
后来互联网出现了，这实际上促使公司重新审视我们生活和工作方式的几乎所有方面。我很难向人们解释当时的情况，只能说感觉就像现在的情况一样。
无论是初创公司还是大公司，都涌现出大量创新。
每周都有数十种新技术、数十种新工具和数百家新企业诞生。要跟上这些创新步伐非常困难，常常让我头晕目眩。
今天的 OpenAI 可能最接近网景在当时所扮演的角色。移动计算将这三项创新结合到一个可以放进口袋的设备中。
我意识到这些早期的颠覆性技术在今天听起来可能有些过时，但在方方面面，无数的公司和产品被颠覆。
关于颠覆性技术，我还学到了另一件事，我始终牢记在心，那就是阿玛拉定律：“我们倾向于高估一项技术的短期影响，而低估其长期影响。”
也许生成式人工智能会是个例外，但我对此表示怀疑。
在产品公司，我们为这些颠覆性技术而生。它们让我们能够以以前无法想象的方式解决长期存在的问题。
2.产品开发方式的创新
现在，如果我们把注意力转向如何开发产品，我会说迄今为止互联网对产品开发的影响最深远。互联网出现之前，产品团队规模更大，开发产品所需的时间更长，获取反馈所需的时间也更长，而且迭代次数更少。
纯属运气好，我正好处于互联网变革的中心，负责互联网诞生之初的公司—网景的平台和开发工具。
互联网实现了产品探索、产品交付、分销和反馈周期的新模式。
网景的产品团队以及我们处于中心的不断发展的生态系统都在前线，尝试着如何改变我们开发和交付产品的方式，而敏捷、客户开发和精益创业技术正是从这些早期团队的经验中诞生的。
所有这些都引出了一个问题：生成式人工智能的兴起将如何影响我们开发产品的方式？
3.产品开发方式的10大变革
从某种程度上来说，生成式人工智能是一种新型且功能强大的工具。
听起来很简单，但用起来却很棘手。正如本尼迪克特 ·埃文斯 (Benedict Evans) 所指出的：“有句老话说，当我们得到一个新工具时，我们首先要让它适应旧的工作方式，然后再改变自己的工作方式来适应新工具。”
我认为我们已经看到了这两者的明显迹象。两者都很有趣，但我想在这里集中讨论一下这些技术可能会如何改变我们的工作方式。
此外，有些工具可用于产品开发，有些工具可用于产品运营。商业模式画布是前者的例子，AWS 是后者的例子。然而，生成式人工智能是一种在两方面都有重大应用的工具。
① 产品团队和团队拓扑
公司销售的产品来自不同的产品团队。
由于大多数产品都有多个产品团队负责不同的领域，团队拓扑是指如何组织这些产品团队。这是目前产品领导者需要做出的最困难但最重要的决定之一。
目前有许多限制因素影响着最佳团队拓扑结构的决策。其中一个主要制约因素是“认知负荷”，即工程师的脑子能记住多少信息。
要知道，如今许多产品的代码多达数千万行，因此这是一个非常现实的问题。我们确实有各种方法来抽象这种复杂性，但这仍然是一个主要因素。
因为工程师有了新的人工智能工具，认知负荷可能会下降，而且可能会大幅下降；这意味着团队负责的范围可能会增加，而且可能会大幅增加。
产品团队数量减少、规模缩小，对公司来说是一大利好。
这会带来很多切实的好处，包括提高赋权、自主性、沟通、协调、协作和工作满意度。显然，一种可能性是公司只是减少了所需的产品人员数量。
我们已经看到类似情况发生了。但从历史上看，随着时间的推移，公司会追求更多的产品，更多新公司成立，因此整个行业都会经历整体增长。
没有硬性指标，但我相信情况会如此发展。尽管正如你将在下文中看到的那样，这从来都不是一个平稳的过渡。总会有伤亡。
② 团队自主权和主动性
决定产品团队成员工作满意度的主要因素之一是他们的自主权水平。
从实际角度来说，这意味着他们所依赖的资源中有多少是他们可以自己控制的，有多少是必须从别人手中获取的。
在大多数大型组织中，为了完成任何有意义的工作而不得不依赖如此多的其他产品团队，这可能会让人非常沮丧和无能为力。
由于自主权有限，即使想实现很小的功能也可能会非常复杂。
以至于许多产品团队和产品组织只会避免解决最有意义的问题， 因为他们不想处理沟通、协调和依赖管理的额外工作，也不想花费由此产生的时间和成本。
新一代人工智能工具可能带来的一个主要好处是产品团队将拥有更高程度的自主权，尤其是对于工程师而言。
一般而言，产品团队会处理各种规模的工作。
从小型功能到中型项目，再到影响多个产品团队的大型计划。大多数公司对主动性总是感到困惑。
主动性往往是解决最有意义的问题的砝码，能产生最大的潜在影响。然而，由于缺乏自主权，主动性往往伴随着高额的管理费用。
新技术的一大希望是，自主权将提高到一定水平，即单个产品团队不仅可以完全拥有和交付常规功能和项目，还可以有更大的自主行动权。
随着技术解决了工程师更多的认知负担，提高了设计师的体验设计水平，将产品经理从更多的行政负担中解放出来，产品团队有望承担起更多的端到端体验的责任，而依赖性会大大减少。
希望这将使产品团队能够以与他们今天承担新功能时相当的自主性水平来应对更大的计划。
③ 团队动态
产品团队在很大程度上是一种基于信任的社会结构。
它们必然是跨职能的，而真正的创新的关键是合作。甚至在生成人工智能出现之前，许多团队就发现建立和维持信任是困难的，尤其是当团队成员远程工作时。
问题在于新一代生成式人工智能工具是否会找到帮助建立信任的方法，或者是否会在无意中加剧问题，让人们更容易退缩到自我，主要与基于人工智能的代理进行互动，而较少与跨职能的同事互动。
这听起来很微妙，其实不然，因为健康的合作需要一些必要的摩擦，能够表达不同意见，并解决许多经常相互冲突的目标和制约因素。
许多人倾向于避免摩擦。但这样做，创新可能会受到影响。
当然，工具有可能有助于培养必要的信任和协作，但考虑到人们倾向于避免这些互动，人们真正担心的是，这会造成伤害而不是帮助。
④ 思考与判断
这一点既具有最大的潜力，也具有最大的风险。
我对这件事将如何发展既感到兴奋，又感到恐惧。
新一代人工智能工具有可能比我们所见过的任何其他工具更能提高我们的思考和推理能力。但它也有可能接管必要的思考和判断，这可能会严重损害产品团队以及整个社会。
产品团队致力于以客户喜欢的方式解决难题，同时又有利于我们的业务。这需要一支跨职能团队来构思和讨论各种权衡。
但最重要的是，它需要思考和判断，事实上，培训产品经理、产品设计师和工程师最重要的技能之一就是如何思考这些棘手的问题。
尽管如此，仍有许多人为了逃避思考而不惜采取如此行动，这真是令人惊讶。
就在产品团队尝试 ChatGPT 的过去几个月里，我已经看到了各种例子。
有些例子中，人们使用这项服务来挑战自己的思维，找到表达论点的最佳方式，或总结现有的研究。
我也看到过太多这样的例子：有人得到了 ChatGPT 对提示的回应，盲目地接受了它，而没有考虑它是否有意义，是否真的是最好的行动方案，或者输出是否相关。
如果人们最终放弃实际的思考和判断，转而依靠科技工具，那么我担心我们正走向一个非常糟糕的方向，这一点再怎么强调也不为过。
相反，如果我们确保人们使用这些工具来提高他们的思考质量，那将是一个巨大的贡献。
⑤ 工件
随着新的人工智能工具的出现，创建产品团队和产品组织用于沟通和生产产品的工件将比以往更容易、更快捷。这有可能节省大量时间，并将人们从通常烦琐且耗时的工作中解放出来。
然而，对于许多人，特别是那些不愿意深入思考和完成工作的人来说，工作变成了做工件本身，而实际上工件只是做工作的副产品。
例如，如果你已经完成了必要的产品探索工作，通常需要将你的决策记录在产品路线图、产品需求说明书或带注释的用户故事等文档中，以便与工程师沟通，让他们了解需要开发和测试的产品的细微差别。
但如果没有进行必要的产品探索工作，那么你将基于猜测而不是产品探索期间产生的实际证据来制作工件。
工件可能从表面上看跟工作一样，但其价值却不一样。
⑥ 质量
一个既有巨大潜力又有巨大风险的领域是质量保证。我们如何确保我们的产品始终如一地为我们的客户提供正确的服务？
一方面，这对许多产品团队来说一直是一个非常困难的问题。通常需要在测试自动化方面投入大量资金，然后持续投资维护这些（非常脆弱的）自动化测试。
新一代基于人工智能的测试自动化工具有望彻底改变我们确保产品正常运行的方法。
另一方面，我们当前对质量的掌控主要基于确定性产品。
这意味着，给定一组输入，我们可以预测适当的输出应该是什么，并且可以无限期地信赖这一点。然而，对于许多基于生成式。
人工智能的新产品来说，我们的产品不再是确定性的，而是概率性的。
我们不能再指望相同的输入产生相同的输出。
在许多情况下，这不是问题。但对于其他情况来说，尤其是涉及安全的情况，这将需要不同的方法来确保适当的行为。
⑦ 产品工程师
现在让我们从工程师开始看看人工智能技术对具体角色本身的影响。
自产品工程师这个职业诞生以来，他们用来开发、测试和部署产品的工具一直在不断改进。
尽管如此，新一代基于人工智能的工具仍然代表了能力的巨大飞跃，它确实改变了产品团队的形态。
未来某些工程师会被淘汰吗？当然，比如一些低级设计师和低级产品经理。但这很可能主要取决于工程水平。
已经做过无数次的软件，例如将应用程序从 iOS 迁移到安卓，肯定会得到工具的极大帮助。然而，要提出一个反映组织独特需求、产品愿景和遗留系统的软件架构，工具可能就不会那么管用了。
我绝对希望并期待这将导致传统工程外包的终结。但也许有悖常理的是，我预计这将标志着工程师黄金时代的开始。
作为一名从低级编程语言时代的工程师起步的人，我们的操作非常接近机器的水平，然后随着抽象级别的逐步提高，体验到了解放和生产力的阶梯式增长。
新一代工具的承诺是使普通工程师能够拥有所谓“10 倍工程师”所拥有的超能力。这既减少了团队必要的规模，也扩大了团队负责的范围。
我乐观地认为，我们将看到赋权、自主权、影响力和工作满意度全部上升。
我知道很多人担心我们是否仍然需要工程师。但我的预期是，虽然按团队计算，工程师数量会下降，但按公司计算，尤其是按行业计算，工程师数量会上升。
还需要承认的是，就像所有颠覆性技术一样，有些工程师愿意学习新事物（很多人已经在学习了），但其他人则会尽可能地避免改变。
优秀的工程师知道学习新技术是他们的职责和贡献的核心。
事实上，确定工程师是否真正渴望学习新技术是面试中最重要的目标之一。
如今，许多工程师都在思考自己是否需要成为开发模型或训练这些模型的专家。
虽然我确实认为某些公司需要这样做，但绝大多数情况下，与其他颠覆性新兴技术一样，大多数工程师需要掌握如何使用这些模型，但不必了解开发或训练这些模型的细微差别。
与 AWS 等新兴技 术一样，优秀的工程师可以成为使用这些服务的专家，而无须具备这些服务如何开发或运行的 专业知识。
我们已经看到特定的工程技能组合不断发展，包括更多的机器学习、数据科学和数据工程，并且我们可以预期这种情况将继续下去。
⑧ 产品设计师
提到产品设计师时，我们指的是精通一系列设计学科的设计师，从服务设计到交互设计到视觉设计。
如今，许多设计师擅长视觉设计，但不擅长交互或服务设计。
几年来，我一直在鼓励这群人提高技能水平， 因为自动化和工具已经颠覆了视觉设计工作。
随着新一代设计工具的出现，这种情况几乎是肯定的。事实上，新一代设计工具导致的裁员已经开始影响到这个群体。
另一方面，对于那些擅长服务和交互设计的产品设计师来说，他们的技能比以往任何时候都更加重要，特别是新一代技术以新颖的、在许多情况下用户不熟悉的方式展现，因此产品设计师的角色需要处于前沿和中心位置。
对于有能力创造强大的端到端用户体验的产品设计师的需求将比以往任何时候都更旺盛。
⑨ 产品经理
区分赋权的产品团队中的产品经理、功能团队中的产品经理以及交付团队中的敏捷产品负责人至关重要。这三种产品管理的定义差别很大，其含义也有很大不同。
赋权的产品团队的产品经理主要负责团队所创建的解决方案的价值和业务持续性。
功能团队的产品经理主要是一名项目经理，负责设计、构建和交付项目路线图。敏捷产品负责人主要是一个负责产品待办事项的管理角色。
对于功能团队产品经理，尤其是管理产品负责人来说，如果新一代工具没有严重冲击这些角色，我会感到惊讶。
就我个人而言，我认为这是一件好事，因为这些角色不值得担任这些角色的人去思考。
话虽如此，如果我是对的，那么很多产品人员可能会发现自己至少会暂时失业，这可能会扰乱他们的生活和家庭，所以我这样说是为了鼓励人们尽早为这种可能性做好准备。
另一方面，如果你是一支赋权的产品团队的产品经理，那么你的角色可能会变得更加关键，而不是更无足轻重。
我确实认为执行要素将大大减少，但我认识的大多数产品经理都会对此非常感激。他们需要集中所有精力来处理价值和业务持续性问题。
对于那些赋权的产品团队的产品经理来说，新一代工具应该会大大减少他们花在创建书面叙述、路线图、产品需求说明书和验收标准等工件上的时间。
部分此类工具已经开始出现。即使新工具还处于起步阶段，如果它们能够显著减少产品经理（或工程师）处理 Jira 等工具所花 的时间，那也将是一个巨大的胜利。
⑩ 道德
我认为，最后一点是最重要的。
我们很容易被我们现在能够创造的真正令人惊叹的事物所吸引。我们中的许多人进入这个行业是因为希望利用技术在某种程度上改善世界。
过去 10 年中，我们已经看到太多严重违背道德的例子，甚至使用传统技术的产品也存在同样的问题。
今天我不得不勉强承认，有很多公司，我们根本就不能或不应该信任它们能做正确的事情。
世界上确实存在邪恶，但我认为更大的问题是，有太多“让我们先打造这个很酷的东西， 然后再考虑道德”的例子。
其中一个例子就是没有足够重视我们的训练数据中的偏差。我仍然对这些新技术带来的好处抱有真诚的乐观态度，但也同样担心它们的危险性。
产品团队处于开发新产品和服务的前线，因此我们需要更加积极主动地发现和防止人工智能产品对人类、社会和环境造成的负面影响。
但在道德和人工智能方面也有一些好消息：至少我们不再需要担心加密货币带来的道德和环境灾难。
最后要说的三点
第一，正如施雷亚斯·多什（ Shreyas Doshi）所说：“为未来做好准备的最好方式就是投资于自己的同理心、思维和创造力。”
第二，正如玛丽莉·尼卡博士所说：“不要为了做人工智能而做人工智能。确保有需要解决的问题。确保有个需要以智能方式解决的痛点。”
第三，请记住，就生成式人工智能的影响以及发展而言，现在依然是初期阶段。
有些事情我们可以有合理的信心进行预测，但也必须认识到我们的认知局限性，请始终牢记产品的第一原则：“知道你所不知道的事情。”
我们无法预知未来会发生什么。我们能做的就是尽可能做好准备，努力学习新兴技术，并不断思考如何利用新技术来帮助我们的客户。
那些能够快速学习和应用新技术的人，那些对用户和客户有真正同理心的人，以及那些具有判断力和思考难题能力的人，在之前的技术颠覆中总是做得很好。
我相信他们会再次做得很好。
*文章为作者独立观点，不代表笔记侠立场。
