大模型,我们真的都用对了吗?

文摘   科学   2024-07-17 07:03   北京  

大模型作为人工智能体,它没有实际的“五官”,也没有实际的“四肢”和身体,感知用户需求、感知现实情景、感知它自己的角色,以及需要执行任务,这一切都需要通过用户的提示和请求来完成。大模型时代, 这需要人们具备正确提问(也称“问商”)的能力,即主要包括(但不限于)深入理解问题的本质、提出挑战性的问题、考虑到背景和上下文、创造性思维和迭代等。只有通过准确、挑战性的正确问题,人们才能从大模型中获得更深入和有洞察力的答案。(全文3900字,阅读约需6分钟)

一、我们常常抱怨大模型的种种不是

人们在使用大型模型时,虽然能够体验到其带来的强大功能和便利,但同时也常常会抱怨大模型输出结果的种种不是。其主要包括:

-结果不准确:个体用户最直接的抱怨就是大模型输出的结果不准确。他们可能发现,即使输入了明确的提示词,模型给出的回答或预测仍然与实际情况存在较大的偏差。

-结果缺乏针对性:用户可能发现大模型输出的结果过于泛泛而谈,缺乏针对特定任务或场景的深入分析。这使得输出结果在实际应用中价值有限,无法满足用户的特定需求。

-结果难以理解:大模型的输出结果有时可能过于复杂或抽象,导致个体用户难以理解其中的含义。他们可能需要花费大量的时间和精力去解读这些结果,甚至可能仍然无法完全理解。

-结果不一致:用户可能发现,对于相同的输入,大模型在不同时间或不同情境下给出的输出结果存在较大的差异。这种不一致性让用户对模型的稳定性和可靠性产生质疑。

-结果缺乏解释性:大模型往往只能提供输出结果,而无法给出详细的解释或推理过程。这使得个体用户在使用时感到困惑,不知道模型是如何得出这些结果的,也无法判断结果的合理性。

-结果受到偏见影响:用户可能发现大模型的输出结果受到某种偏见的影响,导致结果不公平或带有歧视性。这种偏见可能源于模型训练数据的不平衡或模型设计本身的缺陷。

-结果时效性差:对于需要处理时效性强的数据的任务,个体用户可能发现大模型的输出结果往往滞后于实际情况。这可能是因为模型无法及时获取最新的数据或无法快速适应数据的变化。

-结果受限于模型能力:用户可能意识到,尽管大模型在某些方面表现出色,但其输出结果仍然受限于模型本身的能力。对于某些复杂或特定领域的问题,模型可能无法给出满意的答案。


(该图片由AI生成)

二、我们不知道自己用大模型的不当
我们在使用大模型时,提示词输入方面的不当行为是一个值得关注的问题。其常见的提示词输入不当行为包括:

-模糊、不准确的提示词:在使用大模型时,往往输入模糊、不准确的提示词,导致模型无法准确理解用户的意图。例如,使用含糊不清的词汇或表达,使得模型难以产生精确的输出。

-带有歧义的提示词:输入的提示词可能带有歧义,导致模型产生多种可能的解释或输出。这种歧义性可能源于词汇的多义性、语境的不明确或文化背景的差异。

-过度复杂或冗长的提示词:有时倾向于输入过度复杂或冗长的提示词,这不仅增加了模型处理的难度,还可能导致模型无法捕捉到关键信息,从而影响输出的准确性。

-忽视提示词的格式和规范:不同的模型可能对提示词的格式和规范有不同的要求。在使用时可能忽视这些要求,如未遵循特定的语法结构、未使用正确的标点符号等,导致模型无法正确解析提示词。

-缺乏针对性的提示词:输入的提示词可能缺乏针对性,无法引导模型产生与任务或场景相关的输出。例如,在问答任务中,提示词应该明确指向问题的核心内容,而不是泛泛而谈。

-未考虑提示词与模型能力的匹配度:未充分考虑提示词与模型能力的匹配度。可能输入了超出模型处理能力的提示词,导致模型无法产生有意义的输出。

-忽视提示词的更新和优化
随着任务或场景的变化,提示词可能需要进行更新和优化。然而,往往忽视这一点,继续使用过时的提示词,导致模型性能下降。

-缺乏安全意识的提示词输入:在使用大模型时,可能缺乏数据安全和隐私保护的意识。可能会在提示词中包含敏感信息,如个人身份、密码等,导致数据泄露或被恶意利用。

三、提出正确问题,是获得满意结果的前提

正确问题是指能够引导思考、产生有价值回答并推动解决问题的问题。正确问题具备焦点明确、针对性强、挑战性和引导性、开放性和多样性、实用性和实施性、反思性和追问性、意义和价值导向等特点。通过正确问题的提出,我们可以更有针对性地探索和解决问题,推动个人和组织在大模型时代的生存发展。

1. 具有焦点和明确性:正确问题具有明确的焦点,能够准确定义待解决的问题范围。它不是模糊或笼统的陈述,而是能够精确定位问题的本质和关键点。通过明确的问题定义,我们可以更有效地收集相关信息、分析数据并找到解决方案。

2. 针对性和相关性:正确问题是与所涉领域或主题密切相关的问题,它具有针对性,直接与所追求的目标或解决的挑战相联系。正确问题能够帮助我们更好地理解和探索特定问题,并为其提供相应的解决方案。

3. 挑战性和引导性:正确问题具有一定的挑战性,不仅表现在难度上,还体现在引导思考和激发探索的能力上。它能够引导我们深入思考问题的各个层面和细节,激发创新和寻找新的解决途径。

4. 开放性和多样性:正确问题通常是开放性的,能够产生多个可能的答案或解决方案。它不是简单的肯定/否定问题,而是能够引导多种思考和讨论的问题。正确问题的多样性有助于促进不同视角的思考和思维的多样化。

5. 实用性和实施性:正确问题应该具有一定的实用性和实施性。即它不仅能够引导对问题的理解和探索,还能够为解决问题提供具体的行动和实施方案。正确问题应该直接或间接地指导我们采取行动,并寻求可行的解决方案。

6. 反思性和追问性:正确问题具有反思和追问的特点,它能够帮助我们深入探究问题的本质和根源。通过提出反思性和追问性的问题,我们可以更加全面地考虑问题的背景、原因和潜在影响。

7. 意义和价值导向:正确问题应该关注问题的实际意义和价值导向。它应该服务于解决重要问题、推动进步和创新,满足个人或组织的需求,并对社会产生积极影响。

提出正确问题的能力的思维导图如下:


四、如何输入有效的上下文提示
大模型已成为众多领域中的核心工具,如何输入有效的上下文提示,以确保大模型能够准确、高效地生成所需的输出,是人们面临的一大挑战。其主要包括:

-明确任务与目标在使用大模型之前,用户首先需要明确自己的任务与目标。这包括确定所需输出的类型(如文本、图像、音频等)、内容要求以及期望的输出质量。明确的任务与目标有助于用户更有针对性地构建上下文提示,从而引导大模型生成符合期望的输出。

-了解大模型的特点与限制不同的大模型具有不同的特点与限制。例如,某些模型可能擅长处理文本数据,而在图像或音频处理方面表现不佳;另一些模型则可能对输入数据的格式、长度或复杂度有特定的要求。因此,在输入上下文提示之前,用户需要充分了解所选模型的特点与限制,以确保提示的有效性与适用性。

-构建具体、明确的上下文提示有效的上下文提示应该是具体、明确的。这意味着用户需要避免使用模糊、含糊不清的词汇或表达,而是应该尽量使用具体、准确的描述来构建提示。例如,在请求大模型生成一篇关于“环保”的文章时,用户可以提供更具体的上下文,如“讨论环保的重要性、当前环保面临的挑战以及个人如何参与环保行动”。

-考虑上下文提示的格式与结构大模型对上下文提示的格式与结构可能有一定的要求。例如,某些模型可能要求提示以特定的语法结构或格式呈现,以便正确解析和处理。因此,用户需要仔细阅读所选模型的文档或指南,了解其对上下文提示的具体要求,并相应地调整提示的格式与结构。

-利用示例与反馈进行迭代优化在实践中,用户可以通过查看大模型对示例提示的响应,以及根据反馈对提示进行迭代优化,来提高上下文提示的有效性。例如,用户可以先输入一个简单的提示,观察模型的输出,然后根据输出质量调整提示的内容、格式或结构,直到获得满意的结果。

-注意数据安全与隐私保护在输入上下文提示时,用户还需要注意数据安全与隐私保护。避免在提示中包含敏感信息,如个人身份、密码等,以防止数据泄露或被恶意利用。同时,用户也应该了解并遵守所选模型的数据使用政策和隐私条款。

五、如何提高人们大模型应用的“问商”

培养提出正确问题的能力(问商)是一个渐进的过程,需要持续的学习、思考和实践。通过不断锻炼和积累经验,逐渐掌握好奇心、批判思维、领域知识、多角度思考、提问技巧等关键要素,使自己能够在数智时代中更好地面对复杂问题,并提出准确的问题。其主要方法和策略如下:

-熟悉人工智能体的功能和特点:了解人工智能体的工作原理、限制和能力范围,以便更好地与其交互和提问。

-清晰表达问题:确保问题清晰明确,避免含糊不清或模糊的问题陈述。尽量使用简洁明了的语言,避免使用模棱两可或难以理解的术语。

-遵循问题提问的规则:学习和应用良好的问题提问规则,如使用开放性问题、避免双重否定等。这些规则有助于产生准确且易于理解的问题。

-深入思考并提供背景信息:在提问之前,花时间仔细思考问题,确定自己真正想要知道的是什么。同时,为问题提供背景信息,帮助人工智能体更好地理解问题的上下文。

-利用人工智能体的反馈:根据人工智能体的回答和解释,从中获取反馈,并对自己的问题进行反思和调整。通过理解人工智能体的回答,我们可以更好地优化问题,提高提问的准确性和效果。

-学习并借鉴他人的经验:关注和学习其他人与人工智能体交互的经验,了解如何提出更好的问题。可以参考其他人的问题示例,从中学习如何提出更具深度和洞察力的问题。

-不断实践和反思:通过与人工智能体的不断交互和提问,逐渐提升自己的提问能力。同时,经常进行反思和评估,思考如何改进提问的方式和策略。


士心察观
探讨科技界和科技社团共同关注问题,分享决策咨询、科学普及、学术交流等理论、观点和方法。
 最新文章