大模型的好坏不仅取决于其技术能力，还与使用者的目标、技能、道德意识、反馈和创新力密切相关。只有负责任且具备相关技能的用户，才能充分发挥大模型的潜力。大模型的好坏与使用的人密切相关，主要原因在于大模型本身是一个高度灵活的工具，其输出质量和应用效果很大程度上取决于使用者如何设计输入、理解输出以及应用结果。

一、大模型的输出依赖于输入质量

（1）输入设计

大模型的输出质量直接受输入（提示词或指令）的影响。如果使用者能清晰、准确地描述需求，模型更可能给出高质量的回答；反之，模糊或不准确的输入会导致低质量甚至错误的输出。

（2）上下文理解

使用者需要根据任务需求提供足够的上下文信息。如果使用者缺乏对任务的理解，模型可能无法生成有用的结果。较好的输入是，“请用简洁的语言解释量子计算的基本原理。”，而差的输入是，“告诉我关于量子计算的东西。”前者更可能得到清晰、有用的回答，而后者可能生成冗长或不相关的信息。

二、使用者的技能影响模型的应用效果

（1）提示工程。熟练的用户懂得如何设计高效的提示词，引导模型生成更符合需求的输出。

（2）结果筛选与优化。大模型的输出可能需要进一步筛选或调整，使用者的技能决定了他们能否从模型的输出中提取有价值的信息。熟练的用户会通过多次迭代优化提示词，逐步接近理想结果；而新手可能因为缺乏经验，无法充分利用模型的潜力。

三、使用者的目标决定了模型的应用方向

（1）正向应用。如果使用者的目标是解决实际问题或创造价值，大模型可以成为强大的工具，例如辅助科研、教育、创意设计等。

（2）负面应用。如果使用者意图滥用模型（如生成虚假信息、恶意内容等），大模型也可能对社会造成危害。如正向应用，用大模型生成教育内容，帮助学生理解复杂概念；负面应用，用大模型生成虚假新闻，误导公众。

四、使用者的道德与责任意识影响模型的社会影响

（1）负责任的使用。有责任感的用户会确保模型的输出符合伦理规范，避免传播错误信息或造成社会危害。

（2）不负责任的使用。缺乏责任感的用户可能滥用模型，导致负面后果。负责任的使用者会验证模型生成的信息是否准确，避免传播错误；而不负责任的使用者可能直接使用未经核实的输出，导致误导。

五、使用者的反馈推动模型优化

（1）反馈与迭代。用户在使用过程中提供的反馈（如指出错误、提出改进建议）对模型的优化至关重要。如果用户积极参与反馈，模型可以不断改进。

（2）缺乏反馈。如果用户不提供反馈，模型的错误或局限性可能长期存在，影响其整体性能。用户在使用中发现模型对某些问题的回答不准确，并反馈给开发团队，团队可以据此改进模型。

六、使用者的创造力决定模型的应用广度

（1）创新应用。有创造力的用户能够发掘大模型的新用途，将其应用于传统领域之外，推动技术进步。

（2）常规应用。缺乏创造力的用户可能只将模型用于常规任务，限制了其潜力。如创新应用，用大模型生成艺术、音乐或设计新产品；而常规应用，仅用大模型进行简单的问答或文本生成。

七、使用者的背景多样性影响模型的适应性

（1）多样化背景。不同背景的用户能够测试模型在不同场景下的表现，帮助开发者发现并改进模型的局限性。

（2）单一背景。如果用户群体过于单一，模型可能无法适应多样化的需求。来自教育、医疗、金融等不同领域的用户可以帮助模型更好地适应多行业需求。

大模型的好坏与使用者的关系密不可分，因为模型本身是一个工具，其价值取决于使用者如何设计输入、理解输出、应用结果以及提供反馈。使用者的技能、目标、道德意识、创造力和背景多样性共同决定了模型的实际效果和社会影响。因此，大模型的潜力只有在负责任且具备相关技能的用户手中才能得到充分发挥。

环球网：从技术到伦理破解机器“说谎”难题（详细见今天《环球时报》第15版）：

       随着大模型的日益快速发展，“机器欺骗”与“机器幻觉”将是当前生成式人工智能（如GPT-4、DS、Grok3等大模型）面临的核心挑战，深刻影响着其可信度与实用性。严格意义上说，这是多内层神经网络中非线性复合函数带来的必然结果，也是各种大模型应用落地的“阿基琉斯之踵”......

转载本文请联系原作者获取授权，同时请注明本文来自刘伟科学网博客。

链接地址：https://wap.sciencenet.cn/blog-40841-1474686.html?mobile=1

收藏

分享