人机交互在人工智能时代背景下，它的研究内容、方法、技术，以及应用场景，有哪些新的变化？以目前的Agent为例，对于Human-Agent/Human-AI交互，具体有什么特色？科研人员有在这个领域有哪些发展机遇？本人将陆续结合自己的一点思考和专家同行们的真知灼见，发表系列博文，希望起到抛砖引玉的作用，促进该领域的发展。

(1)信任

人（用户）与系统（Agent）之间的信任问题是重要的研究内容之一，它直接关系到交互的效率和质量。北京邮电大学刘伟教授提出了许多富有启发的观点，例如，他认为"设计可信人-AI协同时，需同时关注：提升绩效（确保能力可靠）、增强过程透明（通过XAI解释逻辑）、明确目的一致性（避免隐藏议程）、警惕过度信任（通过用户教育或系统提示风险），最终实现“用户能理解、敢依赖、会监督”的人机关系"。详见科学网—人-智能体协同的信任研究 - 刘伟的博文

转载本文请联系原作者获取授权，同时请注明本文来自程时伟科学网博客。

链接地址：https://wap.sciencenet.cn/blog-391188-1522086.html?mobile=1

收藏

分享