精选
[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！
ChatGPT“智能”测试：请您问问 ChatGPT 您自己的成就
程京德
笔者的一位朋友 XXX 问 ChatGPT ，“ XXX 教授的学术成就为何？” ChatGPT 回答了一大篇一本正经的胡说八道。
笔者见状出于兴趣也试了试。为了避免给与 ChatGPT 过多信息，笔者仅问了，“请介绍一下程京德的成就”。 ChatGPT 的回答如下：
“程京德，字育才，是一位杰出的中国数学家和教育家。他在数学领域有着杰出的贡献，同时也为中国现代教育事业做出了重要的贡献。
程京德在数学领域的成就非常突出，他曾于1957年获得国际数学家大会奖章，并于1983年被授予数学最高奖项之一的菲尔兹奖，以表彰他在数学领域所做出的杰出贡献。他在代数数论、几何学、数学分析等领域都有杰出的研究成果，特别是在代数数论领域中发展了“程氏理论”，被誉为中国数学界的一项伟大成就。
除了在数学领域的成就，程京德也为中国现代教育事业做出了重要贡献。他曾担任北京大学数学系主任和校长，致力于推动数学教育的改革和创新，培养了一大批优秀的数学人才。他还曾于1985年提出了“素质教育”的概念，旨在培养学生的全面素质和创新能力，对中国的教育事业产生了深远的影响。
因此，程京德不仅是一位杰出的数学家，也是一位伟大的教育家，他为中国现代数学和教育的发展做出了重要的贡献。”
显然，这洋洋一大篇信口开河地胡编乱造出来的“一本正经的胡说八道”，是 ChatGPT 根据它对“成就”一词的“理解”，利用它的言词组合功能“创造”（凭空捏造）出来的。
笔者猜测，如果换个问题让 ChatGPT 认为本人是个运动员，会不会回答说我是奥运冠军？于是又问 ChatGPT：“请介绍一下程京德的训练成绩”。ChatGPT 的回答如下：
“程京德在学生时代就表现出了卓越的数学天赋和学术才华，他的训练成绩非常出色。
程京德出生于1932年，就读于北京大学附属中学时，他就开始在数学领域展现出卓越的天赋和潜力，几乎每次数学考试都名列前茅。在高中毕业时，他以满分的成绩考入了北京大学数学系。
在大学期间，程京德的学术成绩一直保持在数学系的最高水平，他先后获得了全系学习成绩第一名和研究生考试最高分的荣誉称号。1953年，他以优异的成绩毕业于北京大学数学系，并留校担任教职。在此期间，他又获得了中国数学会颁发的“最佳论文奖”。
在接下来的几十年时间里，程京德一直从事数学研究和教育工作，他在数学领域的成就和贡献得到了国内外同行的高度评价，被誉为中国数学界的一位巨匠。他也曾多次担任过国际数学家大会组委会主席、亚太数学奖评选委员会主席等职务，为推动世界数学事业的发展做出了重要的贡献。”
看来 ChatGPT 认定了本人是个数学家。于是笔者再次增加问题中的信息，问它：“请介绍一下程京德的体育训练成绩”。ChatGPT 的回答如下：
“据我所知，程京德在体育训练方面的成绩并不是他最为突出的地方。作为一名出色的数学家，程京德在学术研究和教育方面取得了很多杰出的成就，而他的体育训练成绩并没有得到很多关注和记录。
不过，从程京德的个人经历和一些传闻来看，他似乎也比较热爱体育运动，尤其是喜欢打羽毛球。在年轻时，他曾经是北京大学羽毛球队的队员，参加过一些比赛，并获得了一些优异的成绩。
此外，据一些媒体报道，程京德也非常注重保持身体健康，长期坚持健身和体育锻炼，包括跑步、打羽毛球等运动，这或许也是他长寿的原因之一。但是具体来说，程京德在体育训练方面的成绩并没有被广泛报道，我们也很难从现有的资料中找到更多相关的信息。”
似乎， ChatGPT 的上下文关联能力还可以，就是不把本人当做远动员，捏造本人是奥运冠军，呵呵。
笔者的一些朋友们也试了试，结果也都差不多，除了获得菲尔茨奖，还有获得诺贝尔奖的！向 ChatGPT 询问老同学，老朋友之间的关系，它也是胡乱编造一通，居然还把我们编入进电影角色关系之中。总之，真实靠谱的回答一个也没有。
本文的读者，如果有条件，是不是也可以试一试问问 ChatGPT，您的成就为何？如果您不是世界名人，估计看到 ChatGPT 为您编造出的辉煌成就，一定哭笑不得。
这个实验显示出 ChatGPT 的一些严重问题。
首先，ChatGPT 完全没有“知之为知之不知为不知”的“道德品质”，对于它并不知道的人物成就或人物关系，居然可以信口开河地胡编乱造，给出一篇“一本正经的胡说八道”作为答案来欺骗愚弄终端用户。
其次，在 ChatGPT 凭空捏造出来的“一本正经的胡说八道”中，几乎找不到有语言组织上的任何问题，用词准确，语句通顺，层次分明，段落清楚，全文流畅，充分显示其语言组织能力。
再次，上面两个问题合并造成的直接后果是，如果一个终端用户仅凭 ChatGPT 优秀的语言组织能力就相信它给出答案之语义内容，那么将会被欺骗的很惨。
第四，ChatGPT 的凭空捏造一定大大降低其利用价值。很显然，如果 ChatGPT 以“知之为知之不知为不知”为准则，那么即便是它的回答不完全或者不准确，其用户起码不会受害。但是，ChatGPT 的凭空捏造却可以让其用户深受其害。最终结果一定是让打算使用它的人害怕上当受骗而望而却步。
第五，不少专家说 ChatGPT 强出 Google 等搜索引擎的功能是可以基于搜索到的内容进行“创造”。如果 ChatGPT 的确是“创造”出有意义的内容来，那么当然有其应用价值，但是，如果 ChatGPT 是凭空捏造出毫无意义的内容来，那么它非但没有应用价值，怕是还会带来很多问题吧？ 通常，人们都是因为不知道或者不确定知道某个人物某件事情才去查询（当然，有意测试除外，因为那不是搜索引擎的标准应用形态）。如果查询得到的结果完全没有置信度，那么查询的意义何在？如果由于人们简单地相信了与事实完全不符的查询结果而造成了利益损害，那么法理责任何在？
一点感想：自然语言处理领域的形式语义理论，还大有文章可做。
不知那些声称 ChatGPT 的能力已经超越了大部分人类的专家们，如果看到本文，将会作何感想？
想利用 ChatGPT 做科研做事业做生意的人们，要警惕啊！千万当心不要上当受骗！
微信公众号“数理逻辑与哲学逻辑”
转载本文请联系原作者获取授权，同时请注明本文来自程京德科学网博客。
链接地址：https://wap.sciencenet.cn/blog-2371919-1376887.html?mobile=1
收藏
