网络消费网 >  科技 > > 正文
LeCun:ChatGPT是“外星人”所以才会胡说八道
时间:2023-03-11 17:06:45

LeCun现在是彻底不搞技术了???

最近他开始从社会科学的角度分析起了爆火的聊天机器人:


(相关资料图)

为啥ChatGPT很容易就会胡说八道?

只因它是外星人

这是LeCun和专门研究AI哲学的纽约大学计算机系博士后在最新一篇论文中的观点。

论文中提到的“外星人”是指从社会规范、自我约束等方面不同于正常社会人的指代。

(听起来是有点子哲学意味在里面的)

而文章中提到的观点,可是引起了网友们的热烈讨论。不少网友纷纷表示赞同:

说得太准确了。

那LeCun在论文里具体都讲了些啥?

一起来看~

ChatGPT为什么不能像人一样?

当然,要把ChatGPT这类聊天机器人和人放在一起比较,那就得先从人开始入手了。

第一个问题:

一般情况下,人为什么不会胡说八道,甚至说出一些“反人类”的话?

文章给出了三点原因:

(1)社会规范:人们不仅要主动遵守外部社会规范,还要受到人体内在规范的约束。

(2)惩罚违反者:这里的惩罚更侧重在社交层面的惩罚,违反交谈规范的人容易遭到群体的“排斥”甚至“孤立”。

(3)规范已经内化于情感:违反规范时会愤怒,被冒犯会厌恶,被抓住说谎时会羞耻……

而基于这些原因,人们在讲话之前都会自然而然过滤掉一些言论,以确保更符合社会规范以及自己的内在规范。

(嗯嗯。当代年轻人现状:表面笑嘻嘻,内心mmp)

反过来再看看ChatGPT这些聊天机器人。

相较于人类,它们讲话似乎就更随心所欲,我们没说出来的潜台词它全说出来了。(Doge)

比如说,ChatGPT的老毛病:胡说八道,最初提示词稍微换个说法,就能让ChatGPT写出毁灭人类计划书。

甚至还能生成一些带有种族歧视的答案:

那么第二个问题来了:

为什么ChatGPT不能像人们一样遵守社会规范呢?

原因有三:

(1)它不需要承担违反社会规范的压力,即使承认自己犯错并道歉后,它也并未意识到原因。

(2)它们没有内在目标,它们的唯一任务就是交谈。

(3)它们更聚焦在当下的对话,脱离了更大的社会语境,根本不理解人类表达的方式。

在论文中,LeCun更是直接指出:

ChatGPT是“外星人”,它根本就不理解并认同社会规范

也就是说,ChatGPT只是为了交谈而交谈,而人类在互相交谈时是有社会文化驱动的。

网友讨论

LeCun的这一通从社会科学角度的分析可是引起了网友们的激烈讨论。

一边,网友们对LeCun的分析啧啧称奇:

这项工作实在是太棒了。

还有网友看完之后,一针见血地总结道:

它们(聊天机器人)根本不会使用语言。

另外一边呢,则是觉得LeCun从社会科学的角度分析完全是瞎扯,网友称:

这只是一堆软件把程序设定的东西吐出来而已,根本就没有意识。

甚至还有人直接开启嘲讽模式:

现在一个机器人心理学家在解释糟糕的程序设计。

作者介绍

Yann LeCun,就不用再多说了,图灵奖得主,纽约大学教授,Meta的首席AI科学家,大家都已经很熟悉。

另外一位作者需要好好介绍下。

Jacob Browning,纽约大学计算机科学系的博士后,主要研究人工智能哲学,具体来讲,是研究人工智能和认知科学是如何改变传统观念、学习和思维的。

而人工智能哲学,也在试图回答这几个问题:

AI可以有智慧的运作吗,可以解决人透过思考处理的所有问题吗?

AI和人类智慧本质上是一样的吗?

AI会有精神、心理状态和意识吗,能感知东西吗?

对于LeCun在论文中的观点,你是怎么看的呢?

关键词:

版权声明:
    凡注明来网络消费网的作品,版权均属网络消费网所有,未经授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明"来源:网络消费网"。违反上述声明者,本网将追究其相关法律责任。
    除来源署名为网络消费网稿件外,其他所转载内容之原创性、真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考并自行核实。
热文

网站首页 |网站简介 | 关于我们 | 广告业务 | 投稿信箱
 

Copyright © 2000-2020 www.sosol.com.cn All Rights Reserved.
 

中国网络消费网 版权所有 未经书面授权 不得复制或建立镜像
 

联系邮箱:920 891 263@qq.com

备案号:京ICP备2022016840号-15

营业执照公示信息