当前位置:
网站首页 > 媒体报道:研究员

【财富中文网】抄人类的后路,ChatGPT会通向何方?

AI聊天机器人ChatGPT正在全球掀起一股超级旋风,无论是否用过这个软件的人都无法摆脱其看似无所不在的影响力。关于ChatGPT是否仅为升级版搜索引擎、是否会取代大量的工作岗位(尤其是知识型工作岗位)以及是否会导致“强者越强,弱者越弱”等方面的争议,则在持续发酵。

众说纷纭之际,ChatGPT背后的开发商OpenAI在2月5日也发话了,该公司首席技术官Mira Murati表示,“现在需要监管机构进行介入,以防止ChatGPT等生成式AI系统对社会产生潜在负面影响”。而围绕如何看待ChatGPT的影响,“财富Plus”的用户展开了精彩讨论,我们选取了其中一些展示如下:

@新媒沈阳

清华大学新闻学院教授、元宇宙文化实验室主任

关于ChatGPT以及近期科技发展的思考:

1、最近是ChatGPT的社会测试使用期,大家在使用中去逐步挖掘一个相对比较强的AI的应用潜力和应用创新。例如考试,在某些领域,ChatGPT相当于211高校中等偏上的本科生水平。预计Bing上线新功能之后就会逐步进入大规模实际使用期了。

2、ChatGPT不是搜索引擎,但做好了绝对能替代搜索引擎,毕竟搜索引擎Yahoo都出现28年了,技术的改进并没有质的突破,还是停留在pagerank层面。ChatGPT可以深入到语义层面,可以形成一个篇章结构,也就是微观语法,宏观大义做了很好的结合,使用面就很广了。显然,ChatGPT不仅仅是引擎,而是脑,即AI大脑。对搜索引擎来说,是高维的不同品类。

3、目前ChatGPT已经暴露的最严重的两个问题:在功能上,错误的信息源将会输出错误内容,ChatGPT甚至有可能成为谣言之源,这是需要改进的。另一个问题是使用中的,当AI能够代替人脑的一部分思考,人脑的思考价值性就被抵消了一部分。在教育中使用,还怎么训练学生的思维能力,如果教育无法优化教学效果,人类怎么去培育新生代?目前来看ChatGPT有点抄人类的后路,先把青少年学习给AI大脑化,这比计算器对数学教学的影响要大很多,人类面临着一个重大而震荡的适应期。

4、ChatGPT为什么能跑出来,给我们的一个启发,就是我们原来很多大模型都是热衷于报参数多少,似乎参数越大自己越猛,其实参数大小只是跟投入的资金有关。而在参数之外很重要的是工程调优,特别是在实际使用过程中的优化,ChatGPT这种海量用户一旦形成,其优化也将日臻完善。现在看来AI=黑盒算法+智能反馈,把算法和工作量庞大的反馈做好了,AI质量就上了一个大台阶。如何坚定研发信仰,持续投入,不断优化,让自己的东西在微创新中惊艳众生?我们自己在这方面也还有很大提升空间。没有路的地方就是新路的起点。

5、AI看来先革脑力劳动者的命,后革体力劳动者的命,这和大家以前的理解不太一样。元宇宙里面的进化速度更快,真宇宙物理世界进化更慢。

6、Starship近期将静态点火,如果点火成功,意味着二代星链卫星很快可以上天,三五年内手机在全球任意地点直接可以接收卫星信号,将是互联网接入的一场革命。

7、以Damus为代表的Web3.0应用正在逐步走入大众,Web3.0今年可能出现亿级用户产品。美国新的技术突破进展超乎想象,既有硬核技术突破,也有互联网模式创新。Damus代表的趋势是尊重个人绝对隐私,去中心化参与,这股潮流现在可能不一定是主流,但未来有可能势头非常猛。

8、技术发展是动态的,你在发展,别人也在发展。0到1的颠覆式创新需要法治化、市场化、国际化的支撑。1到100的创新需要知识的劳动密集型群体、良好的产业规划、广阔的市场空间等要素。

@朱岩梅

华大基因集团执行董事、执行副总裁

近日,来自OpenAI公司的新型AI聊天机器人ChatGPT,俘获了全世界的想象力,OpenAI也确实不是一家寻常的公司。它是2015年由一群科技领袖,包括奥特曼(、和埃隆·马斯克、彼得·泰尔(《从0到1》作者)、里德·霍夫曼(Linkedin创始人)等人创办的,目标是确保人工智能不会消灭人类。起初它是一个非营利性的研究实验室,就像美国其他著名的研究机构如Broad Institute、SETI。2018年马斯克宣布退出。2019年,OpenAI宣布重组为一家“有限盈利(capped-profit)企业”,并接受了微软10亿美元的投资。传闻估值已达290亿美元,弄得奥特曼赶紧出来表态降温,呼吁不要过度炒作,但似乎效果不佳。

里面有个词:“有限盈利(capped-profit)”,什么意思?很多人可能都第一次听到这个词,于是我问了下ChatGPT,得到如下回答,标准的“ChatGPT式”回答(以后这可能会成为一个习惯用语):

“有限利润”,也称为“利润上限”,是一个术语,指的是对公司可以赚取的利润的限制。这种类型的限制通常是由监管机构或政府施加的,这些行业的服务或产品的提供被认为是公共产品,或者产品或服务的价格受政府监管。作为OpenAI开发和拥有的AI语言模型,我不是一家公司,也没有传统意义上的盈利能力,也不产生传统意义上的利润。我在OpenAI的创建者可能会对我的使用方式或我要执行的任务类型设置限制,但这些限制与利润无关。相反,它们是为了确保我以负责任和有道德的方式被使用,并且不会用我干坏事。

同时,我用Google搜下“capped-profit”,搜出的信息大多是和OpenAI相关的。显然,ChatGPT的回答更有趣和清晰。“有限盈利”指的是一种商业模式,公司对其可以赚取的利润金额设置了限制或上限。这类商业模式旨在确保公司的重点,是服务客户和为更大的利益做出贡献,而不是利润最大化。这其实就是“社会企业(Social Enterprise)”。

ChatGPT的优异表现,让文字工作者、程序员等从业者都感受到了威胁,甚至可能取代谷歌搜索引擎。想起最近和几位熟悉Google,甚至是从Google出来的朋友聊天,他们都为Google惋惜,似乎也患上“大企业病”。以往Google那种Cool、创意无边的形象似乎在远去。这就是大企业的宿命,如果不去抑制“熵增”、主动更新的话,“恐龙”必然失去生存能力。而微软此次在OpenAI上的历史性影响,恰恰说明大企业还是有机会重新焕发活力的。

Google的著名口号"不作恶(Don't be evil)",影响深远。如今,“不作恶”恐怕已经不够了,这样再次启示我们:企业要“为善”,方能走远。

@苏牧野

资深媒体人

ChatGPT 在很多外媒上,被称作“autocomplete on steroids”,意即“服用了兴奋剂(加强版)的自动填词功能”,就是那种你在搜索引擎上输入一个词,系统猜测你的喜好帮你填写完整的那种功能。还挺形象的。

ChatGPT的工作原理似乎是,通过被“喂”无数的人类文本,它通晓了不同语词之间的最佳排列组合方式。这使得它在输出答案时,语言表达上要比过去的机器人流畅得多,也地道得多,给人一种它已经具备自主思考能力的感觉。但这只是一种错觉。它本质上是一个搜索引擎,离“智能”还很远。

我还没有深度使用它,但是基于对它工作原理的粗浅理解,我对它有三大问:

一、在不同的时间、以不同的方式对它提出同样的问题,它能否给出前后一致的回答?

ChatGPT在回答事实性问题的时候,是不给出答案出处的,让人无从判断答案是否准确。也由于数据来源模糊,让人担心同样的问题以稍稍不同的方式(比如不同的语序)提出,会不会得到同样的答案。一位朋友最近与它的聊天就显示出,仅仅几分钟内,他对本质相同的两个问题给出了不同的答案,再度证明它没有“理解”两个问题之间的关联。

二、两个价值观不同的人,带着价值倾向,问ChatGPT同样的问题,是否会从它这里得到不同的答案?

比方说,我朋友圈里两位朋友对《满江红》有着两极化的评价,一个高度赞誉,一个掩饰不住鄙夷。如果两个人向ChatGPT提出同一个问题:你怎么评价《满江红》?它会不会根据问题中流露出的观点倾向,给出迎合提问者的答案?换言之,ChatGPT是不是有前后一致的价值观?

三、如果ChatGPT能取代这么多人的工作,是否本身就说明了,我们的很多工作本身就是缺乏原创性的,重复的,甚至无用的?

如果ChatGPT本质上只是在人类已经积累的知识富矿中搜索,将语词重新排列组合后输出,那它是不是比较终极的“天下文章一大抄”?如果只是这样,它就能编写剧本、发言稿、博士论文甚至代码,这是不是又意味着,很多时候我们自以为原创的东西,本质上都是在走前人们走过的路?消极地看,这的确要让我们很多人灰心丧气。积极地看,ChatGPT的步步紧逼,将迫使人类思考如何更具原创性。

@聂日明

上海金融与法律研究院研究员

使用chatGPT的感觉,chatGPT擅长的内容包括:1,搭建文章提纲,可以面面俱到,经常会超出自己的预期,因为自己的考虑可能不如AI全面;2,给定主题,撰写年度总结,摘要,以及不需要基于事实的观点评论;3,它格外擅长写那些读下来不知所云的废话,像一些评论人写的车轱辘一样的废话。chatGPT尤其适合高考作文这种假大空的风格,大多数学生写的议论文或者记叙文都不是真情实感,凭空想象,并且爱用升华的句式,用华丽的排比语句,这些都是chatGPT的专长。

chatGPT的这些个特点,可能和AI的训练有关,他吃了海量的文献内容,在全面性上自然会更专业,在翻来覆去的废话上,自然也有大量的素材可以借鉴。

那么chatGPT不擅长什么?1,在事实核查上,他对于常识性的事实核查不算太吃力,相当于使用搜索引擎了,但稍微复杂一点的事实,几乎没有核查的能力,同样的问题,换个不同的角度,就会给出不同的答案,这可能是因为素材里本来就有冲突的答案,他没办法识别哪些是更优质的内容,自然无法给出准确的答案。

2,他几乎没有审美,现实中各种素材其实是有质量差异的,谷歌搜索早先处理排序的时候,就要处理每一份材料的权重。AI训练时,肯定也需要训练这个权重,但这个相对比较专业,需要专业的人员进行标注,在测试chatGPT的时候,我没有发现他的审美有什么优势。

3,总的来说,chatGPT是一个通用的AI,所以应付常识性问题,相对容易一些。这也意味着稍微复杂或者深入一些问题,他就没办法应对,应对的质量不如WIKI的专业词条。

从未来来看,对人类尤其是专业人员来说,chatGPT的进化会进一步为绕来绕去的套套逻辑去魅,而事实、一手经验感受和创造性强的内容仍然是chatGPT无法胜任的。

@张林

评级机构研究员

ChatGPT据说威胁到了很多行业,不过像我这样的经济和社会问题研究者不会太担心,因为这个行当从来都是一个充分竞争的行当,谁都能说上几句,而且事实上看,大部分专业人员提供的观点基本都是一致的,能说出来新的角度,对于人工智能来说并不容易。另外就是机器学习是学习已经公开发表的观点和信息,所以我感觉人工智能模仿出来的东西也会大概像官话和套话。但是对于码农这些行业,可能影响的确会比较大。

@何山壮

鲸鱼星球COO、企业战略顾问

“孩子该学什么?”——确实值得思考。

当机器对语言的翻译越来越准确(甚至某天会像“流浪地球2”那样,在全世界不同语言之间同步翻译)、当人工智能能快速生成程序,那今天还让孩子去卷外语、编程,还有意义吗?

也许有一天,面对无孔不入的机器和人工智能,人类最牛逼的能力,就是像《三体》罗辑那样,闭口不言,却构建完整闭环的“心球”,也对人工智能隐藏了人类最隐秘的思维能力,成为人类对抗人工智能反噬的最严峻的“执剑人”。

现在想来,《三体》牛逼之处,是它不只是科幻小说,更是一本关于人类命运的“寓言”。敌在本能寺!人类的敌人,远不是四光年之外的三体人,而是人类的创造力。

越来越理解庄子的“反文明倾向”的合理性……庄子时代到今天,已过去2500年;2500年,也是流浪地球预计到达半人马座比邻星的时间。

虽然不知道道路通向何方,但一个新时代,确已拉开序幕。

财富中文网 | 2023-02-06

  • 【鸿儒论道报名】前瞻2024
  • 李步云法学奖
  • 数字经济时代的城市连接
  • 上海社会认知调查
  • SIFL年会2017