智慧党建研究院_智慧党建建设实施方案_智慧党建平台APP
首页 > 观点观察 > 正文
解决方案
全面开启党建+智慧应用新时代
胡剑锋:大模型幻觉、问题与错误,共生将是很长时间内我们的生存策略
时间:2024-04-22      来源:奥远党建
【内容导读】ChatGPT掀起了新一轮的人工智能浪潮,不仅带给信息技术行业新的希望,也带给了这个世界新的希望和变数。

ChatGPT掀起了新一轮的人工智能浪潮,不仅带给信息技术行业新的希望,也带给了这个世界新的希望和变数。

如今谈大模型、人工智能,已经不再是技术问题,已经上升为国际竞争、社会发展、人类未来的问题。


但问题也随之而来。


大模型幻觉

类似“Chat”的场景,反正聊聊天,大多数人可以接受错误,一旦真实到生产应用场景中,幻觉就变得很难接受。


人工智能的幻觉问题,似乎是当前人工智能大模型无法解决的问题。


理论上,只要是希望人工智能创作内容,基于概率选择的原因,就必然会出现各种各样的错误(也就是幻觉)。包括但不限于错误的内容、编造的内容和逻辑问题。


消灭也不是没有办法,那就是缩小创作的空间,极端情况就是检索原文而非生成。


但如果失去了创作能力而去检索既有信息,那么AIGC(人工智能生成内容)就没有意义了。


怎么办?


其实,现实社会中,我们一直在与错误共生。

智慧党建


问题与错误

现实中,倘若想要创新,必然要试错。


即使不创新,现实中也有很多问题甚至错误长期存在。例如一些过时的政策、并不太高效的设备设施、有点毛病的建筑、差强人意的解决方案。


人无完人,谁又能说没点毛病呢?更何况东西、事情。


现实社会中,问题和错误在所难免。之所以能接受这些问题和错误,是因为它们都能继续运行、勉强跑下去。


甚至现在的有些问题,可能本就是过去某些问题的解决方案。


有了问题、错误,批评和质疑很正常,改进也是必然,但如何改进才是学问。


问题处理、错误改进,真要改到完全没有错误、没有问题吗?未必。


大部分情况下,只是将其控制到可以接受的范围内而已。


生命与健康

人有这样那样的问题,其中有一项就是健康问题。


现代社会创造了很多疾病名称,有时候一个疾病名还不够说明,还得有甲乙丙丁戊己庚辛才能说清楚。


病很多,病毒病菌也很多,理论上永无穷尽。


新冠病毒已经成为过去,虽然当初“共存论”被骂得狗血喷头,但最终还是选择了共存的结果。其实从几万年的人类历史看,共生一向是人类存活和繁衍的对策。


中医理论中,通常没有什么不治之症,甚至对很多诸如癌症、糖尿病之类也嗤之以鼻,反而替代的是『正气存于内,邪不可干』。有些病现在没啥特效的办法去除,那就不去治病而强健自身,最终与疾病共存,这是中医应对不治之症的方法。


带病生存,不仅是一种方法,也是一种智慧。


健康才是追求,疾病可以忽略。如果一直能生存,有点病怕什么?


绝对干净的环境,在生物学角度是不会有生命的。


生存与发展

共生是生命存活和繁衍的对策,也是我们在面对人工智能幻觉问题时的应对策略。


我们不能期望人工智能完全消除幻觉,但可以将其控制在一个可接受的范围内,并与它共存。至于改进算法、增加数据多样性、提高模型鲁棒性等方式,都可以是尽量减少“毛病”的方法。


同样地,也不能期望医学完全治愈所有的疾病,但是如果能与疾病共生且正常生活、工作,为何不能是一种治疗思路?


在共生中寻找平衡,让问题存在但限制问题规模,随着发展而让新问题替代老问题,也许才是解决问题的正确方法。


生存、发展,创新、迭代,容忍错误,用发展来解决问题,直至行远。


疾病如此、社会如此、企业如此,个体当然也如此。



相关政策文件