AI:助力与危机——ChatGPT与星火使用体验

导言:ChatGPT已经诞生有半年左右了。人工智能正式进入了人们的生活,引起人们的热议。我也把我的使用体验和一些思考记录下来。

一、使用体验

使用ChatGPT,对工作、学习和生活,非常有帮助。

ChatGPT迅速对我提问的问题提供汇总回答。这是和传统的搜索引擎非常不一样的一个点。

传统搜索引擎基于单个网页的信息汇总。也就是说,单个网页的信息汇总成什么样传统搜索引擎就展示成什么样。搜索引擎提供多个网页的列表,但并不对这多个网页的内容进行汇总整理。用户必须通过简单浏览几个网页或者是其中一个网页(幸运的话)来汇总整理出自己需要的信息。

ChatGTP整合很多数据库,或者包括书籍,网页,图书馆等各种信息知识,汇总回答使用者的问题,高效地替用户完成了费时费脑的信息汇总工作。

二、助力工作、学习和生活

AI对我这个生信初学者来说,提供非常方便的帮助。

在系统学习上,我还相信,通过阅读书籍或者学习网络课程可以得到系统的知识。可以求助AI,从而迅速查询到书籍列表或者网络教材。

在面对具体问题时,我们习惯使用搜索引擎来寻找,网络上是否已经有人提出类似的问题,并且有人提供比较好的解决方法。 AI则直接提供了问题的解决方法。对生信来说,可以寻求AI在代码上的帮助,然后拷贝AI提供的代码直接试运行。如发现出现问题就可以反过来问AI,为什么会出现问题,AI可以做出相应的调整代码。当然AI有出错或者是提供错误的代码,不能进一步解决的问题。但从另一方面来说,网络上往往不存在直接可以试运行的代码。所以AI在这方面体现出极强的竞争优势。

在生活上我尝试问AI是否可以提供旅游景点建议。AI也能给出非常具体的景点介绍。这对迅速了解一个旅游地点或城市的旅游资源,有很好的帮助作用。

三、感受到危机

(一)对AI的回答要保持警惕

我在阅读赵卓云的《万古江河》一书时,遇到“晁错奏议”这个词。于是我问了ChatGPT。

以下为chatGPT的解释,未见于其他网络材料:《晁错奏议》是《史记》中的一篇奏议,由汉代大臣晁错上书,上请废黜权臣吕后,恢复汉武帝政治,整顿社会秩序,以振兴汉朝。该奏议内容丰富,主要包括以下几个方面:

一、对吕后势力的批判:晁错认为,吕后专权,滥用别人之力,扰乱朝纲,致使官僚腐败,生灵涂炭,风俗败坏。

二、对汉武帝政策的肯定:晁错赞扬汉武帝的治国之道,认为其政策无私,法治得当,国家稳定,民众安居乐业。

三、对朝政改革的建议:晁错呼吁废黜吕后,恢复汉武帝政治,实行严格的律法,整顿官场,减轻百姓负担,培养人才,以振兴汉朝。

《晁错奏议》成为古代中国重要的政治文献之一,不仅反映了中国古代政治的腐败问题,也为后世政治改革提供了很好的参考。

是不是看着非常的靠谱?但是我借用搜索引擎来搜索这个词的时候,得到非常少的搜索条目。而且这些搜索条目里面并没有类似的介绍。

然后我进一步问ChatGPT,这个词出自哪里?他说来自《史记》的某一章。但我查阅史记的这一章节的时候,并没有看到类似的内容。

如果我没有接着去搜索,并去追问,我非常可能就真把这一个“知识”记住我的大脑。

这让我大吃一惊。在我们使用搜索引擎时,我们有更多的条目可以比较判断,或者根据条目的来源权威性来判断可信的程度。但我们现在使用的ChatGTP,这种比较选择就非常有限了。

我还有一次向ChatGTP提问,说中国是否出现过高考满分的考生。ChatGTP,列出了4个人。我一一搜索都没有得到这4个人考满分的信息。我在搜索引擎里面知道河南省何碧玉考了标准分满分。我向ChatGTP和讯飞都提到何碧玉后,他们都迅速承认,何碧玉确实考了高考满分。当我进一步追问信源时,ChatGTP说,“大语言模型没有确切的信息来源。大语言模型的回答来源于推理和猜测。信息可能不可靠,请进一步查找确认。”而讯飞非常坚决的说,这是真实发生的事情。

就这一点来说,我觉得美国的ChatGPT在人工智能方面表现的更为人文主义,更为谦逊。而我国的讯飞,真是一个技术宅男。对人工智能的局限性和危险认识不足。

(二)国家、“族群”在人工智能上的竞争

有一段时间因为网络的原因没法使用chatGPT,被迫使用讯飞来解决生信学习中的代码问题,是发现得到代码不如chatGTP理想。

在网络被限制的情况下,我们在人工智能方面也被限制了。对于整个国家来说,相当于我们的智力或人工智能智力受到了限制。在当前中美竞争激烈,要不断的分割的情况下,让我感觉到更强的危机感。

把视野扩展到更理性更直观的角度来看。chatGTP等大数据模型,除了算法外,AI公司“饲喂”了大量的数库库资料。这些训练用的数据库资料本身是人为选择的。有语言、族群的差异。其中有事实(fact)的部分,也有观点(opinion)的部分。这些混杂内容很可能在AI中输出而影响使用者的价值观。

弱势的国家、文化很可能会被进一步的弱化。

(三)法律、知识产权……

我们不清楚大数据模型使用的是哪些数据进行预训练。这些预训练的数据是否涉及知识产权?

如果大数据模型产出的内容,涉及个人隐私、未成年人保护,甚至影响他人名誉,法律责任如何界定?