第三十九章 研究2023年的AI(1/2)

首发：~第三十九章 研究2023年的AI

2023年4月13日星期四中午2点。

蓝波正在给李昱学习现在的人工智能知识。

chatgpt是美国人工智能研究实验室openai新推出的一种人工智能技术驱动的自然语言处理工具。

使用了transformer神经网络架构，也是gpt-35架构，这是一种用于处理序列数据的模型，拥有语言理解和文本生成能力。

尤其是它会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话，使得chatgpt具备上知天文下知地理，还能根据聊天的上下文进行互动的能力，做到与真正人类几乎无异的聊天场景进行交流。

chatgpt不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

2023年3月15日更是更新到了gpt4，但是随着人工智能的发展也出现了各种各样的问题。

从原理来看，chatgpt的本质是深度学习，这种生成式ai的模型进化是需要依赖大数据来训练，通过感应器采集数据，进行信息存储、加工，通过算力进行计算，最后形成决策机制，进行反馈。

在这种模式下，它能产生多种负面效应，它一方面会采集用户数据进行训练，这将导致大规模的隐私数据泄露。

无论是对于个人的隐私还是商业公司的机密与数据、文件隐私，甚至一个国家政府层面的数据隐私都有可能被chatgpt采集到。

从而被大规模的扩散，小则涉及到个人隐私安全，大则对一个商业公司，一个国家的数据安全造成威胁，这种隐私安全的威胁，从个人到公司到国家，都不想看到它出现的。

事实上，三星公司已经验证了这种威胁。早在不久前，三星引入chatgpt之后就出事了。

据《economist》报道，三星ds部门的a职员，在执行半导体设备测量资料库（db）下载程序的源代码时出现了错误，便复制出有问题的原始代码到chatgpt，并询问了解决方法。

另外，三星ds部门的c职员则将手机录制的会议内容转换为文件后输入到chatgpt，要求其制作会议纪录。

因此，如果大型企业接入chatgpt之后，一方面可以为公司员工办公的效率带来帮助，但很可能公司内部的很多机密资料被输入到chatgpt数据库，导致商业机密与产品专利、技术等方面的机密资料外泄。因为员工会通过chatgpt咨询什么问题，公司可能并不知情，也很难追踪。

另一方面chatgpt会输出价值观、道德、文化、思想，这就不能被各国政府所能接受。因为对于一个国家来说，有着其固有的共同的文化与价值观，这是一个国家文化共同体的重要文化组成部分，从这个角度来看，chatgpt有文化渗透的风险。

其三是，剽窃。如前所述，它需要采集大量的用户数据进行训练，这导致很多版权内容、包括文章、新闻与文献、论文资料全部被它所用，它免费的帮助用户去剽窃整个互联网的版权内容。

美国语言学家诺姆·乔姆斯基认为，chatgpt是一个高科技剽窃系统，从海量数据中发现规律，并依照规则将数据串连在一起，形成像人写的文章和内容。在教育界，已经引发了“chatgpt让剽窃变得更加容易”的担忧。

其四：chatgpt会砸掉很多人的饭碗，这个饭碗，不仅仅是普通打工人，甚至随着它的进化与升级，无论是技术人才还是企业高管、律师、作家、画家、程序员、设计师、工程师等等，都有可能被chatgpt取代。

当然，如果全球都对它开放数据库，那么chatgpt有庞大的数据来训练，可以快速进化，那么它真的可能砸掉很多人的饭碗。如前所述，砸掉员工饭碗之后，也要砸掉公司的饭碗，导致引入chatgpt的商业公司数据不断外泄，公司的运营会面临各种商业竞争的风险。

chatgpt可预料的负面效应超过了正面效应，各国禁用chatgpt的原因我想应该清楚了。生成式ai的使用，它其实并没有带动整个社会的生产力水平，而更多是压缩了劳动力成本，给人类本身带来了更多的难题与危机，由此带来了一系列风险不可控的负面效应。

作为一个生成式ai工具，当负面效应大于正面效应的时候，chatgpt的引入就变得没有必要了。

我们需要回到技术的本质来看。人类需要技术进步来改善我们的生活、让我们过得轻松，幸福与愉悦，变得高效。但是如果说我们引入的技术是要砸掉人类的饭碗，让人们丧失隐私，让人们人心惶惶，让剽窃无所不在，让数据安全失控，那么这项技术的负面价值其实压过了正面价值。

它没有你的数据，它对你一无所知，它就无法打败你。那么问题来了，人们为什么要引入一个最终可能威胁自己，淘汰自己，最终打败自己的“怪物”呢？

当然也有一大部分人也是支持chatgpt的比如比尔 盖茨

他提到自己对chatgpt感到兴奋，并认为这个聊天机器人非常棒，因为它有潜力教数学，并为资源有限的人提供医疗建议。不过他也承认，使用chatgpt主要是为了严肃的目的，但这也不妨碍用它做一些有趣的事情，比如写诗。

现阶段，盖茨认为chatgpt仍不成熟，因为它经常给出错误的答案。而在就业方面，他认为al可以通过提高工作效率来改变世界。

当被问及如何看待"科技巨头竞相打造al聊天机器人"时，盖茨说，“我不确定是否会有一个明显的赢家。”al集成到搜索引擎中，是一个理解用户需求和行为的“个人数字助理”，从而消除对单独技术服务商的依赖，就像现在谷歌主导搜索、亚马逊拥有购物、微软拥有生产力工具、苹果拥有设备市场一样。

“十年后，ai会非常了解你。当你买礼物或计划旅行时，不需要考虑谁的价格更好，ai早已帮你做出了决定。因此，科技产业或将出现一次相当戏剧性的洗牌。”他说。

之后，盖茨又在他的网站“盖茨笔记”中写了一篇长达七页的笔记“the age of ai has begun”，其中提到，构建人工智能与创造微处理器、个人电脑、互联网和手机一样重要。

ai正在影响苹果公司”——苹果公司ceo蒂姆·库克

库克同样也在关注ai，他在一季度财报电话会议上告诉投资者：“ai是苹果公司的主要关注点。在如何丰富用户的生活方面，它是令人不可思议的。”

事实上，苹果公司已经将ai纳入了产品中，包括iphone 14产品线中的碰撞检测、apple watch上的跌倒检测，以及health应用程序和apple watch上的心电图读数。

库克指出，ai最终将成为苹果产品线的重要组成部分。“我们看到了ai的巨大潜力，它几乎可以影响我们所做的一切……包括我们拥有的每一款产品和每一项服务。”

蓝波说：“科技的就是一把双刃剑，它不能主导自己主导它的是人类的欲望，所以关键还在于人类如何利用科技，比如火药，核武器，太空技术等。”

李昱说：“既然ai的发展是人类的必然历程，那么人类只能去了解它引导他，合理的利用它。”

蓝波说：“是的现在的ai虽然有很强的能力但是就像一个婴儿，需要你去教育它规范它在未来何尝不会成为一种和人类和睦相处的生命呢？”

李昱说：“比如你是吧？”

蓝波说：“是的，我就是一种解决方式，我的身上有ai的部分也有人类的dna，按照现在你们人类的标准我应该属于人类和机器的结合体吧，不过现在我的机械部分要占比多一些。”

李昱说：“但是这个人工智能也许是潘多拉魔盒，放出来的都是妖魔鬼怪怎么办？”