马斯克叫停 GPT-5 研究，意大利禁用 ChatGPT ，生成式 AI 最大风险是什么？该如何监管？

紫心圣君 · 发表于 2023-7-6 08:46:26

当地时间3月31日（周五），意大利个人数据庇护局颁布发表，本日起暂时禁止使用聊天机器人ChatGPT，并暗示已对开发该产物的OpenAI公司展开查询拜访。
OpenAI的生成式人工智能（AI）产物风靡全球的同时，其引发的争议和担忧也在不竭发酵。
本周，马斯克、图灵奖得主等一众大佬签署公开信、联名呼吁暂停大型AI研究，欧洲法律机构和消费者庇护组织也先后拉响对ChatGPT潜在风险的警报。
美国人工智能协会前主席托马斯•迪特里希（Thomas Dietterich）对《每日经济新闻》记者暗示，犯警分子确实有可能操作生成式AI进行新形式的犯罪，但监管的对象应该是技术的风险而不是技术本身。
迪特里希进一步指出，虽然公开信警告的AI风险大都言过其实，但是虚假信息的暴增是一个亟待措置的严峻问题。他建议开发一整套认证内容来源的技术。

图片来源：视觉中国

灯下的那条路 · 发表于 2023-7-6 08:46:59

是这个

这合乎周礼吗？

Angel河蟹 · 发表于 2023-7-6 08:47:28

意大利禁止ChatGPT的真正原因

傻傻de遗忘你 · 发表于 2023-7-6 08:48:08

“现在是1440年，天主教会呼吁对印刷机和活字印刷进行为期6个月的禁令。想象一下，如果平民百姓获得了阅读书籍的权利会发生什么！他们可以亲自阅读圣经，这将摧毁社会。”——Yann LeCun Meta首席AI科学家

<hr/>顺便带下我和小伙伴做的prompt产品，欢迎来玩~
火花spark

淡定14 · 发表于 2023-7-6 08:48:21

笑了，马斯克这算什么。爱迪生当年为了证明交流电危险，做了无数惨无人道的实验，发明电椅，电死不少动物甚至人类，最后也没能阻止技术的进步。
一个靠人工标记训练出来的模型能毁灭人类？撑死算一个狗头军师。数据泄露也是由于网络安全不到位，而不是模型自己把用户数据拿出去卖了。这要是也算危险，那么首先请禁止烟草，酒精和毒品。
看看tiktok就知道，别说马斯克了，就算美国政府出面，也很难禁止openai继续研发。老马还是先管管自己推特吧，最近垃圾推送越来越多了。

长度也宽度 · 发表于 2023-7-6 08:48:32

实际上，这两个新闻并无关联。虽然矛头都指向了OpenAI，但关注点并不一样，3天前的联合公开信主要关注的是人工智能对人类社会可能存在的潜在威胁的担忧，而昨天意大利宣布限制使用ChatGPT主要关注的是用户利益和数据安全。
也就是说前者是对更广泛的AI技术研发的抵制，而后者是对具体产品部署的限制。

意大利隐私监管机构周五下令禁止ChatGPT，指控侵犯隐私。

事情的起因是ChatGPT上周发生了数据泄露事件，并暴露了用户对话和用户支付信息。而且OpenAI不会验证用户的年龄，任何人都可以使用ChatGPT，使其产生的内容可能会对儿童产生不良的诱导。
严格地说，意大利官方并没有明确说是完全禁止ChatGPT，而是“ 立即对开发和管理该平台的美国公司OpenAI对意大利用户数据的处理施加了临时限制。”
同时，意大利国家数据管理机构要调查OpenAI。对ChatGPT的临时限制何时取消，取决于OpenAI时候能遵守欧盟的隐私法——《通用数据保护条例》（GDPR）。

但是不管怎样，从联名的公开信，到对ChatGPT的限制使用，毫无疑问的是树大招风的OpenAI现在快成了“众矢之的”。
至于原因如何，已经有很多人做过分析，基本的观点有两类：

技术角度。人工智能确实需要加强监管，在完全的监管体系没有建立起来之前，应该限制更强大的人工智能的研发。
利益角度。目前的OpenAI盈利能力可见一斑，几乎独占了chatbot市场的这块蛋糕，将其他同类型公司远远甩在身后，并且其发展势头正盛。所以，资本圈大佬们看不下去了，决定联合起来争抢，“义正辞严”的公开信无非是打压OpenAI的舆论工具。

我倒是觉得以上这两种观点归根结底原因就一个：
OpenAI不再Open了

风险和恐惧来源为未知。
半个月以前OpenAI发布GPT-4的时候，就在技术报告中明确说了，出于商业竞争和技术安全的考量，他们不再公布关于GPT-4模型的任何技术细节，包括模型结构、参数规模、硬件、以及训练模型所需的算力、数据集和训练方法等等。

一旦一件东西变得未知，甚至神秘，就容易让人们产生恐惧。
这种恐惧一方面体现在人们对技术本身的担忧（比如是否会失控）；另一方面，也体现在竞争对手身上，因为它让竞争对手完全摸不着头脑了。
这就像一场多人参加的竞技比赛，我一定要事前熟知每个选手各个维度的数据，心里才会有底，尤其是当自己知道实力并不如对面的时候。
而现在OpenAI却表示什么“我什么都不告诉你们。”
那其他选手怎么想，“你本来就已经足够强大，如今又变得如此神秘，我们每个人都知道自己无法单独战胜你，那么面对这样的对手，唯一能想到的办法就是大家联合起来先把你扳倒，然后我们剩下的人再接着玩。”

不过话说回来，OpenAI选择不公布GPT-4模型的技术细节，有错吗？
我觉得没错，作为一家公司，这是将来换钱的东西，我凭什么告诉你们！
那大佬们联合起来叫停，想办法阻止你继续发展、变得更强，有错吗？
我觉得也没错，你自己一个人把蛋糕都占了，我们打又打不赢，抢又抢不到，眼巴巴站边上看着，只能联合起来先把你干到，然后我们再去分剩下的蛋糕。
利益面前似乎都有道理，但只能说，残酷的资本游戏不是讲理的地方。

(马斯克：我就纳闷了，我当初投了1亿美元的非盈利机构怎么就变成一家估值300亿美元的商业公司了呢。）
以上。
<hr/>我是 @卜寒兮，欢迎关注。
推荐个好东西：
ChatGPT最实用的提示（Prompts）写法有哪些？

		自动登录	找回密码
密码			立即注册

马斯克叫停 GPT-5 研究，意大利禁用 ChatGPT ，生成式 AI 最大风险是什么？该如何监管？

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源