AI毁灭人类的故事百听不厌？OpenAI是个讲故事的天才 | 跨境焦点

大数跨境

2024-07-03

546

【独立站建站180元起】

快速开启你的跨境生意，7天免费试用！

立即咨询>>

导读：人类天生热爱故事，OpenAI才能不断贩卖同一个灭世寓言。

当今势头最盛的行业是人工智能，而OpenAI是全球人工智能行业的领导者，其推出的ChatGPT和GPT系列模型引领了当代的技术潮流，ChatGPT的热潮让人们对人工智能技术产生了极大的兴趣，投资者们迫切地涌入人工智能行业，中国AI公司也纷纷出海，作为OpenAI联合创始人和首席执行官的山姆·奥特曼则成了家喻户晓的名人。

奥特曼对全世界说，人工智能将为世界带来积极的影响；但背地里，他曾向《纽约客》记者透露，自己在美国加州大瑟尔拥有一片土地，并且已经储备了足够的黄金、弹药、抗生素以及防毒面具，确保自己在世界末日时可以避难。

随着OpenAI的发展，内部员工们逐渐感到恐惧，人工智能开始展现出一些连它的创造者也无法理解的行为。近期，7名OpenAI前员工，4名现员工，1名谷歌DeepMind现任员工和1名前员工，共13人公开联名发表了《对先进人工智能发出警告的权利》。

他们说：“人工智能可能带来人类灭绝的风险。”

宁叫我负天下人，休叫天下人负我

《对先进人工智能发出警告的权利》这封信件中写道：“AI公司知道人工智能技术的真正风险，但因为他们不需要向政府披露太多信息，因此AI系统的真正能力仍是一个秘密。如果没有适当的监管，人工智能系统将造成严重的危害，甚至灭绝人类。”

OpenAI前任副总裁达里奥·阿莫迪，在Logan Bartlett的播客节目中表达了他的焦虑，“（当第一次看到GPT-2时）我被吓到了，这太疯狂了，在世界上是前所未有的。”他看着自己在OpenAI的帮助下构建出的模型，感受到的不是振奋，而是恐惧，“这个东西将会非常强大，它可以摧毁我们。如果它想制造混乱并摧毁人类，我认为我们基本上没有办法阻止它。”这位有深刻洞察力和强烈责任感的领导者最终离开了OpenAI，并创办了Anthropic，专注于构建安全的人工智能。

OpenAI公司已经充分了解到AI安全性问题有多么至关重要，但是内部对此却并未形成统一意见，大多数高层认为利益至上，小部分高层认为安全性更为重要。

目前，以奥特曼为代表的“利益至上”派取得了胜利，他解除多位意见不合的董事，将首席科学家伊利亚·苏斯克沃雪藏半年后开除，彻底将OpenAI变成一言堂。

末日狂欢

在硅谷，认为“人工智能可能很快会毁灭我们”这种观点，逐渐被越来越多人认可；英国一项调查显示，在ChatGPT发布后的一年里，认为人工智能会让人类灭绝的人数翻了一倍多。

这些想法是人工智能领域的重要动力，许多从事人工智能工作的人们充满动力，因为他们觉得自己正在做的事情关乎整个星球的存亡；这些想法也影响了数十亿美元的流向——哪些问题应该先被解决，哪些要被往后放。

有些跳出局的学者和研究人员认为，对人工智能的过分关注像一场狂欢，令人沮丧又有误导性。

专注于计算语言学的艾米丽·本德尔和麦克认为，关于“人工智能会带来世界末日”的讨论就像一个不断闪烁的警报器，攫取了所有的注意力。这种恐慌让我们忽视了现实世界中正在发生的各种真实伤害，比如劳动力剥削、数据盗窃、歧视和霸凌等。而我们越是沉迷于那些危言耸听的故事，我们就越没有时间和资源去处理当前正在发生的实际问题。

奥特曼也深知一个引人入胜的末日启示录故事会有多受欢迎，在2015年的Airbnb会议上，他曾说：“人们通常对于戏剧性的极端风险更为敏感，而对于渐进的风险往往估计不足。比如核能实际上很安全，其安全性远超煤炭数千甚至数万倍。然而，大多数人更愿意选择生活在煤炭发电厂附近，而非核电厂。”

奥特曼本人曾在2015年明确表达过自己的忧虑，认为高级人工智能会威胁人类；但是自ChatGPT掀起行业潮流之后，他又抛弃了这种说法来歌颂人工智能；一些与奥特曼有私下交流的人曾抱怨，奥特曼有时会根据听众的期待来说出他们想听的话。

人们都喜欢听故事，或许正是因为人类对戏剧性灾难的偏好，人工智能行业才能够不断向我们贩卖同一个故事。

 0

 0

大数跨境

助力中国品牌走向世界。大数跨境是一个跨境电商自媒体，给更多想要跨境出海、在海外掘金的人们搭建一个可以轻松了解海外信息和海外趋势的平台。大数跨境会为您解读海外资讯、行业洞察、卖家生态等等。

内容 1217

粉丝 60

关注

跨境电商动力：璟川森特海外仓的订单处理秘籍

2024-07-05