FEATURED STORY / 01

“人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

整理丨S+ 出品丨奇点折射(ID:rgznai100) 盖茨又出来泼冷水了! 在最新一期《Decoder》节目中,比尔·盖茨首先否认了自己是悲观主义者,但说的话却比悲观主义还悲观:AI 是人类有史以来最危险的技术。不是哪个模型危险,是整件事危险。 他把近期AI对社会的影响说得非常具体:未来两到三年,网络攻击和就业市场的负面就会明显起来。白领技能的稀缺性会消失。电话销售、客服、会计辅助这些岗位,AI

READ
THE
DETAIL
EDITORIAL NOTE

整理丨S+ 出品丨奇点折射(ID:rgznai100) 盖茨又出来泼冷水了! 在最新一期《Decoder》节目中,比尔·盖茨首先否认了自己是悲观主义者,但说的话却比悲观主义还悲观:AI 是人类有史以来最危险的技术。不是哪个模型危险,是整件事危险。 他把近期AI对社会的影响说得非常具体:未来两到三年,网络攻击和就业市场的负面就会明显起来。白领技能的稀缺性会消失。电话销售、客服、会计辅助这些岗位,AI会干得更快、更准、更便宜。他还说,不存在AI永远够不着的认知顶峰,数学界正在发生的事,别的领域也会发生。 再往后,他甚至给了一个 20 年的判断: 人形机器人盖房、种粮、做手术;大多数商品和服务, 人类劳动力不再是经济运行的必需条件。他甚至和Claude讨论过,能不能人为地保留 40% 的工作给人类,用提前退休、限制每周工时,维持一个像今天的社会。虽然听着像科幻,但他说 20 年还是相对稳妥的估计,也许会更短。 监管这块,他更是没给留面子。现在连强制性的模型审查都没有,监管还停在“你愿意就自愿联系我们”。面对人类历史上最危险的技术,这远远不够。开源模型可以开放,但安全防护不能被一键拆掉;要管平台、管分发,不是管芯片。想靠产品责任、把公司告上法庭来兜底?他说,荒谬。真有人发动生物攻击,你没法靠一纸判决解决。 他还把几个大家常用来宽心的话挨个顶了回去: AI 没有意识,但安全问题跟“意识”无关; 对齐没解决,就算解决了,也不等于解决就业和社会关系冲击; 数据中心你反不反对,它都会建; 把 AI 说成要么全是好处、要么全是坏处,都不公平; 中国对 AI 的热情和依赖度没有美国高,但政府更愿意为社会利益说“不”。 最值得行业停下来讨论的,是他对认知落差的判断:AI 行业内部人士对模型发出的警告,没有不真诚的成分,他们说的是事实,几乎业内所有人都认同;但行业之外,相信这些风险的人非常少,很多人觉得这是泡沫炒作。 以下为对谈原文,经整理后呈现,各位enjoy~ AI:有史以来最危险的技术 主持人: 很高兴再次和你交谈,盖茨。我想把这次谈话分成三个部分。首先,我想了解你如今如何看待 AI 这项技术、发展迅速的原因。以及究竟由谁来实施这些解决方案和管控措施,因为眼下这一点同样存在很大争议。我们从头说起,是什么让你觉得AI的发展速度已经快到我们还来不及做好控制它的准备? 盖茨: 过去一年,AI 取得的进展令人惊叹。从编写代码、发现网络安全漏洞,到在生物学领域进行推理,再到与孩子或其他人建立关系,以及扰乱就业市场,这些能力都在迅速发展。如今 AI 拥有的强大能力意味着,这些事情都会发生,所以整个社会都必须做好准备。 主持人: 你认为这些风险是整个AI技术领域都会出现的,还是主要存在于如今各家公司开发的具体产品中?我的意思是,AI 是一个广泛的模型集合,其中一些是开源的,另一些则是专有的。除此之外,还有开发这些产品的公司,以及领导这些公司的管理者。 盖茨: 风险并不在于某个模型与另一个模型之间的差异。当然,短期内, 如果某些模型允许用户移除所有安全防护措施,那么它们就会带来极高的危险。 相比之下,那些会受到持续监控、确保网络攻击者和生物恐怖分子无法利用模型能力造成巨大危害的模型,风险就很不一样。 在更长的时间尺度上,控制问题会涉及任何处于最先进水平的模型。不过,只要能够确保安全防护措施始终有效,控制起来就会容易得多。 主持人: 你认为这种风险会分散在市场中,还是会随着技术发展,最终达到一个有害的程度,或者具备造成这些危害的能力? 盖茨: 比如, 有人利用模型发动网络攻击,这并不是由你选择哪个模型决定的。 无论你选择什么模型,都无法改变这一点。 主持人: 但如果 Anthropic 设置了安全防护措施,也许它就做不到,对吧? 盖茨: 是的,如果模型能够确保安全防护措施不会被移除,而且开发者投入大量精力来了解模型的使用方式、监控相关活动,那么这些模型在短期内带来的风险就不会非常大。 真正的问题在于那些可以被移除所有安全防护措施的模型 ,因为利用这些模型发动网络攻击的能力如今已经存在。 面对 AI 威胁,不要存在侥幸心理 主持人: 说到网络攻击,像 Hugging Face 遭遇的安全漏洞事件,以及我们看到的其他AI实验室网络安全事件,是否让你觉得我们已经跨越了某些临界点,因此你有必要公开发声,强调我们需要采取哪些管控措施? 盖茨: 真正让我担忧的是这些模型在各个领域展现出的强大能力,包括社会关系、就业市场、网络攻击以及生物恐怖袭击。我们已经跨越了一个能力门槛: 这项技术远远超过以往任何被发明出来的技术,是迄今为止最危险的技术, 而且它将对经济以及战争的进行方式产生广泛而深远的影响。 事实上,业内人已经频繁地公开谈论这些问题。但 在行业之外,对这些风险的认知,甚

about image
上一篇 鹅厂两部新剧官宣阵容,张若昀、胡先煦搭档主演正午《重庆号》!... 下一篇 姆巴佩社媒更新:转发皇马官方为铁路事故哀悼的声明...

觉得内容有价值?

分享给更多关注行业变化的朋友。

返回资讯列表
03 / TRENDING NOW

热点资讯

查看近期访问较多的内容,快速了解读者正在关注的行业话题。

为何一定要解决中人待遇问题?关乎全民的公平与信任!
1

为何一定要解决中人待遇问题?关乎全民的公平与信任!

大家好我是随缘刊登,每天给大家带来最新动态,内容随缘更,每篇都掏干货;如果你觉得这些信息对生活有用,就点个关注~ 在社保养老改革的所有遗留问题里,机关事业单位养老“中人”待遇问题,从来都不是一小部分人的个人诉求,而是关乎整个社保体系规则公平、全民缴费信任、社会民生公信力的核心大事。 很多普通老百姓觉得,中人问题是机关事业单位内部的事情,和企业退休人员、灵活就业人员没有关系。这是最大的认知误区。 社

36分14篮板后,文班亚马再战爵士冲5连胜
2

36分14篮板后,文班亚马再战爵士冲5连胜

马刺在赛季初经历一段低迷后已经拿下 四连胜 ,其中一场胜利正是加时击败爵士。半个星期之后,两队将在马刺主场再度交手,马刺的目标是把连胜扩大到 五场 。 上一场对阵爵士的比赛是一场拉锯战,马刺开局慢热,最终在加时赛收尾。爵士的年轻后卫们打出了亮眼表现,而马刺需要文班亚马砍下 36分、14个篮板 才拿下比赛。那场球爵士缺少了主力之一的马尔卡宁,周一晚上他将回归,本赛季他场均可以得到 15.4分 。 马

C罗拒绝葡萄牙足协告别赛,无意再亮相,也不想与现任教练合作
3

C罗拒绝葡萄牙足协告别赛,无意再亮相,也不想与现任教练合作

C罗据报拒绝葡萄牙告别赛。据外媒报道,克里斯蒂亚诺·罗纳尔多在宣布退出国家队后,拒绝了葡萄牙足协为其安排的告别赛,尽管足协本希望 藉 此向他的辉煌职业生涯致敬。这位41岁的足球巨星于周四宣布退役。据透露,葡萄牙足协曾计划为他安排一场致敬赛,但C罗无意重返赛场进行最后的亮相。 媒体称,C罗在发布告别视频前数小时,已将这一决定告知葡萄牙足协主席佩德罗·普罗恩萨。普罗恩萨随后通知了国家队主教练若热·热苏

公布:9月德国出口1572亿欧元!对美国出口134亿,对中国出口多少?
4

公布:9月德国出口1572亿欧元!对美国出口134亿,对中国出口多少?

你平时翻家里手机、平板或者笔记本电脑的背面,总能看到一行产地小字,十有八九印着中国制造。咱们普通人不可能挨家挨户蹲点统计德国家里都用啥货,但德国联邦统计局可是月月都晒自家外贸成绩单,11月9号刚更了9月的最新版本。刚点开这份成绩单第一眼,那数字看着相当养眼。 9月德国出口比8月涨了2%,之前一众分析师拍脑袋预测也就涨0.5%,结果实际表现直接甩了预期两条街,跟去年同期比还涨了7.7%。按统计局常用

淘汰崔永熙?男篮前锋5选4,张镇麟联手上海队友,青岛旧将回归
5

淘汰崔永熙?男篮前锋5选4,张镇麟联手上海队友,青岛旧将回归

来到11月份中期,男篮国家队集训还在进行,之前我们分析了中锋的人选,而前锋球员似乎没有那么难挑,毕竟这次郭士强只征召了5个,包括张镇麟、曾凡博、崔永熙、赵嘉义、李弘权,按照两个大前、两个小前的配置,最终被淘汰的可能只有1人,但郭士强依然要犯愁怎么选。 这次国家队锋线的一个变化就是朱俊龙没来,因伤缺席,并且在联赛里也一直没有复出。这对于朱俊龙来说情况比较罕见,因为过去几年他在国家队是全勤的。最初球迷