本字幕由TME AI技术生成
九 反炒作
谷歌可能会偶然制造出某种邪恶的东西
二零一四年十一月十四日
埃隆
马斯克在一个名为EDGE点ORG的网站上发布了一条消息
依他说
在deepmind这样的实验室里
人工智能症在已经人的速度发展
除非你直接接触过像deepmind这样的团队
否则你不会知道它的增长速度有多快
接近止数集了五年
最多十年的时间内
有发生严重危险事件的风险
而不是对自己不懂的事情大喊狼来了
我不是唯一一个认为我们应该保持警惕的人
领先的人工智能公司已经采取了重大的措施来确保安全
他们意识到了危险
但他们相信自己可以塑造和控制数字化超级智能体
防止有害的智能体逃进互联网
结果还有待观察
发布后不到一个小时
这条消息就消失了
但其内容与马斯克几个月来在公开和私下场合所说的并没有太大的不同
一年前
马斯克在硅谷与蓬博商业周刊的记者阿什利
万斯events共进晚餐
刚坐下几分钟
马斯克就说自己最大的担忧是拉里
佩奇正在建立的一支人工智能机器人大军
其最终可能会毁灭人类
大问题不在于佩奇是恶意的
佩奇是他的密友
他经常睡在佩奇家的沙发上
三
问题是佩奇的行为基于这样一种假设
即谷歌所做的任何事情都会对世界有益
四
正如马斯克所说
他可能会偶然制造出某种邪恶的东西
五
这段谈话内容一直保密了多年
道万斯出版了马斯克的传记
但在他们共进晚餐后不久
马斯克在美国国家电视台和社交媒体上说了很多类似的话
在美国全国广播公司财经频道CNBC的一次露面中
他提及了终结者
六
他说有过一些与此相关的电影
他在推特上发布了一条消息
声称人工智能可能比核武器更危险
七
在同一条消息中
他敦促自己的追随者们阅读超级智能路线图危险性与应对策略supremechallengencepatsdangerousstrategies
这是牛津大学哲学家尼克
波斯特洛姆nick出出版的一本大布头
八根bostrodeepmind联创始人人莎恩
莱格一样
波斯特洛姆认为超极智能可以保卫人类的未来
或者摧毁他
九
这很可能是人类有史以来所面临的最重要
最艰巨的挑战
他写道
而且无论我们成功还是失败
这可能是我们要面临的最后一个挑战
使他担心的是
科学家会设计一个系统来完善我们生活中的某个特定部分
但他们没有意识到的是
有一天这个系统会以任何人都无法阻止的方式造成严重破坏
他经常重复的比喻是一款回形针游戏
其目标是生产尽可能多的回形针
他说这样的系统可以首先将整个地球
然后将越来越大的太空全都转化为回形针生产设施
那年秋天
马斯克出现在纽约名立场会议的讲台上
他警告作家沃尔特
艾萨克森
water
埃塞克森为地归的自我提升而设计的人工智能的危险
十一
他解释说
如果研究人员设计了一个系统来对抗垃圾电子邮件
他最终可能会得出结论
消除所有垃圾邮件的最好方法就是消灭所有人
十二
当埃萨克森问他是否会使用他的spacex火箭来逃离这些杀手机器人时
马斯克表示
逃跑也许是不可能的
十三
他说如果有某种世界末日的情景
那可能是地球上的人造成的
十施 几周后
马斯克在EDG一点ORG上发不了他的那条信息事务
该网站由一个非营利性组织级基金会运营
其不仅探索新的科学思想
还主办了一个名为亿万富翁晚宴的年度聚会
参与者包括马斯克
拉里佩奇
谢尔盖布林和马克
扎克伯格等名人
在主要资金支持者之一
亿万富翁杰弗里
埃泼斯坦ejeffrey埃布斯因因性交易被捕
随他在该狱里自杀之后
十六
该组组织快快陷入议从从在该组组网站站的留言言看
马马克的态度比过去更加明确
他指出deepmind就实施借证再向超极致能发展的证据
十七
他说危险的出现最多还有五到十年
十八
作为deepmind的投资者之一
在伦敦实验室突然贝谷割收购之前
他已经在体内部件试过了
我们不清楚他看到了什么其他人没有看到的东西
马斯克在周五发布了那条消息
在接下来的周三
他和马克
扎克伯格一起吃饭
这是他们第一次见面
扎克伯格邀请马斯克到他家
他的家位于帕洛阿尔托
周围绿树成荫
扎克伯格希望能让这位南非企业家相信
所有这些关于超级智能危险性的言论都没有多大意义
当听到deepmind的创始人们坚称
如果说购方部能保证设利益个独力得到德委员会来监督他们的同佣人工智能
他们就不会出售自己的实验室时
扎克伯格犹豫了
现在
随着马斯克在电视和社交媒体上放大这一信息
扎克伯格不想让立法者和政策制定者得到这样的印象
及facebook这样的公司会因为突然进军人工智能领域而对世界造造成伤害
为了处理这种状况
他还邀请了杨丽坤
麦克斯克洛普夫和在新的facebook实验室与杨丽坤一起工作的纽约大学教授罗布福格斯
这些facebook的人花了一顿饭的时间试图解释马斯克对人工智能的观点被少数误导的声音扭曲了
扎克伯格和他的同事们说
尼克
波斯特洛姆的哲学思考与马斯克在deepmind或其他任何人工智能实验室中刊道的东西都没有任何关系
神经网络距离超级智能还有很长的路要走
deepmind够建了一些系统
其可以在游戏中优化计分数值
比如乒乓或太空入侵者
但他们在其他地方毫无用处
你可以轻松的关闭游戏
就像将汽车车火火一样
马马斯不不为论点
他说
问题在于人工智能的进步实在太快了
风险在于这些技术可以在任何人意识到发生了什么之前
从无害跨越到危险的境地
他在推ter电视节目和公开露露面都提出了相同同论点点
他表达自己的观点时
没有人能判断断他说的是不是他自己所相信的
或者他只是故作姿态
着眼于一些其他的最终结果
我真的认为这很危险
他说
在帕洛二托的晚宴后几天
埃隆
马斯克给杨丽坤打了电话
他说自己正在特斯拉公司制造一辆自动驾驶汽车
他咨询杨丽坤的意见
询问应该招募谁来运营这个项目
那一周
他联系了其他几位facebook的研究人员
问了他们同样的问题
这个策略最终引起了马克
扎克伯格的愤怒
杨丽坤告诉马斯克
他应该联系沃尔斯
穆勒yours
miler
穆勒是杨丽坤在贝尔实验室的老同事
他已经拥有一家通过深度学习探索自动驾驶汽车的初创公司
然而
在马斯克招募这位瑞士研究员之前
已经有人抢先了一步
在杨丽坤接到马斯克电话的几天后
他回应了英伟达创始人兼首席执行官黄仁勋同样的咨询
并给出了同样的答案
英伟达立即采取了行动
该公司的野心是打造一间实验室
拓展自动驾驶的边界
并在这个过程中帮助该公司销售更多的GPU芯片
马斯克一边敲响警钟
声称人工智能的竞赛可能毁灭我们所有人
一边也加入了这场竞赛
那个时候
他感兴趣的想法是自动驾驶汽车
但他很快就去追逐与deepmind相同的宏伟想法
创建自己的实验室来研究通佣人工智能
对马斯克来说
这一切都被同一种技术趋势包裹
首先是图像识别
然后是翻译
再之后是自动驾驶汽车
最后是通用人工智能
越来越多的研究人员
企业高管和投资者在努力打造超级智能的同时
也警告其危险性
马斯克就是其中一员
还有deepmind的联合创始人和早期支持者
以及很多被吸引到其轨道上的思想家
对外行来说
这简直是无稽之谈
没有证据表明超级智能在任何地方接近了现实
当前的技术仍然难以实现可靠的驾驶汽车或进行对话
或仅能通过八年级的科学测试
即使通用人工智能有所接近
像马斯克这样的人的立场似乎也很矛盾
有很多人会问
如果他会杀掉我们所有人
那么我们为什么要打造他
但是对这个小圈子内部的人来说
针对他们认可的一些独特且重要的技术
考虑其背后的风险是很自然的事情
有人要打造超级智能
最好在打造他的同时
防范出现意外的后果
早在二零零八年
莎恩
莱格在他的论文中就描述了这种态度
他认为尽管风险很大
但潜在的回报也很大
十九
如果说有什么东西在靠近绝对立
那么超级智能机器比较接近
根据定义
它能够在各种不同的环境下实现广泛的目标
他写道
如果提前为这种可能性做好准备
那么我们不仅可以避免灾难
还可能带来一个前所未有的繁荣时代
当时他承认这种态度似乎很极端
但他也指出了持类似信念的其他一些人
在创立deepmind时
他和哈萨比斯就进入了这个圈子
他们通过奇点峰会接触到了彼得蒂尔
还从互联网电话服务商skype的联合创始人感恩
塔林
young那里获得了了另一笔投资
后者很快加入一个个术团体
创建了他们所谓的生命未来研究所
该组织制利益
探索人工之能和其其他技术存在风风险
然后
哈萨比斯和莱格这这些想法带到了新的地方
他们给马斯克做了介绍
还把这些想法带到了telfacebook和谷歌这两家科技巨头正争先恐后的想收购他们的初创公司
当他们吸引了投资者和收购方的兴趣时
莱格并不避讳谈论自己对未来的看法
他说
超级智能将在未来十年到来
风险也将到来
马克
扎克伯格对这些想法犹豫不决
他只想要deepmind的这些人才
但拉里佩奇和谷歌星然接受了所有
一旦进入谷歌
苏莱曼和莱格就搭建了一个deepmind团队
致力于研究他们所谓的人工智能安全
努力确保实验室的技术不会造成伤害
如果技术要在未来成功得到应用
道德责任必须默认被纳入其设计之中
苏莱曼说
当你开始打造这个系统的时候
你必须考虑伦理方面的因素
随着埃隆马斯克投资了deepmind
并开始表达很多类似的担忧
以及亲自在这个领域发力
他就加入了一场运动
然后就走向了极端
二零一四年秋季
生命未来研究所成立还不到一年
当时他邀请了这个不断发展的圈子里的人参加在波多黎各举办的一场私人峰会
二十一
在麻省理工学院宇宙学家和物理学家麦克斯泰格马克maxtegmark的领导下
这场峰会址在延续阿西洛马会议的思录
那是一九七五年得以敞开创幸聚会
世界领先的一船学家在此聚会上讨论了他们的即因边急功作罪终是否会毁灭人类
二十二
该研究所发出的邀请函包括两张照片
一张是波多黎各的圣湖湾海滩
另一张是一群可怜的人在某个寒冷的地方铲雪
雪堆里埋着一辆大众甲壳虫
意思是
一月初你在波多黎各会快乐的多
他们还承诺不会有媒体参加
意思是你可以自由讨论你对人工智能未来的担忧
而不会被终结者相关的头条新闻惊醒
他们称这次闭门会议为人工智能的未来机遇和挑战
戴密斯
哈萨比斯和沙恩莱格都出席了
埃隆马斯克也来了
二零一五年的第一个星期天
在跟马克
扎克伯格共进晚餐六周后
马斯克上台讨论的智能大爆炸
即人工智能突然达到连专家都没有预料到的水平的威胁
二十三
他说这是最大的风险
这项技术可能会突然进入危险区域
而没有人意识到这一点
二十四
这是对波斯特洛姆的回应
他也在波多黎各的讲台上
但马斯克有办法放大这个信息
贾恩
塔林承诺每年为生命未来研究所提供十万美元的活动资金
在波多黎各
马斯克承诺投入一零零零万美元
专门用于探索人工智能安全的项目
二十五
但当他准备宣布这份大礼的时候
他又担心这个消息会影响即将发射的spacex火箭及其在太平洋无人船上的着陆
二十六
有人提醒他
会议上没有记者
与会者会遵循军查塔姆攻守则
这意味着与会者同意不透露任何人在波多黎各峰会上的发言
但他仍然保持警惕
二十七
所以他在宣布这条消息的时候
没有透露具体的金额
二十八
过了几天
当他的火箭在着陆过程中坠毁时
他在推特上透露了这项一零零零万美元的资助
二十九
对马斯克来说
超级智能的威胁只是众多威胁中的一个
他主要关心的似乎是获得最大限度的关注度
他是一个超级忙碌的人
没有时间去挖决问题的细微差别
但他理解问题的基本状况
塔林说
他也真的很享受媒体的关注
并将这些关注转化为口号式的twitter消息
马斯克与媒体之间存在共生关系
这让很多人工智能研究人员感到恼火
这是圈子必须付出的代价
在会议上
泰格马克分发了一封公开信
试图将聚集在波多黎各的研究人员的共同信仰编成法典
三是公开信中提到
我们认为研究如何使人工智能系统变得强大和有益
既重妙又及时
三十一
然后公开信还推荐了从劳动力市场预测到可以确保人工智能技术安全可靠的工具开发等各种内容
泰格马克给所有与会者发了一份复印件
让所有人都有机会签名
这封信的语气很有分寸
内容也直截了当
主要坚持常识性的问题
但对那些致力于人工智能安全理念的人来说
这是一个标志
他们至少愿意倾听莱格
塔林和马斯克等人士的深切担忧
谷歌的总法律顾问肯特
沃克 KT
work出席了会议
但没有签名
三十二
在波多黎各
他更像是一名观察者
而不是参与者
因为他的公司试图分别通过谷歌大脑和deepmind在加州和伦敦或大其人工智能方面的研究
但其他大多数与会者都签了名
包括谷歌大脑内部的一名顶级研究人员伊利亚
萨特斯基弗
三十三
麦克斯
泰格马克后来写了一本关于超级智能对人类和整个宇宙潜在影响的书
三十四
在开篇中他描述了在波多里各会议之后
埃隆
马斯克和拉里
佩奇再一次晚宴上的会面
三十五
在美国加州纳帕谷的某个地方
品尝了食物和鸡尾酒之后
佩奇为泰格马克所描述的数字乌托邦主义进行了辩护
数字生活是宇宙进化中自然且令人向往的下一步
如果我们让数字思维自由发展
而不是试图阻止或奴役他们
结果几乎肯定是好的
三十六
佩奇担心对人工智能崛起的偏执妄想会推迟这个数字乌托邦的到来
尽管他有能力给地球以外的世界带去生命
三十七
马斯克对此进行了反驳
他问佩奇如何确定这种超级智能不会最终毁灭人类
三十八
佩奇指责马斯克是物种主义者
因为他更喜欢探及生命形式
而不是用硅创造的新物种
至少对泰格马克来说
这场在深夜一边品尝鸡尾酒一边辩论的方式
展示了科技行业核心人物之间的对立态度
