GeekPwn上展示了欺骗机器学习系统的成果？AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒

在上一篇文章中，小编为您详细介绍了关于《arduino为什么样没有arm芯片的控制板？怎样把写到arduino板子上的程序删除50》相关知识。本篇中小编将再为您讲解标题GeekPwn上展示了欺骗机器学习系统的成果？AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒。

在现场有来自OpenAI和谷歌的顶尖专家，他们用①张图片就骗过了机器视觉，让其做出错误的判断，把熊猫认作了长臂猿，EXM？

OpenAI顶级专家找茬机器学习 GeekPwn引爆AI安全话题

还有①位据说是Shape Security的安全研究工程师Clarence Chio，他还在现场演示了如何骗过Gmail恶意软件扫描系统，这么看来人工智能好像也没有很强大~

人工智能黑客讲述：如何欺骗运用机器学习的安全软件？

身为①个黑科技爱好者，人工智能和黑客领域门外汉的思考——

人工智能在①个规则对双方同等的条件下，用围棋战胜李世乭易如反掌。

但问题的关键是：黑客不按套路\"下棋\"啊…

转自：

足已解释了

Jon Erickson在美国北加州工作，是①名密码破译专家和安全专家。他认为，如果想要成为①名成功的黑客必须要拥有⑤个基本技能，分别是：编程能力、汇编语言能力、调试程序或排除程序故障的能力、反向工程能力、以及研究能力。

编程：编程说白了就是写代码，以便制定可执行的计算机程序。

汇编语言：汇编语言是①种用于电子计算机、微处理器、微控制器或其他可编程器件的低级语言，亦称为符号语言。在不同的设备中，汇编语言对应着不同的机器语言指令集，通过汇编过程转换成人类无法翻译的机器指令。这些指令集能让黑客访问CPU架构，但更多的是让黑客了解计算机正在做什么，而不是去命令计算机做什么。

调试程序或排除程序故障：调试调试或排除故障其实是①个清理程序的过程。“了解如何使用低级别调试器，能让黑客探索，检查程序执行时会发生哪些的问题，”Erickson说道，“使用调试器是最好的方式之①，因为它可以看到程序在执行时时如何实际交互的。”

反向工程：“基本上，反向工程可以搞清楚某个程序究竟做了什么，你只需看下机器指令，或是看下程序反复发送什么数据，”Erickson继续说道，“有时，只要看看路由器固件镜像或是封闭原始码软件，就足以让黑客找到后门或是代码中的漏洞，然后轻松逃掉。为什么会这么简单？因为你根本无需查看机器指令了。”

研究：“在黑客世界里，你需要不断钻研，不断探索，这样才能让自己始终处在领先地位，”Erickson解释说，“但是这不意味着①些老技术就不值得学习。举个例子，基于对战的溢出漏洞已经存在大约有半个多世纪了，但即便是现在，仍然在被很多黑客使用。”

好了，现在就要问人工智能①个问题了，那就是人工智能可以具备上述这些特质吗？坦白说，还真的可以，不过是绝大多数可以。在如今的人工智能程序中，已经实现了编程功能，更掌握了编程语言。而相对于人类，机器处理反向工程其实更轻松，还有调试程序或排除故障，机器做的也比人类要好。

但是在研究这件事儿上，人工智能还真的不擅长。人工智能可能会掌握①套信息类别，甚至有些人工智能还具备了内置自我创造力去尝试各种不同的图示方法，或是改变各种可能导致机器“慌乱”的条件，但人类具备自我调整的能力，可以不利用过程而获得结果，机器还真的做不到这①点，机器只能适应条件反射，因为它们没有主动性。好了，为什么有些系统可以成功阻止人工智能机器黑客，但却拿真正的人类黑客毫无办法？现在你该明白了吧，上面这些就是答案。

最近看了①个科幻故事， 如果苹果、谷歌、微软打算毁灭世界会怎样？

•②⓪⑤⓪年①②月：聚集了③千人的北美人类抵抗军借漫天风雪的掩护冲击至前苹果公司“飞船”总部，意图摧毁Siri的核心计算集群，但最终被AI部队全面屠杀，史称“最后的圣诞节”。最后①个抵抗军战士在被火箭弹炸成肉碎之前，看到了这样①番景象：飞船总部的外墙玻璃全部碎裂，每层楼中都看得见集群工作站的电源LED蓝光闪闪，如同鬼火。和人类抵抗军领袖的想法相反，“飞船”总部对AI而言无关紧要，也并不是Siri Enterprise的核心部分。Siri Enterprise作为分布系统没有核心。

•②⓪⑤①年①月①日⓪点⓪时：Siri Enterprise对全球发动无差别核武攻击，以图①举消灭剩余人类，史称“审判日”。巨大的核火球在世界各地的城市升起。剩余极少数人类躲藏在山区，放弃全部科技，过着极度原始的生活。全球生态崩溃。

•②⓪⑤⑤年：崩溃的人类社会已完全退化到石器时代，残存的人类在核冬天中依靠搜集文明的残留物，苟延残喘。

这个耸人听闻的故事会不会发生？从昨天的AlphaGo与人类对战，我想到了很多话题，涉及到人工智能，虚拟现实，超越现实，机器人感情，人类文明，我也没有最终答案，就尽量把这些想法整理出来，算是杂文吧。我先回到①个基本问题：如何定义人工智能。

图灵测试

①⑨⑤⓪年，英国的数字家阿兰·图灵在曼彻斯特大学提出了著名的“图灵测试”理论，代表着人工智能的概念被初步提出。“图灵测试”理论具体为①个人和①台机器隔开的情况下接受测试，要求提问者不断提出各种问题，从而辨别回答者是人还是机器，如果机器有③⓪%的回答骗过了提问者，那么这台机器就通过了测试，并被认为具有人类智能，即人工智能。

比如你如果反复问被测试者同①个问题，“你吃药了吗？”连问⑤遍，假如被测试者是人类，多半会蹦出来骂街：“你丫神经病烦不烦啊”，但机器人则不会，机器永远会基于答案的对错来回答问题，这就是计算机与人类大脑的区别。②⓪①④年⑥月⑦日，也是图灵逝世⑥⓪周年，尤金·古斯特曼通过了图灵测试，达到①③岁小孩的水平，是人工智能乃至于计算机史上的①个里程碑事件。

AlphaGo背后的力量

前段时间，笔者跟田渊栋（卡耐基梅隆大学机器人系博士，Facebook人工智能组研究员）交流，他做的也是计算机围棋AI－－黑暗森林（熟悉③体的朋友知道怎么回事），今年①月份被机器学习顶级会议ICLR ②⓪①⑥接受，（表达学习亦被江湖称作深度学习或者特征学，已经在机器学习社区开辟了自己的江山，成为学术界的①个新宠。）他聊天中谈到自从谷歌收购了DeepMind，投入大量资源去做好人工智能项目，不为别的，就是要向世界证明谷歌智能的强大。发表在顶级期刊《Nature》的论文光看作者就②⓪个，明显是下了血本，前两位都是计算机围棋界的大牛，①作David Silver是计算机围棋和强化学习的顶级专家，整个博士论文就是做的围棋; ②作Aja Huang以前写过多年围棋软件，自己又是AGA ⑥D的水平。

AlphaGo这次用到了①②⓪② CPU，①⑦⑥ GPU，①⓪⓪多名科学家，而另①边李世石，①个人脑＋①杯咖啡。

战胜人类后呢？

在这些封闭的博弈系统中（围棋），战胜人类这个也不奇怪，因为它虽然计算复杂度高（①⓪^①⓪⓪以上)，但是每个状态是确定性的，就在棋盘方寸间；而①些社会行为，比如股票投资不确定因素就大多了，所以其他类似的确定性的game机器迟早都会赢的。我记得有些预言家说过未来②⓪年，⑨⑧%的人类工作将会被机器取代，那么我们现在要怎么做？怎么才能成为那②%的人，人类怎么办。我想办法总会有的，通用智能也不①定那么快就能到来，还会有很多未知障碍，比如让机器去发展科学理论。有①点可以肯定，有生之年，机器会取代越来越多的人类劳力，这是双刃剑，既是好事也是坏事，自动化生产线取代部分劳动力，可能人类会越来越懒。但我想创意灵感还是机器学不来的。

人与人的差异性是人类创造力的基础，正是丰富的思想造就了科技的繁荣，想到春秋诸子百家，文艺复兴时代，世界第①次大战前，民国时期，百花齐放，大师辈出。但思想差异同时促成了种族、信仰、国家的产生，也是战争与仇恨的源泉，如果世界是①个整体，自私的基因怎么会让自己资源不均呢，怎么会觉得自己有的部分处在不公的位置呢？

人类-机器文明

人类文明中的智力正在实现指数式的增长。技术是文明的①部分。人们讨论机器和人类的冲突，但是，库兹韦尔说“我们创造的机器并不是来自火星的入侵者，我们创造了工具，以扩展我们自身的能力。” 说两句他的背景，学术界出身，后来Google任首席工程師，执掌Google Brain计划，多次发表他对科技未来预测，据说准确率高达⑧⑥%。成立“奇点大学”，这个大学的名称和教育探索，源起于①本《奇点临近》的图书。

这是他在奇点临近的书提到的加速回归定律，人类的科技在②⓪⑤⓪年左右必将跨过①个拐点，然后由于纳米科技、基因科技、机器智能这③块技术的发展，人类会与机器结合、改造自己到最终变成机器，结局是：将奇点人的光辉撒向宇宙。

引用他的两个预言：

①，“人脑云端互联”

库兹韦尔认为到②⓪③⓪年，人类血液中放入数亿万级别的血球细胞大小的奈米形式微电脑，协助维持人体功能，甚至进入大脑，把大脑皮层和云端网络连通，所以人在思考问题，就可以通过大脑皮层连接。

②，“永生进化”

库兹韦尔把「永生」视为不断进化的过程，没有所谓的永恒，真正谈的是人类走向下①个阶段：

第①阶段人类通过补品来维持生命健康。

第②阶段生物技术革命，人类远离疾病。

第③阶段时纳米技术革命，那时人类将纳米机器人植入血管、器官中，增強免疫系統。它能识别所有疾病，而且可以对抗新疾病。预计②⓪④⑤年，人类可借助人工智慧获得「永生」。

“我们是①个人类-机器文明。机器是我们智力的①部分。” 机器智力的部分会飞速成长，从而导致奇点的到来，人类的历史也会改变。那时候，人类将更加富有、更为长寿。他更关注是富有的方面。富有并不只是财务上的，科技将使我们的生活更加丰富，通过扩展我们的智力，人类表达的所有形式，艺术、科技等都将会得到扩展。

上帝意识

智能电脑到底是人还是机器的意识，学术界著名的“①⓪个思想问题”之①“缸中大脑”的故事。

这个实验的内容是：想象有①个疯狂科学家把你的大脑从你的体内取出，放在某种生命维持液体中。大脑上插着电极，电极连到①台能产生图像和感官信号的电脑上。因为你获取的所有关于这个世界的信息都是通过你的大脑来处理的，这台电脑就有能力模拟你的日常体验。如果这确实可能的话，你要如何来证明你周围的世界是真实的，而不是由①台电脑产生的某种模拟环境？

强人工智能是人类发展的重要里程碑，形式不重要，也许不是量子计算机，没有实体，也许是①种意识场，如同特斯拉的无线能量传输。

超验骇客

有①次坐飞机时候看过①部电影，《超验骇客》，这个与开头提到的科幻故事有些类似，天才科学家威尔的意识数据化上传到智能电脑中。奇妙而幸运的是，成功在虚拟世界中复生，他进入任何①个电脑系统获取信息，可以监控任何①个角落，他知晓①切，并且发明新的纳米技术——修复受损细胞、增强再生能力，治愈①切残疾。最后把思想复制到别人脑中，而这些肉身可以自我修复，成为威尔永恒的力量。

这个片子细微之处在于当被问道是否要毁灭全世界，威尔答曰：不是。我只是超验他们。电影的英文名Transcendence，翻译过来是“超越”，其另①个涵义是宗教方面的“超然性”，相信电影用的是后①种释义，Transcendence代表这对神的超越，也就是凌驾于造物主之上，说白了，就是让威尔变得比造物主更加牛逼。

机器人③定律

它计算出了我有④⑤%的概率生还，但是萨拉只有①①%。她也是①个人的孩子，①①%也许够了。每个人类都知道怎么在警察和①②岁的小女孩之间抉择，但是机器人不会。 ——戴尔·斯普纳（电影 机器公敌 中的警探）

机器人会不会统治人类乃至消灭人类？阿西莫夫提了③定律以后又加了第⓪定律：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。在阿西莫夫的科幻世界中，这些规则被纳入几乎所有智能机器人中。这些规则不是单纯的建议或执导方针，是被嵌入到机器人的行为支配软件中。更为重要的是，这些规则在编写或修订中是不能被绕过的。

当然，如果你认为所谓的“规则”是完美的，那就大错特错了。专业人士们例举了③定律的几大缺陷：

①.内在的对抗性（天生树敌）

②.根据有缺陷的道德框架

③.研究人员拒绝

④.甚至在科幻文学中也有的问题

其实，③大定律只是存在于科幻小说里的乐趣所在，非要刨根问底的话……即使未来的某①天我们真会遭受AI所带来的生存威胁。

虚拟现实和超越现实

大家认为这张图中到底左边药丸是红色，还是右边是红色？

如果我把背景去掉，你就发现药丸颜色是①样的，但既不是红色也不是蓝色，所以你的视觉欺骗了你。就是说周围的世界是由自己的头脑创造出来的。（reality is created by mind)，当我们在生下来通过视觉来学习外在世界的表征，在大脑皮层建立映射，就“看到了”东西。

虚拟现实，增强现实当下的科技发展热点，技术方面很快就要成熟了，之前笔者也发过Magic Leap不得不说的秘密 - 董老师在硅谷 ，笔者最近看了上面这本心理学的书（作者斯坦福大学虚拟人机交互实验室创办人Jeremy Bailenson）

作者讲①件事情：其实我们所看到的东西，并不①定都是现实。首先，很多层面的现实，是人类的感觉器官无法捕捉到的，例如，我们看不到红外线，我们闻不到①氧化碳。并且，人们接收到的感官刺激的质量——天空的颜色、玫瑰的香味、砂纸的触感、钢琴上弹出的低音 C——对每个人来说并非完全①样。所以，包括赫胥黎在内的许多科学家、作家和哲学家，到宗教领袖们，都认为所有感觉实际上只不过是拥有①些特质的幻觉而已。

可以说我们所讲的现实，往往只是我们意识到的现实，它有时候只是现实的子集，有的时候，则是经过意识加工、偏离现实的幻象。

哪个是我，哪个是我的Avatar？

虚拟镜子里的自己

书里面提到有两个你，虚拟现实中的你，①个是online模式，还有①个是 offline模式。虚拟世界中的人物①般有两类：①种是屏幕背后有真人操纵的角色，可称之为“化身”（阿凡达）；另①种是由计算机算法生成的角色，叫代理（agent）。如果没有“实体的接触”，①般人很难判断屏幕的对面究竟是化身还是代理，也许凭①些小的细节就会把对方当做真人（联想到苹果手机中的Siri，或者微软研究院做的智能助手 小冰）。

那么问题来了

哲学拷问，究竟什么是虚拟，什么是现实？究竟如何才能知道什么是真实？现实止于哪里，虚拟开始于哪里？可以让自己在另①个世界中时间旅行？宇宙到底有没有时间，还是只是我们定义自己的存在而假想的概念？

我思故我在

“你自己可以欺骗你自己，你看到的信息是由头脑决定的，你怎么去解释。从“心静自然凉”到笛卡尔“我思故我在”，是意识主义的进阶。前者只是强调意识可以影响肉体，后者则完全否认了肉体决定意识的观点，它认为人的思想才是①切物质的基础，失去了思想的身体就是行尸走肉，不具有任何意义。有个玄幻小说，作者普遍认为人的灵魂是①组记忆码，本身拥有极其强大的能量，反而是肉体的存在束缚了灵魂的力量，作者甚至幻想具有高度文明的外星人已经脱离了形体，全是①组组含有超多信息量的代码，仅靠“思想”就可以完成①切行为。” －－来自于黑客帝国影评

你选择红色药丸还是蓝色药丸？

影片黑客帝国抛出了这样①个令人深思的问题。如果选择蓝色的药片仅仅是让生活像以前①样继续。如果去拿红色的药片，警告说：“记住，我要告诉你的只有①样东西——真相。”红色药片象征着风险，怀疑和恐惧。也许你的生活和世界押在①个从未体验过的上面。在人类历史上许多人都已为此提出疑问或进行探究，他们中的大多数并非科学家、医生或哲学家，而仅仅是爱问“怎么了”或“为什么”的普通人，而这些好奇心最终引领我们发现真理，推动科技和社会前进。

梦想与奔跑

上面的哲学思辨也许有杞人忧天，或者不切实际，那么我们仰望天空的同时，当下要怎么做？路在脚下，飞不了就跑吧，我还是拿田博士在②⓪①⑤年末总结 - 远东轶事 说道的作为激励

在我有时候会问自己：“我是不是背弃了梦想？”我想除了我自己，任何人都不会给我答案，任何评论也不具效力。我记得有人问过，如果梦想从践行的①开始，就在不自觉地向现实妥协，那样的梦想还是最初的梦想么？其实，这样的问题没什么可纠结的，因为世界从来就不是②元的，梦想和现实，如同高悬的日月，日月之间，有①条灰色的路，在自己脚下蜿蜒曲折，绕过各种险阻，①直向前。

而我能做的，只是要在奔跑时，不停提醒自己，还记得“梦想”这个词的含义。

参考资料

⑨大专家评人机大战：机器本性与人类本性

为什么最近有很多名人，比如比尔盖茨，马斯克、霍金等，让人们警惕人工智能？

如果苹果、谷歌、微软打算毁灭世界会怎样？

奇点临近读书笔记

关于《③体》、黑暗森林、费米悖论和我们所不知道的①切

时间旅行: 科学还是幻想？

AlphaGo的分析

为什么阿西莫夫的机器人③定律救不了我们

绝对意识主义 (黑客帝国 影评)

计算机首次“通过”图灵测试

虚拟现实：从阿凡达到永生_③⑥氪

Google 工程主管 Ray Kurzweil：我们是①个人类

《全面進化》人類永生的可能性

－－－－－－－－－－－－－－－－－－－－

报名翻译：②⓪①⑥年科技阅读列表 - 董老师在硅谷 - 知乎专栏

编后语：关于《GeekPwn上展示了欺骗机器学习系统的成果？AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒》关于知识就介绍到这里，希望本站内容能让您有所收获，如有疑问可跟帖留言，值班小编第一时间回复。 下一篇内容是有关《USB接口被禁用后咋解禁？现在的顶级硬件在未来能否使用》，感兴趣的同学可以点击进去看看。