零日

一个全新型态的网路超级病毒，突然遍布全世界的电脑，一开始无伤大雅不受重视，直到随着时间累积，许多基础建设的系统都一一被攻击掌控，比过往任何一种病毒复杂几十倍，甚至可能全面瘫痪人们的生活。随着深入调查，揭露这个超级病毒Stuxnet，背后竟是美国与伊朗战争行动的阴谋，伊朗核武危机无法以政治手段解决，美国便对伊朗的网路展开攻击。无法回头的网路攻击逐渐失控，人们生活中各式控制系统都备受威胁，包括发电、交通、通讯、ATM、医院都将不堪一击，网路安全问题全球都可能遭到入侵，下一次的世界大战危机似乎也一触即发。
在线：http://www.wrscfi.cn/?m=vod-detail-id-11738.html

前面的悬念做得不错，而那位不愿意以真实面目示人的虚拟女专家形象也颇有意思，符合互联网世界的虚拟精神。
未来网络战争是比生化武器、核武器更具毁灭性的，因为到时候人类的生活方方面面都与互联网息息相关，网络攻击，可能导致停水停电，食品污染（结合生化技术），核电站故障，水电站自动泄洪，等等，瘫痪一个国家，造成混乱，甚至有可能另核武器、生化武器启动，挑拨国与国之间猜疑，冷战，热战，等等。细思极恐。

作为一个围棋爱好者，5月23日至27日在浙江乌镇举办的世界围棋峰会上，上演了一次举世瞩目的人机大战，由世界最先进的阿法狗对弈世界最高水平的选手柯洁。在我眼中，这三场局的结果是毫无悬念在，AI必胜，人类必败，但没想到败得这么惨:3:0，人工智能阿法狗完胜。之前阿法狗的前身MASTER在网络上就以60:0横扫人类所有顶尖围棋高手，而在MASTER基础上进化的最新版阿法狗更是技上一层楼。


     赛局结束后，我发一个微信：柯洁虽败犹荣。相信和狗狗的对弈会提升他的战斗力，这也许是电脑和人下棋的最大功劳：开拓围棋新的发展模式。未来围棋电脑是最佳陪练和老师。最终影响人与人对弈的水平。

        阿法狗团队在比赛结束后宣布：阿法狗的使命已经完成，从此退出围棋江湖，把目标转向医学等领域。而对柯洁来说，这也是他最后一次和人工智能下围棋。

        所有的围棋高手与大师都说：阿法狗不可战胜。
        我也这样认为，即使今天人类战胜了人工智能，也许明年，后年，终有一天人类在围棋会败在人工智能手下。

       自1997年机器人深蓝战胜国际大师以来，人工智能就向棋类运动中最复杂的围棋进军。围棋与其它所有的棋类不同，围棋的变化更多，据计划，围棋的变化是361×360×359×……2×1，即361阶乘！361阶乘到底有多大？大约1.43乘以10的768次方，即1后面有768个零！这个数字远远超出人类的想象，要知道，即使人类已知宇宙中的原子数量，也不过是10的80次方。
基于这种思考，在2016年第一次人机大战，阿法狗对阵韩国第一高手李世石之前，有记者这样报道：



       结果，2016年的阿法狗4:1胜。2017年更是3:0胜目前世界排名第一的中国围棋选手柯洁。

        人工智能的发展速度远超人类想象，有人说5月的人机大战，机器胜的不是柯洁，而是人类。

        谈到这，要谈三部我看过的与人工智能有关的电影：《我，机器人》、《摩根》和《终结者》，以及一部与电脑有关的记录片《零日》

        前三部是科幻片，后一部是记录片，再加上现实的人机大战结果，就构成了我今天的主题。

        先从《终结者》说起，终结者是讲未来，超级电脑“天网”发动战争，想把人类消灭，然而却遇到了顽强抵抗的人类精英康纳。于是，人类与机器人之间为了未来的生死存亡展开了一系列的追杀与反追杀活动，最终，人类毁掉“天网”，获得胜利。

        在1990年左右看这部电影的时候，起先我是当娱乐片看，无非就是杀戮、暴力与刺激。后来出来《终结者》2和3，也都是当娱乐片，没当回事。
        但今年的事以及记录片《零日》开始让我反思，这个看上去以娱乐为主的运作枪战片其实离我们并不远，就像记者说的电脑要在围棋战胜人类还有100年，可不到一年就把人类杀了个丢盔弃甲。
       记录片《零日》是讲述2010年爆发的「震网病毒Stuxnet」。这个电脑病毒当时感染了全球超过45000个网络；当时的计算机安防专家甚至认为，该病毒是有史以来最高端的蠕虫病毒。
        问题是，这种病毒与普通的电脑病毒不同，它是专门设计用来攻击人们生活中各式控制系统都备受威胁，诸如电网、通讯、石油、医院、交通、ATM、银行等基础建设，它可以全面瘫痪人们的生活。记录片显示，超级病毒Stuxnet（真实名字叫奥运会OG），背后竟是美国与伊朗战争行动的阴谋，伊朗核武危机无法以政治手段解决，美国和以色列便对伊朗的网路展开攻击。但因为以色列心切，为了更好的实现攻击效果，竟然私自修改了病毒程序，结果是导致程序失控，并四处扩散，最终扩散到了美国。

        记录片《零日》给我两个启示：一个就是搬石头砸自己的脚。当初为了阻止伊朗开发核弹，美国与以色列联合起来，采取行动，因为考虑军事风险大太，于是转向了病毒。本来是对付伊朗的，结果病毒蔓延到全球，包括美国自己也中标。所谓善恶终有报。

       第二点就跳出了这个事情，谈的是人与电脑之间的关系演变。说到这里要说另外一本著名的小说：《弗兰肯斯坦》，这本英国作家玛丽•雪莱在1818年创作的长篇小说，说的就是发明家最后被自己的发明的东西所吞噬。这本小说到了现代版可以通过《终结者》与《零日》这两部电影得到启发：人类最后会毁灭在自己发明的东西手里。



      对于人与电脑之间的关系，我的思考是人是最终决定性的因素。所谓道与术的区别：术如果无道则害人；术如果有道，则有益人类，如同刀一样。术就是指各种科技发明，从减少病情发生的疫苗到爆破用的炸药，从登月火箭到电脑，这些发明本来都是来造福人类的，但一旦被用于军事用途，这些造福人类的发明，转眼就成了屠杀人类的工具：从生化武器到热兵器，从导弹到电脑病毒。

      术是需要道，而道则是由人来体现的。但这就是人的复杂性：人类身上兼有圣性与兽性两面。术在有道德的人手里，自然就是来造福人类。术在无德人的手里，当然可以用来做坏事。这也是我们看到，在这个世界，任何发明在造福人类的同时，也兼备了毁灭人类的能力。所以，术最后如何作用人类，完全依赖人类。

       但随着阿法狗战胜人类。这个以前传统的观点得到了挑战：如果术最后独立于人类，不再依赖人类而运作和发生作用，怎么办？术的道德在哪？

      说到这，就要引入一个著名的美国科幻小说家阿西莫夫了。阿西莫夫写了很多科幻小说，其中最有名的就是后来改编成了为电影的《我，机器人》I ROBOR。（不过，很遗憾，电影的内容与书中内容相差千里）这本书之所以有名，是因为阿西莫夫在此书中列举了三条著名的机器人三法则：
      第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管
      (LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.)
      第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外
      (LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.)
      第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
     (LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.)

       但这是人类的规定，如果以后人工智能能自己思考，并突破人类的限制怎么办？这时候，人类该怎么办？再比如，如果杀一人可以救多人，机器人是不是可以杀人？像恐怖分子绑架劫持人质？再如果这个机器人是恐怖分子的，让他去杀警察来营救被关的恐怖分子，机器人如何处理？比如像在《摩根》中，机器人为了完成任务而杀人。
       随着科技的发展，未来电脑与人工智能一定会越来越发达，甚至会有一天，机器与人会因为资源发生冲突，怎么办？甚至如果有一天，机器人有意识，发现他们是被人类奴役的，他们要争取自己的权利怎么办？这一系列问题，我觉得是我们一定会面对与思考的。而对于这个问题的思考，我觉得我们可以从这几部电影和相关书来进行思考。