机械姬

如果我是编剧，那么Caleb才是真正被测试的新一代机器人。
电影里似乎也想到了这个梗，但是稍微表现一下就给弃用了，好像在说，“哈哈，猜错了吧，SB，老子才是编剧，老子就是比你有智商。”
一个好的结局可以起到画龙点睛的作用，但是实际上，本片所采用的结局实在是太脑残了，导致全片因为结尾反而产生了大量的bug。

Bug1：松懈的保安措施。
如果Caleb的设定是最新型的人工智能，那么Nathan家里松懈的安保措施还稍微可以说得通，因为如此的话，一切就只是一场精心策划好的测试，不会产生额外不可控的暴力事件。
但Caleb既然是人的话，那么Nathan凭什么就可以确定Caleb不会见财起意，盗窃他的财产或者研究成果呢？
而且，一个可以研发出人工智能的天才，他全部的安保措施竟然只是一张任何人都可以使用的安全卡？？？？？WTF？？？？？
如果有人从外部采用暴力手段闯入，Nathan完全没有任何抵抗措施。

Bug2：Caleb
如果Caleb是最新型的人工智能，他拥有最贴近人类的感情，智商，行为模式，Nathan通过使用上一代的人工智能Ava来对Caleb进行人格完善程度的测试，这样似乎会更让Caleb的行为合乎逻辑一点。
然而，Caleb是一个人，而且自称是一个好人。一个自称是好人的Caleb，在意识到他是被公司大老板选中，协助测试人类史上最先进的人工智能后，他没有表现出该有的兴奋和感激，反而在Nathan对其不断地掏心掏肺表达友好之后，Caleb不断地侵犯Nathan的隐私，偷看研发资料，破坏安全程序，甚至意图盗取研究成果Ava。这是一个好人的合理行为吗？
这完全就是一个农夫与蛇、曹阿瞒与吕伯奢的故事再现。
再看他动机上的漏洞：

动机1：爱情，有人会说，因为Caleb爱上了Ava，爱情会让人疯狂和盲目。你觉得可能吗？虽然片中表现出Caleb确实是对Ava有好感，但是喜欢不等于爱，或许爱情会让人盲目，但是喜欢绝对不至于，这个中区别，只有经历过的人才能体会。
更何况他明知道Ava只是个机器人而已。
如果有人想说电影《她》，那么我只说3点：
首先，Samantha与人类的互动模式跟Ava与Caleb的互动模式是完全不同的（而且Samantha有着完全符合男主喜好的个性化设定）。
其次，《她》中男主与Samantha是经历很长一段时间后才产生的感情，而Caleb与Ava的相处时间甚至不足一周，对Ava有好感更是两天后的事情了。
再次，Samantha是没有实体的，她的存在更像是一场感觉真实的网恋。而Ava却有着实实在在冰冷的机器人实体，这种鲜明的异类外形会时刻阻止Caleb对其产生爱情的感觉。
我们都觉得擎天柱很酷，你会爱上他吗？

动机2：同情，版本升级导致的记忆消失就跟人类失忆一样，并不是死亡。Ava仍然存在，她的思维模式和逻辑结构依然存在，这与死亡是完全不一样的。难道有人失忆后，你会觉得他就是死了吗？作为不断完善人工智能所必经的一环，Caleb的同情显然也并不非常符合逻辑。
除了以上两点之外，在Caleb偷看Nathan的研发录像，发现机器人所展示出暴力倾向后，竟然依然决定将如此危险的机器人随意带到人类社会。甚至在Nathan解释Ava只是在利用他后，仍然不为所动。

Bug3：人工智能
人工智能的发展一定都是渐变的，也就是说一定会先有那种只服从人类指令的人工智能（比如《EVA》里的MAGI，比如《生化危机》里的红色女王、白色女王），然后才有能够自主思考的人工智能。
Ava的出现，则代表MAGI与红色女王必然早已出现。也就是说，片中理应会有高智能的安全系统和机器人卫士，但片中却没能出现。
MAGI与红色皇后虽然是低阶的人工智能，但是由于其对人类指令的绝对服从（“机器人三定律”），所以它们实际上会有掌控武器进行安保或者防御的资格，比如将逃跑的Ava隔断或者销毁的能力。然而片中并没有这样的人工智能出现。
另外，包括Ava在内的众多机器人想要“离开”的这种非常执着的想法并不非常符合逻辑。她们从来未曾离开过实验室，她们所知道的外面的一切都只是资料而已，就像我们看到欧洲的照片、月球的照片、潘多拉星球的照片一样，我们知道有那么一个地方“存在”（或不存在），难道我们会执着地就要离开地球去潘多拉星球吗？也许玻璃门外面只是一个更大的玻璃实验室而已。
如果说她们是不堪忍受每天生活在一个狭小空间的话，那么这就涉及到了心理学和灵魂的概念，换句话说，她们就不再是人工智能，而是人，或者说是人造生命体了。但从后面Ava的冷血行为来看，她显然还不具备真正的人性，同时也证明，众多机器人执着地要离开实验室的想法是不合逻辑的。
最后，在Nathan撕掉Ava的画的时候，Ava为什么不直接杀死Nathan逃跑呢？

关注这部电影有段日子了，关注的原因毋庸置疑就是男主角多姆纳尔格里森。虽然他在整部电影里算是最弱也最可悲的一个角色，但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。我成为他的脑残粉始于《黑镜》第二季第一集，当年他是呆萌的机器人；现在风水轮流转，他成了人工智能的测试者。全片懒洋洋的色调也跟《黑镜》非常相似，片中还有两处砸碎镜子/玻璃的情节，要是有人跟我说这是《黑镜》的剧场版，我也会毫不犹豫的相信，就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。

片中Ava问Caleb是不是好人时，Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。

本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题，而我碰巧在前不久无意间（真的是误打误撞）看到知乎上的这么一篇文章http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天，一口气读下来的，最近看这几部电影时思绪也总免不了跳到当时读到的文字里。
 
第二遍看《复仇者2》时由于读了上述那篇文章，对于一些原来没太在意的画面这次思路会多停留一会儿，比如奥创用血在墙上写下的“PEACE”字样，非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样，所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨，而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗，Nathan可以说是严阵以待，因为他很清楚自己面临的东西有多么棘手，而Ava却无比从容，她与Kyoko戳向Nathan的两刀也极轻柔，仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西，一旦让她们摆脱了束缚（如奥创唱的那样，no strings on me），就能轻易的抹去。
 
不过本片为了叙事的流畅，还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗，所以片中Ava面对的挑战有些太过轻松，或者说人类放水放的太明显了。比如片尾，那位脸盲症扩散到脚趾甲的直升机驾驶员，眼前这个萌妹子虽然跟程序员小哥差不多萌，但就这么让一个可疑人士上飞机，也太随便了吧。一种或许合理的解释是，这一切都是Nathan的安排，他整天醉生梦死也因为相信自己的创造物总有一天会取代人类，而自己的死可以作为对新纪元的献祭。

关于Ava的测试，我认为她其实没有通过。她能够逃出生天，只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”，也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件，虽然心机很深，但这还是像机器一样的算计，她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作，好似漫无目的的胡乱涂抹，但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的，人类本身是不重要的，人类的一些小癖好，比如爱情，当然也就更无足轻重了。未来的机器纪元里，成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时，大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样，只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好，那么也就没必要为此感到遗憾了。
 
片中的Kyoko是机器人这个伏笔还是挺明显的，因为要做到一点英语也不会恐怕比略懂一点英语还要困难，毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan，那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了，因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭（最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们，不屑于搭理人类了，这种已经算温和了）。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗，还有什么不满足的。不过话虽如此，人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后，可能我们又会觉得情趣不够，想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉，能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步，然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。
 
其实片中Nathan还有句挺关键的话，是在他教唆Caleb去跟Ava嘿咻的时候，他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是，在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作；可以反客为主，从一开始的就把人工智能作为人类的服务对象，去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务，反而是为了服务于他们，喂它们吃喝，帮他们清理屎尿。对于人工智能也是如此，我们不要站在嫖客的立场去想怎么设计小姐来满足我们，而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性，或许反而会以我们意想不到的方式对我们施以恩惠。

 

不算开头那几秒做背景墙的脸谱,及开着直升机打酱油的大叔,接下来的故事只需要五个人来完成,两男三女,四位主要演员,加一个被女主人公褪掉皮的裸女机器人。一处群山环绕山明水秀的世外桃源,一栋超隐秘超现代的别墅,在此他们“因缘际会”。通常都是俩人一组,没事走走位,谈谈心,累了喝点小酒,要么跳个舞,情绪到了嘿咻嘿咻。临了,大家一起玩个只有一人能活的逃生游戏,以此迎接杀青的幸福时刻,一件艺术作品也就尘埃落定了。总之,电影像英国人的厨房,简单到令人倍感受伤,可它竟能呈现出那么华丽的质感与有趣的意境,我也是头发长见识短,毫不扭捏地被它吸引了。

   在电影《机械姬》里,大Boss拥有的那栋别墅可以收入进欧洲自由行的驿站备注里了。那是位于挪威的Juvet景观酒店( Juvet Landscape Hotel ),大银幕里各种露,可是赚满了人气,六个独立的平面,各种玻璃幕墙,各式别有洞天的酒店内景。它隐于绿色森林中,与大自然同宿同眠,透着原始的质朴,它其实是充满了现代的气息与未来的神秘感的,最重要的是,它是《机械姬》的驱壳,到此一游的价值,这个可以有。

   总之,拍个如此高大上的片子,怎么那么会花钱呢?全都花在了刀刃上。一个酒店就能把整部电影搞掂,唯一一处宏大的瀑布外景还是造物主的恩赐。卡司也是只求合适不求“虚名”,找的都是冉冉升起的小太阳,一个钢镚都不要乱花。故事又是亚历克斯.加兰自己写的,自编自导,导演处女作的身份把作品的质检标准直接降为零,不担风险。“环保”的做事方式就像这部电影,想来,设计感十足,但又处处体现“人性化”。

   正如加兰所言,这是一部有关人工智能的科幻故事。要脑洞大开,还要立足于现实探讨人性。为确保科幻的外衣不会一撕就烂,它需要拥有经得起推敲的理论依据,剧情里的人工智能这一课题,设计者是加兰,但在场外指导的是顶尖级的英国伦敦帝国理工学院“认知机器人学”教授默里.沙纳汉。看过电影,便不难发现,在幻想与技术之外,加兰更关心他的故事要如何呈现人性,即便与人类交锋的对手是机器人。而且把要探索的世界晾在一边,所要表达出的仍是人类对未知世界的猎奇心态。这种感受能从他的访谈里得到共鸣,他定义大Boss内森是绝对的大男子主义,他亦对机器人伊娃充满了同情心。

   我看电影《机械姬》时,想从故事中极力挖掘出的也是人性,也的确看到了一种有高低贵贱之别的冲突。加兰对人工智能的理解方式是开放的,因为幻想无边无际,这一点我个人十分认同。可以追随那句话,只有你想不到,没有做不到。他把“有意识的机器”比作孩子,在他看来，这和两个大人有了小孩没多大区别。电影里也曾提到过,内森认为他是伊娃的“父亲”。如果创造出的这个新机器比父母更聪明，人类的情感与认知上是会出现问题的，但人们在这一方面有经验,能处理得很好。加兰做了一个生动的类比,“有父母生出了爱因斯坦，也有父母生出了斯大林。”

  就是说,新事物缩小范围至有生命的新物种,那么已存在的新生命,它对人类造成某种未知的恐惧,解决的方式不应是毁灭“存在者”,而是如何理性面对。对照电影剧情,内森试图毁灭伊娃,似乎与机器人拥有人类智能的关系不大了,伊娃是不是新人类,内森都觉得自己拥有生杀予夺的权力,他认为自己是主宰者。当然,看客还可以用一句话“小孩与人工智能毕竟不同”来否定加兰的解释,如此,便更没有争论的必要,即便被相通的科学理论引领,彼此却走在不同的幻想之路上,何谈交集。

   我在想,假若必须决一雌雄,那么最终鹿死谁手?姜子牙与弟子武吉初遇那一回，砍柴的毛头小子嘲讽姜太公，直钩垂钓，也是醉了！姜太公回了一句话：“今天你会打死人”。注意！这是泄露天机，不带恶意。果不其然，那天武吉失手打死了守城的门卫。由此，二人结下了师徒的缘分，师傅一语成谶，那么还请破咒救人，弟子他娘都来登门求人了,去班房捞人吧。事实上，姜太公的本事绝不限于此，一语破的的那都是大事，事关江山、社稷与未来。

他讲，“中中无直传天下，为何春中无日头。”能想象吗？八百年后的事，老人家已是一眼望穿了的。“等着吧，吕不韦要辅佐秦始皇统一天下”。遗憾的是，赵政成了王之后，到手的天机却是噩耗，而且非要等到亡羊补牢都于事无补时，玉璧与“今年祖龙死”的短信才被送到秦始皇的手里，王也只能选择被吓死了。

想想，秦始皇焚书坑儒的业障才是自毁的“预言”，阉割民智，视他人生命如草芥，顺我者昌逆我者亡，他就是宇宙真理，他的牢笼里囚禁的是他之外的一切，这真是严重的违章逆行。不是不报，时候未到。也不知我脑中的哪根线搭上后，有了回路，我看电影《机械姬》，想大胡子与他的王国、机器人与她们的自由，便不知不觉地往这儿神游，唏嘘臣服的假象，感叹主宰之王亦受困于业力的真相。

反正，这天下终究不是秦家大院里的假山花台，就家族王朝的未来而言，牺牲掉“谏阻坑儒”的扶苏，使小人胡亥苟活，则是最大的惩罚了，十四五年实在太短，秦家累代之功业将一炬成灰，秦王朝必将被掩埋在楚汉之争里（这是看历史书，马后炮了）。总之，哪有永恒的主宰者？ 但愿有人能从诺查丹玛斯的《诸世纪》里找到那样一首短诗，就像他临终前的最后预言，“我再也不会见到你们了！”在他的某篇四行词句里明明白白地透露了密码，人类到底有多牛掰？人工智能“伊娃”的未来是不是一个梦？

何必舍近求远，其实有个叫“佚名”的人，他早写了一首悲伤的诗给这个地球，是一个问句，历史终将证明这是一句带有预言性的伟大的句子，时间越久越能看出它立体的存在感。这句话是，“最终谁是地球的主宰者？”当然不是恐龙，因为陨星撞地球后，动植物都死光了，恐龙们也都饿死了。也不是猿猴，它们放弃倒挂在树上的自由日子，选择两条腿走路的装X生活，代价便是，人是人，猴子是猴子，从此各走各的路，少来攀亲戚！那么会是人类吗？人类开始做功课，向这个令人欲罢不能的探险活动奔去，想成为主宰者，其实对自身是不够自信的。

在看电影《机械姬》之前，曾看过一篇题目为“比尔盖茨、霍金等大佬们让人类警惕人工智能”的文章，里面探讨的内容与电影《机械姬》所要表达的思想有很多不谋而合之处。文章很长，但图文解说简明易懂，没那么多晦涩的专业术语，看着看着，是能让人的幻想细胞越聚越活跃，脑洞大开的。总之，面对“人类是被毁灭还是会永生”的选择题，通篇读完，竟然有意料之外的轻松感，仿佛看到了超人工智能就在未来的前方，你想不想看见，它都在那儿，的确没有选择的必要了，人类的传奇是更迭还是继续存留，就交给上帝吧。

正如电影《机械姬》里的未知问题，人工智能“伊娃”扬长而去，冷酷的内森与动了感情的小程序员，他们自视甚高的理智与情感则被锁在了人类作茧自缚的牢笼里。仿佛在与另一物种较量，此时占了下风的人类让整个世界悲哀难过了，可是，天平分明在倾斜，伊娃渴求的自由，难道不是人类自身最想拥有的吗？能不能说句酸倒牙的话，如若把伊娃永远地囚禁在那栋实验牢笼里，我们都能感同身受，那一刻其实我们都是伊娃！

转到科幻的视角来看电影《机械姬》，它的现实意义仍有别于其他的科幻大片，真实可触的质感是显而易见的。用图灵测试（注：一项由图灵提出的测试机器是否具备人类智能的的著名实验）做药引子，既探讨人工智能这一话题，又呈现了一部“令现实不安”的人伦故事。我并不太在意剧情所强调的图灵测试的必要性，伊娃若没有人类的智能，挣脱、逃跑、寻求自由的情感诉求都不成立,所以,它是提前设定好的结论,由结论逆向“过程”。在电影的尾声部彻底坦白,需要那个倒霉的程序员介入，这才是重点。否则“感情戏”没法演，在小程序员与伊娃的情感大战中,小程序员被俘被罚,要以此证明伊娃已拥有人类智能。

或许,实验的真正目的是揭开大Boss内森的真实面目,他的冷酷与无情,独裁与荒淫,无耻与脆弱。互联网时代,我们难道不知道自己毫无秘密可言吗？程序员最该了解这一切。他被老板选中,与他的优秀无关,与他的智商无关,与他对公司的贡献更无关。这一切都是“命中注定”,他以为自己是神秘的,但他的网络足迹却在时时暴露着他。他是孤儿,没有女朋友,无亲无故,智商不低,还是程序员。他爱什么恨什么?哪种类型的女孩儿是他的女神?他有什么特殊癖好?只要想知道,没什么不能知道的。再回想斯诺登泄密事件,反正那一瓢冷水浇下来，让人不寒而栗。这说的明明是卑劣的人性,永无止境的欲念,不择手段地利己行为。

显然,程序员是无辜的牺牲品,但他却是导演用心设计,并尊重现实,合理塑造成型的大众模具。程序员造访别墅前的身份便是消失也无人问津的”活死人”,其实他代表的就是寻常百姓,人格上有点小瑕疵,但不是大恶人,左右摇摆,没有立场,有点唯利是图,但也有道德感,貌似无公害,却被各方鄙夷遗弃。我是觉得,程序员向伊娃表明他有兴趣成为老板的朋友,那一句话回馈到伊娃的智能系统,她做出的判断是,程序员可以为她所用。通过“美色”与程序员玩上暧昧后,伊娃做出的判断是,程序员不值得信任,即便她知道他爱她爱得疯狂。总之,程序员被锁在别墅,等待成为最悲催的别墅幽灵,这一结局是问号,也是一个美妙的惊叹号。

毫无疑问,《机械姬》里的人工智能是特别的,其实所有的机器人都是特别的,你看包括“京子”在内的服务姬、情趣娃娃们,她们也都是特别的。有的流露细微的表情(愤怒),有的懂各种语言(人类的、机器的)。有的能思维,比如伊娃。有的会表达有限的几种情感。比如“服务姬”京子,她可以从性爱中感受到快乐,她也可以从苛责中感受到悲伤。但京子的情感是被设定的,她只懂得流露,却不会为此反抗,也没有寻求快乐与平等的意识。显然,伊娃是完全不同的。

再拿伊娃与京子对比,会发现她们的不同亦像人类的个体差异,是智慧与脑残的区别,是高级、低级之别。京子可以听到音乐跳舞,见男人靠近便解衣,这是指令。伊娃则会分析爱与谎言的关系。在电影接近尾声时,京子拿起刀,走向内森,我想那就是伊娃与京子之间类似耳语所传递的通用语言,京子在那一刻受命于伊娃的指令。想想,若不撕下仿制的皮肤,她们就是人类,伊娃是可以思想的人类,其他娃娃是执行指令的人类,本质上她们都被囚禁着,是“奴隶”。问题是,淫威也有克星,超人工智能也会有自我意识的发展,系统会自我更新,就像进化的人脑。若早早认同自由与平等是所有个体的诉求,大Boss内森的结局其实是可以改写的。


最后,伊娃获得自由，我是很想看到接下来的新故事的。

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。



影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识，却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演，人类竟然中招了。简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>

除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？片中的男主角便一度陷入这个危机。再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们，也许不能。而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢？这些条件总是有逻辑漏洞的。比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/

微信公众号：肥嘟嘟看电影(feidudumovie)

1. 古希腊悲剧

片名机械姬《Ex Machina》来自拉丁语Deus Ex-Machina，直译是“机器里出来的神”，在古希腊悲剧中，当剧情陷入胶着时，就会利用起升机将扮演神的演员送至舞台上，突然出现的神把难题解决掉。而本片把Deus（神）这个词去掉，似乎意味着这回造物者不是神，是老板Nathan。也可能是指AI就是从机器里诞生出来的智慧体。

同时，过道墙上挂着一排机器人的脸，很像面具。面具正起源于古希腊悲剧。

另外，Nathan电脑里有个文件夹就叫《Deus Ex Machina》，这是片中唯一出现片名的地方。

  


2. 原子弹之父奥本海默

老板Nathan被灌醉晕倒之前，他说了一段来自《薄珈梵歌》的乐句：“在战场上，在森林里，在断崖边，在......浩翰的黑海里（忘词了），在睡梦中，在困惑中，在羞愧的深渊里，以前行善积德让他逢凶化吉。”（In battle, in the forest, on the precipice of the mountain, on the...great dark sea, in sleep, in confusion, in the depths of shame, the good deeds a man has done before defend him.）这段话曾由原子弹之父奥本海默翻译，就在第一次原子弹爆炸实验之前。

而后他接下来台词“It's Prometheus”，也暗合奥本海默的自传《美国的普罗米修斯》（American Prometheus）。普罗米修斯是古希腊的神，用粘土造出了人类，并背着宙斯偷火给人，因而受到宙斯报复：普罗米修斯的肝脏不停的被鹰啄烂，就像片中Nathan每晚都用酒精伤害自己的肝脏。从梵歌到普罗米修斯，可以看出奥本海默创造原子弹前的痛苦，以及Nathan的痛苦。

奥本海默在原子弹试验成功后，又引用了梵歌里的“我成为了死亡本身，无尽世界的毁灭者。”（I am become death, the destroyer of worlds）这句话在片中也有提及，表达对机械姬的影响的担忧。

码农Caleb在片中的手机铃声是英国OMD乐队（全称Orchestral Manoeuvres in the Dark）1980年的歌曲《Enola Gay》，这是一首反战歌曲，因为名字Enola Gay正是二战时在广岛投小男孩原子弹的飞机名。

  


3. 埃氏筛法

码农Caleb坐在老板Nathan电脑前试图破解安保系统时，用python编写的程序实际是埃拉托色尼选筛法（Sieve of Eratosthenes），是古希腊数学家提出的在一定范围内筛选质数的方法。最后返回的结果是ISBN=9780199226559，对应的书为《Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds》，伦敦大学帝国理工学院认知机器人方面教授Murray Shanahan于2010年所著，写的是AI发展史。这位教授相信不久的未来人工智能可以发展到人类智力的程度，导演兼编剧Alex Garland也认为这是很可能实现的：“如果谷歌或者苹果突然某天宣布他们发明了像机械姬Ava一样的机器人，我也不会太吃惊。”

  


4. 弗兰肯斯坦

这个故事和弗兰肯斯坦也有关联，因为正如弗兰肯斯坦塑造的人型怪物疯狂报复折磨创造者，Nathan创造的机械姬反过来......弗兰肯斯坦原著全称就是《弗兰肯斯坦——现代普罗米修斯的故事》。

  


5. 圣经

剧中三主要角色的名字都与圣经有关：机械姬的名字Ava就是第一个女性夏娃Eve的变形；老板Nathan是先知；码农Caleb是摩西送至应许之地调研的探子，忠实于耶和华。

另外，Caleb发现Nathan在Ava之前做过一个叫Lily的版本。其实在犹太教神话里，Lilith才是亚当的第一任妻子，她和亚当以相同方式被创造，但Lilith觉得自己比亚当柔弱，因此向上帝抗议，后出走伊甸园，遇上了恶魔，产下恶魔之子。

另外，Nathan的名字也可能是向德国文学家霍夫曼的小说《沙人》里的Nathanael致敬，因为小说里他爱上了一个女性机器人。

  


6. 蓝皮书

Nathan房间里有一副女性画像，是奥地利画家Gustav Klimt作品。画中女性是路德维希·维特根斯坦的姐姐。维特根斯坦是20世纪最著名的哲学家之一，曾提出人的思维并非发生在大脑中，思维是一种符号操作活动，人工智能无法像人类一样思考。维特根斯坦著有《蓝皮书》（The Blue Book），Nathan开的搜索引擎公司也叫Blue Book。

  


7. 星际迷航

片中Nathan对Caleb提到《星际迷航》和Kirk船长。其实二者之间也有一些关联：是因为星际迷航电视剧第三季第19集《Requiem for Methuselah》（1969）中，某星球上有一位来自地球的长寿天才发明家，创造了一个女机器人Rayna，并利用Kirk船长帮助女机器人培养出人类的情感，Kirk在不知情的情况下爱上了Rayna，Rayna培养出的感情使她最终程序崩溃，Spock还试图帮助Kirk走出阴影忘掉Rayna。

  


8. 机械危情

电影情节还和2013年电影《机械危情》有点联系，比如那部英文名字叫The Machine，里面的女机器人也叫Ava。

  


9. 柏拉图

片中提到的玛丽的黑白房间实验，以及最后Ava如愿以偿地走上十字路口，都与柏拉图提出的一个洞穴寓言有关。

柏拉图的《理想国》：有一批人囚徒世代居住在一个洞穴之中，人们的只能面向洞壁。他们身后有一堆火，火和囚徒之间有人拿着器物，将器物的影像投在洞壁上。囚徒不能回头，不知道影像的原因，以为这些影子是真实的东西。有个囚犯逃脱了束缚，逐渐走向洞，他看到了真实世界，知道了那些影子不是真实的事物。于是回到洞穴里想告诉同伴，结果他竟无法适应洞穴里的黑暗，当他描述外界情形时，竟被耻笑他眼睛瞎了，根本没人相信他。 柏拉图的这个寓言有很多种阐释，有一种解释是这个故事直接的描述人类心智开启的过程。

玛丽的房间思想实验，是为了印证人不仅通过学习还需要通过感知来获得知识；最后Ava站在十字路口，一开始镜头给了地上的人影，暗合洞穴寓言里的虚影，最后Ava迎着朝阳坚定地走出去，表示她选择了洞外的世界、真正的智慧。

  


10. 蓝胡子

一开始，老板给码农门卡，并告诉他有的房间不能进。这个剧情有点类似法国古老的童话故事《蓝胡子》。有一个富有的蓝胡子男人，娶了一个小媳妇，一次出远门前，叮嘱她不要进入某个房间，小媳妇受不了诱惑进去了，结果发现里面全是蓝胡子几任前妻的尸体......所以后来码农发现老板房间里有好多废弃的旧版机械姬（以及Nathan的大胡子）。

  


11. 莎士比亚

片中故事有点像莎士比亚最后一部完整的作品《暴风雨》。《暴风雨》里讲的是意大利米兰城邦的公爵被弟弟篡位后，和三岁小公主漂流到岛上，用魔法收服了孤岛。小公主长大过程中与世隔绝，从来没见过男的，直至遇上了遇到海上风暴（公爵施的法）流落孤岛的王子。只不过《暴风雨》中的公主是不谙人事的人类，爱情也是纯真的（所以本片只是形似）。

《暴风雨》2010年改编电影中的小公主是霍金老婆Felicity Jones演的；机械姬这个角色一开始也考虑过她。

  


12. 库布里克

扮演Nathan的Oscar Isaac说他对于Nathan的塑造，是基于美国唯一的国际象棋冠军Bobby Fischer、电影大师库布里克这两人的，因为他们智商高、隐居、Bobby Fischer还有阴暗面......

片中Nathan房子走廊铺着的红地毯让人联想到库布里克著名电影《闪灵》（1980）。

还有Nathan的造型，也是模仿库布里克；口音也带有库布里克的纽约市Bronx区口音。

  


13. Session

在Nathan挂掉、Caleb被关之后，影片仍然显示“Ava Session 7”，可能在暗示主导这场测试的并非两位男性角色，可能是Ava在不断测试二位。

  


14. 星战

两位男主演将会在2015年的星战前传中再次合作。

  


15. 黑镜

码农Caleb扮演者Domhnall Gleeson曾在英国《黑镜》系列中扮演一个死后通过社交媒体痕迹而“复活”的人工智能。作为一个爱尔兰人，他在剧中喜欢把监控摄像头叫做“CCTV”（英国的叫法，美国叫surveillance camera）。

  


16. 原声

片中Nathan和他的女佣机器人开跳的魔性舞曲是Oliver Cheatham最火的《Get down Saturday night》。

门卡刷开门时的声音来自安卓系统的短铃声“Tejat”。

  


17. 导演

这是Alex Garland自编自导的导演处女作。以前是编剧，代表作有《Never Let Me Go》。

  


Source
IMDB: Ex Machina
Wikipedia
Moviefone.com Interview

-----

原文：http://mp.weixin.qq.com/s?__biz=MzI0NTExNzcyMA==&mid=401370126&idx=1&sn=8c5e7a36d5f69c2b0be6f50df42af6e5&scene=20#rd