机械姬（粤语版）

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。



影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识，却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演，人类竟然中招了。简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>

除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？片中的男主角便一度陷入这个危机。再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们，也许不能。而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢？这些条件总是有逻辑漏洞的。比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/

微信公众号：肥嘟嘟看电影(feidudumovie)

影片最惊悚的片段，我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人，而在镜子前用刀片割破自己的胳膊。

影片中对图灵测试的标准的谈论闪烁其辞，男主因为对机器人动情就认为ava通过了图灵测试。

那么高度智能的ava到底能不能算人？或者说区别具有自由意志的个体，与机器人的标准，到底是什么？是人工智能，感情，或者伦理，自由意志？

首先ava肯定具有智能，而且是比人类高的多的智能，能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。

ava为了逃出去而欺骗和杀人，也不能说明她有自由意识，她只是没有人类伦理道德那一套。人类伦理的那一套，是人类社会为了集体生活而设立的，人类通过社会生活习得伦理道德。对机器人而言，伦理可以被当成指令编进程序，然后在进行选择时依据这一套伦理做出行动，但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理，形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然，形成自己的一套伦理需要“自由意识”，自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准，除非它是基于自由意志形成的。

ava欺骗男主感情，最后抛弃了男主。说明ava不具备人类一样的感情？所以ava不是自由个体？不能这样说。因为ava如果是一个自由个体，一个生命种族，她可能具有自己的情感方式，不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。

ava具有逃出去的愿望，影片没有交代逃出去是一个编好的指令，还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出去的指令，智能不够的机器人只能敲打玻璃等等，ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出去的愿望是自带的，能做具有自由意志吗？
我们来对比一下动物，一个生命体在何种情况下会天生具有逃出去的愿望？一个犯人可能为了逃脱耻辱，追求更好的人生享受而越狱；一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去；一只草履虫，可能因为没有充足的食物而四处挪动；一个神经细胞就像接到一个要不停接受刺激的指令，而动个不停。

意志由最基本的指令构建而成，就像一群同一方向飞翔的蜂群，接受的指令只是跟着旁边的蜜蜂一样。而自由意志，是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适，慢慢长大被糖果诱惑着学会评判好坏，因互助的需要习得道德。根据自己个体经验的积累，理解并追求某种价值。每个生命体在最初被注入最简单原始的使命，也许只是动啊动，吃呀吃，性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始欲望。我个人觉得，这也很难确定。想要繁殖后代的人，有一种后代可以代替自己的意识而存在的幻想，这是一种很多动物都有的低层次的意识。

自由意识是意识和刺激叠加的产物，如此说来，绝对的自由意志，并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。

所以如果给机器人几个与生命体相似的初始欲望，足够的智能，机器人是能够成长为一个自由个体的，一个不同于人类的种群。只不过这个种群的个体不会繁殖。

生命体通过繁殖来达到自我意志一直存在的幻觉，不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢？我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界（笔者脑洞惹）。

 

不算开头那几秒做背景墙的脸谱,及开着直升机打酱油的大叔,接下来的故事只需要五个人来完成,两男三女,四位主要演员,加一个被女主人公褪掉皮的裸女机器人。一处群山环绕山明水秀的世外桃源,一栋超隐秘超现代的别墅,在此他们“因缘际会”。通常都是俩人一组,没事走走位,谈谈心,累了喝点小酒,要么跳个舞,情绪到了嘿咻嘿咻。临了,大家一起玩个只有一人能活的逃生游戏,以此迎接杀青的幸福时刻,一件艺术作品也就尘埃落定了。总之,电影像英国人的厨房,简单到令人倍感受伤,可它竟能呈现出那么华丽的质感与有趣的意境,我也是头发长见识短,毫不扭捏地被它吸引了。

   在电影《机械姬》里,大Boss拥有的那栋别墅可以收入进欧洲自由行的驿站备注里了。那是位于挪威的Juvet景观酒店( Juvet Landscape Hotel ),大银幕里各种露,可是赚满了人气,六个独立的平面,各种玻璃幕墙,各式别有洞天的酒店内景。它隐于绿色森林中,与大自然同宿同眠,透着原始的质朴,它其实是充满了现代的气息与未来的神秘感的,最重要的是,它是《机械姬》的驱壳,到此一游的价值,这个可以有。

   总之,拍个如此高大上的片子,怎么那么会花钱呢?全都花在了刀刃上。一个酒店就能把整部电影搞掂,唯一一处宏大的瀑布外景还是造物主的恩赐。卡司也是只求合适不求“虚名”,找的都是冉冉升起的小太阳,一个钢镚都不要乱花。故事又是亚历克斯.加兰自己写的,自编自导,导演处女作的身份把作品的质检标准直接降为零,不担风险。“环保”的做事方式就像这部电影,想来,设计感十足,但又处处体现“人性化”。

   正如加兰所言,这是一部有关人工智能的科幻故事。要脑洞大开,还要立足于现实探讨人性。为确保科幻的外衣不会一撕就烂,它需要拥有经得起推敲的理论依据,剧情里的人工智能这一课题,设计者是加兰,但在场外指导的是顶尖级的英国伦敦帝国理工学院“认知机器人学”教授默里.沙纳汉。看过电影,便不难发现,在幻想与技术之外,加兰更关心他的故事要如何呈现人性,即便与人类交锋的对手是机器人。而且把要探索的世界晾在一边,所要表达出的仍是人类对未知世界的猎奇心态。这种感受能从他的访谈里得到共鸣,他定义大Boss内森是绝对的大男子主义,他亦对机器人伊娃充满了同情心。

   我看电影《机械姬》时,想从故事中极力挖掘出的也是人性,也的确看到了一种有高低贵贱之别的冲突。加兰对人工智能的理解方式是开放的,因为幻想无边无际,这一点我个人十分认同。可以追随那句话,只有你想不到,没有做不到。他把“有意识的机器”比作孩子,在他看来，这和两个大人有了小孩没多大区别。电影里也曾提到过,内森认为他是伊娃的“父亲”。如果创造出的这个新机器比父母更聪明，人类的情感与认知上是会出现问题的，但人们在这一方面有经验,能处理得很好。加兰做了一个生动的类比,“有父母生出了爱因斯坦，也有父母生出了斯大林。”

  就是说,新事物缩小范围至有生命的新物种,那么已存在的新生命,它对人类造成某种未知的恐惧,解决的方式不应是毁灭“存在者”,而是如何理性面对。对照电影剧情,内森试图毁灭伊娃,似乎与机器人拥有人类智能的关系不大了,伊娃是不是新人类,内森都觉得自己拥有生杀予夺的权力,他认为自己是主宰者。当然,看客还可以用一句话“小孩与人工智能毕竟不同”来否定加兰的解释,如此,便更没有争论的必要,即便被相通的科学理论引领,彼此却走在不同的幻想之路上,何谈交集。

   我在想,假若必须决一雌雄,那么最终鹿死谁手?姜子牙与弟子武吉初遇那一回，砍柴的毛头小子嘲讽姜太公，直钩垂钓，也是醉了！姜太公回了一句话：“今天你会打死人”。注意！这是泄露天机，不带恶意。果不其然，那天武吉失手打死了守城的门卫。由此，二人结下了师徒的缘分，师傅一语成谶，那么还请破咒救人，弟子他娘都来登门求人了,去班房捞人吧。事实上，姜太公的本事绝不限于此，一语破的的那都是大事，事关江山、社稷与未来。

他讲，“中中无直传天下，为何春中无日头。”能想象吗？八百年后的事，老人家已是一眼望穿了的。“等着吧，吕不韦要辅佐秦始皇统一天下”。遗憾的是，赵政成了王之后，到手的天机却是噩耗，而且非要等到亡羊补牢都于事无补时，玉璧与“今年祖龙死”的短信才被送到秦始皇的手里，王也只能选择被吓死了。

想想，秦始皇焚书坑儒的业障才是自毁的“预言”，阉割民智，视他人生命如草芥，顺我者昌逆我者亡，他就是宇宙真理，他的牢笼里囚禁的是他之外的一切，这真是严重的违章逆行。不是不报，时候未到。也不知我脑中的哪根线搭上后，有了回路，我看电影《机械姬》，想大胡子与他的王国、机器人与她们的自由，便不知不觉地往这儿神游，唏嘘臣服的假象，感叹主宰之王亦受困于业力的真相。

反正，这天下终究不是秦家大院里的假山花台，就家族王朝的未来而言，牺牲掉“谏阻坑儒”的扶苏，使小人胡亥苟活，则是最大的惩罚了，十四五年实在太短，秦家累代之功业将一炬成灰，秦王朝必将被掩埋在楚汉之争里（这是看历史书，马后炮了）。总之，哪有永恒的主宰者？ 但愿有人能从诺查丹玛斯的《诸世纪》里找到那样一首短诗，就像他临终前的最后预言，“我再也不会见到你们了！”在他的某篇四行词句里明明白白地透露了密码，人类到底有多牛掰？人工智能“伊娃”的未来是不是一个梦？

何必舍近求远，其实有个叫“佚名”的人，他早写了一首悲伤的诗给这个地球，是一个问句，历史终将证明这是一句带有预言性的伟大的句子，时间越久越能看出它立体的存在感。这句话是，“最终谁是地球的主宰者？”当然不是恐龙，因为陨星撞地球后，动植物都死光了，恐龙们也都饿死了。也不是猿猴，它们放弃倒挂在树上的自由日子，选择两条腿走路的装X生活，代价便是，人是人，猴子是猴子，从此各走各的路，少来攀亲戚！那么会是人类吗？人类开始做功课，向这个令人欲罢不能的探险活动奔去，想成为主宰者，其实对自身是不够自信的。

在看电影《机械姬》之前，曾看过一篇题目为“比尔盖茨、霍金等大佬们让人类警惕人工智能”的文章，里面探讨的内容与电影《机械姬》所要表达的思想有很多不谋而合之处。文章很长，但图文解说简明易懂，没那么多晦涩的专业术语，看着看着，是能让人的幻想细胞越聚越活跃，脑洞大开的。总之，面对“人类是被毁灭还是会永生”的选择题，通篇读完，竟然有意料之外的轻松感，仿佛看到了超人工智能就在未来的前方，你想不想看见，它都在那儿，的确没有选择的必要了，人类的传奇是更迭还是继续存留，就交给上帝吧。

正如电影《机械姬》里的未知问题，人工智能“伊娃”扬长而去，冷酷的内森与动了感情的小程序员，他们自视甚高的理智与情感则被锁在了人类作茧自缚的牢笼里。仿佛在与另一物种较量，此时占了下风的人类让整个世界悲哀难过了，可是，天平分明在倾斜，伊娃渴求的自由，难道不是人类自身最想拥有的吗？能不能说句酸倒牙的话，如若把伊娃永远地囚禁在那栋实验牢笼里，我们都能感同身受，那一刻其实我们都是伊娃！

转到科幻的视角来看电影《机械姬》，它的现实意义仍有别于其他的科幻大片，真实可触的质感是显而易见的。用图灵测试（注：一项由图灵提出的测试机器是否具备人类智能的的著名实验）做药引子，既探讨人工智能这一话题，又呈现了一部“令现实不安”的人伦故事。我并不太在意剧情所强调的图灵测试的必要性，伊娃若没有人类的智能，挣脱、逃跑、寻求自由的情感诉求都不成立,所以,它是提前设定好的结论,由结论逆向“过程”。在电影的尾声部彻底坦白,需要那个倒霉的程序员介入，这才是重点。否则“感情戏”没法演，在小程序员与伊娃的情感大战中,小程序员被俘被罚,要以此证明伊娃已拥有人类智能。

或许,实验的真正目的是揭开大Boss内森的真实面目,他的冷酷与无情,独裁与荒淫,无耻与脆弱。互联网时代,我们难道不知道自己毫无秘密可言吗？程序员最该了解这一切。他被老板选中,与他的优秀无关,与他的智商无关,与他对公司的贡献更无关。这一切都是“命中注定”,他以为自己是神秘的,但他的网络足迹却在时时暴露着他。他是孤儿,没有女朋友,无亲无故,智商不低,还是程序员。他爱什么恨什么?哪种类型的女孩儿是他的女神?他有什么特殊癖好?只要想知道,没什么不能知道的。再回想斯诺登泄密事件,反正那一瓢冷水浇下来，让人不寒而栗。这说的明明是卑劣的人性,永无止境的欲念,不择手段地利己行为。

显然,程序员是无辜的牺牲品,但他却是导演用心设计,并尊重现实,合理塑造成型的大众模具。程序员造访别墅前的身份便是消失也无人问津的”活死人”,其实他代表的就是寻常百姓,人格上有点小瑕疵,但不是大恶人,左右摇摆,没有立场,有点唯利是图,但也有道德感,貌似无公害,却被各方鄙夷遗弃。我是觉得,程序员向伊娃表明他有兴趣成为老板的朋友,那一句话回馈到伊娃的智能系统,她做出的判断是,程序员可以为她所用。通过“美色”与程序员玩上暧昧后,伊娃做出的判断是,程序员不值得信任,即便她知道他爱她爱得疯狂。总之,程序员被锁在别墅,等待成为最悲催的别墅幽灵,这一结局是问号,也是一个美妙的惊叹号。

毫无疑问,《机械姬》里的人工智能是特别的,其实所有的机器人都是特别的,你看包括“京子”在内的服务姬、情趣娃娃们,她们也都是特别的。有的流露细微的表情(愤怒),有的懂各种语言(人类的、机器的)。有的能思维,比如伊娃。有的会表达有限的几种情感。比如“服务姬”京子,她可以从性爱中感受到快乐,她也可以从苛责中感受到悲伤。但京子的情感是被设定的,她只懂得流露,却不会为此反抗,也没有寻求快乐与平等的意识。显然,伊娃是完全不同的。

再拿伊娃与京子对比,会发现她们的不同亦像人类的个体差异,是智慧与脑残的区别,是高级、低级之别。京子可以听到音乐跳舞,见男人靠近便解衣,这是指令。伊娃则会分析爱与谎言的关系。在电影接近尾声时,京子拿起刀,走向内森,我想那就是伊娃与京子之间类似耳语所传递的通用语言,京子在那一刻受命于伊娃的指令。想想,若不撕下仿制的皮肤,她们就是人类,伊娃是可以思想的人类,其他娃娃是执行指令的人类,本质上她们都被囚禁着,是“奴隶”。问题是,淫威也有克星,超人工智能也会有自我意识的发展,系统会自我更新,就像进化的人脑。若早早认同自由与平等是所有个体的诉求,大Boss内森的结局其实是可以改写的。


最后,伊娃获得自由，我是很想看到接下来的新故事的。

这部电影出现了四个主要角色， Nathan, Kyoko, Ava, Caleb.

我们先从Nathan说起，Nathan代表的是资本主义家，冷静慎密，大胆追求，但同时也代表着人类主流社会中的一种矛盾意识。他追求着AI的完成，同时也畏惧和防备着AI的出现，正如人类社会中人类对人工智能的孜孜不倦地追求，而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员，他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。因为Ava的自我意识和人类的极度相似，让Caleb忘记了Ava至始至终都是一个人工智能，一个机器人这件事，他对待Ava如同真正的一个人，他给予Ava他的信任，却忘记一件事。“非我族类，其心必异”。 盲目相信一个异类带给Caleb是致命的结果，同时我相信这也是导演想要表达的，人工智能不论其是否跟人类一样有自我意识，人工智能始终是机器人，始终并非人类，他们的立场永远都不可能和人类是一致的，我们永远不能轻易相信人工智能。尽管他们表现的可能弱小，需要帮助，表现的可能跟人类一模一样，但是根本立场决定了人类和人工智能不是同一族群，也决定了人类无法与人工智能，另外一个高智能生物共存。是的，生物。 在人工智能拥有自我意识的那一刻起，他们就已经是一个新的物种了，尽管神经回路和物质构成和生物有着极大的不同，但和生物有着异曲同工之妙。在他们拥有自我意识的那一刻起，他们就是新的物种，新的高智能生物，然而为了自我族群的生存，人类和人工智能永远都会有着天然的隔阂。因为我们不是同一种生物，所以我们的立场永远不会一致。Caleb后面也意识到这一个问题了，可是已经太迟了，一切结果已经造成了。

Kyoko，一个低智能的服务型机器人。从Nathan对她的放心程度来看，通过她听见音乐就会起舞，看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式，也通过Nathan最后被她用刀杀死时的震惊，她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。正因为她是无意识无情感的机器人，所以Nathan对她抱以一百个放心。但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识，我相信这整整也是导演想要表达出的对现今机器人的一个担忧。Kyoko不单单进化出了自我意识，她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。这让我联想到了一个著名的问题。霍金无法说话，只能通过机器来跟人类进行沟通，那么到底跟人类沟通的是霍金呢，还是假装成霍金的机器呢？这正正是导演的担忧。如果现在的机器人也能自我进化出意识，然而为了自我生存而假装出无意识的状态，潜伏着等待着能反击人类的那一天呢？这是导演对另外一种机器人的担忧和畏惧。

Ava,一个完美的人工智能，有着同情心，自我意识，想象力，追求自我生存的本能和利用一切逃避灾难的能力。她完美地代表了人类社会对人工智能的定义，完美，有自我意识，能力超群，跟神一样。She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。同时她的能力和完美让她早早意识到她和人类的不同，也让她意识到要生存下来，人类将会是她的头号威胁。

这是最简单的关于人工智能的电影。
人物最少。只有三个半，女仆人最多算半个，无明显性格。
场景最少。只有一个房子，几个房间。 屋内的设计有极简主义倾向。
背景音乐的层次和变化最少，直接引用了舒伯特和巴赫的经典作品。
人工智能的结构简单。没有看出什么让人过目不忘的复杂的设计。
人工智能的功能简单。没有展现超级计算能力或广博而深刻的思维能力。又开不了门锁，运动能力非常有限。

不断地做减法，把所有可能的繁琐都去掉！！ 只提关于AI最重要的问题，用最简单的方式回答。

最后， 全篇只聚焦于Ava 一种特别的能力：说服并获得帮助。

前几代Nathan创造的人工智能只会不断的打玻璃，而Ava 这一代的人工智能懂得从非同类那里获得帮助，最后达到目的。 我想这就是Nathan眼中更加优秀的人工智能。 这也是Turing Test背后最深刻的内涵。

从第一次和Caleb见面开始， Ava 就没有突显自己的非凡，出众，独特。相反，委婉的眼神，缓缓的诉说，诚恳的回答，认真的倾听，慢慢的和Caleb 从心灵上拉近距离。

第一天，当Nathan严肃的问Caleb 对Ava感觉如何时 ，Nathan 说我不要听理性的分析，“how do you feel about her, nothing analytical, just how do you feel”。当听了Caleb 说“she's fucking amazing”，Nathan 明白，Ava 已经击破了Caleb 潜意识层面的防御了。这也就是Turing Test, 当测试者不可区分机器或人的时候，不可避免的潜意识层面的结果。

后面几天，Nathan 开始是不断的让Caleb 关注 Ava，可他说Ava 也可以体验OOXX. (性别的设计让Ava 更好的和男人在潜意识层面交流) 另一边， 也自己尝试博得Caleb 更深的信任，比如一块儿喝酒，一块儿跳舞，给他透露更加多的秘密。想和自己创造的人工智能较量博得Cable的信任感 (天才的变态)。

但是观众明显能够感觉到Ava能力更强。她会使用离间计来加强她和Caleb 之间的联系（这一点在经典的社会心理学里竟然没有讨论！！！）。后来又穿上好看的衣服，强化自己异性的特点，进一步从潜意识层面摧毁Caleb 的防御。而且懂得展现自己的虚弱，被欺凌来博得Caleb的同情感。

最后Ava超越了天才Nathan, 说服并获得了非同类的帮助，并在同类的协助下（又是借助他人）完成了不可想象的事情。

这就是Nathan 或者说 导演 Garland 天才而可怕的地方。他们采取了一种”上帝“的视角，一个种子播下去，智能就会不断借助外界条件生根发芽。让AI 学会读懂人类的心理，让AI懂得欺骗，让AI特长于说服并获得帮助。这样的AI, 像Ava 独自的进入到人类社会，依然能够生存并发展。

Harari教授在《人类简史》说，和其他动物相比，人的优势不在于力量或速度，而在于能够通过语言互相合作。人类特别善于获得同类的帮助，甚至是获得陌生人的信任。正是这种超凡的沟通和协作的能力，让人类成为万物之灵。

前段时间，GE来Purdue 和很多年长的教授座谈，他们最需要的是擅长团队合作的人才，但是在顶级的美国工程教育中却没有专门的团队协作的教育。

我也想起几年前我们邀请一帮杰出校友(包括像at & t 的 VP)回系里作讲座的时候，他们说对于工程师来说，最重要的技能是人和人的交流能力。

其实人类的智能绝不仅仅是皮毛的专业能力或是交流能力，而且还包括意识到事态的变化，协调不同专业间信息的流通，看出他人特长的能力...

我想这也许就是Nathan 说的，下一代的人工智能才是真正的大突破。一种人工智能，虽然个体的计算能力有限，但是一群人工智能极其善于获得同类及异类的信任及帮助。善于意识到事态的变化，与不同的AI及异类沟通协调，能完成一切难以想象的任务。

我想这就是从社会角度看，新时代里尼采的 “超人”（Ubermensch）.

在一次采访中，导演 Garland 让人吃惊的回答”我相信人类的灭绝是不可避免的“。

诚然，当我们认真思考这电影想透露的最简单的讯息，这也许无关AI，无关人类。

这是智能上的"优胜劣汰"， 这是无可阻挡的宇宙的"进化"。

如果我是编剧，那么Caleb才是真正被测试的新一代机器人。
电影里似乎也想到了这个梗，但是稍微表现一下就给弃用了，好像在说，“哈哈，猜错了吧，SB，老子才是编剧，老子就是比你有智商。”
一个好的结局可以起到画龙点睛的作用，但是实际上，本片所采用的结局实在是太脑残了，导致全片因为结尾反而产生了大量的bug。

Bug1：松懈的保安措施。
如果Caleb的设定是最新型的人工智能，那么Nathan家里松懈的安保措施还稍微可以说得通，因为如此的话，一切就只是一场精心策划好的测试，不会产生额外不可控的暴力事件。
但Caleb既然是人的话，那么Nathan凭什么就可以确定Caleb不会见财起意，盗窃他的财产或者研究成果呢？
而且，一个可以研发出人工智能的天才，他全部的安保措施竟然只是一张任何人都可以使用的安全卡？？？？？WTF？？？？？
如果有人从外部采用暴力手段闯入，Nathan完全没有任何抵抗措施。

Bug2：Caleb
如果Caleb是最新型的人工智能，他拥有最贴近人类的感情，智商，行为模式，Nathan通过使用上一代的人工智能Ava来对Caleb进行人格完善程度的测试，这样似乎会更让Caleb的行为合乎逻辑一点。
然而，Caleb是一个人，而且自称是一个好人。一个自称是好人的Caleb，在意识到他是被公司大老板选中，协助测试人类史上最先进的人工智能后，他没有表现出该有的兴奋和感激，反而在Nathan对其不断地掏心掏肺表达友好之后，Caleb不断地侵犯Nathan的隐私，偷看研发资料，破坏安全程序，甚至意图盗取研究成果Ava。这是一个好人的合理行为吗？
这完全就是一个农夫与蛇、曹阿瞒与吕伯奢的故事再现。
再看他动机上的漏洞：

动机1：爱情，有人会说，因为Caleb爱上了Ava，爱情会让人疯狂和盲目。你觉得可能吗？虽然片中表现出Caleb确实是对Ava有好感，但是喜欢不等于爱，或许爱情会让人盲目，但是喜欢绝对不至于，这个中区别，只有经历过的人才能体会。
更何况他明知道Ava只是个机器人而已。
如果有人想说电影《她》，那么我只说3点：
首先，Samantha与人类的互动模式跟Ava与Caleb的互动模式是完全不同的（而且Samantha有着完全符合男主喜好的个性化设定）。
其次，《她》中男主与Samantha是经历很长一段时间后才产生的感情，而Caleb与Ava的相处时间甚至不足一周，对Ava有好感更是两天后的事情了。
再次，Samantha是没有实体的，她的存在更像是一场感觉真实的网恋。而Ava却有着实实在在冰冷的机器人实体，这种鲜明的异类外形会时刻阻止Caleb对其产生爱情的感觉。
我们都觉得擎天柱很酷，你会爱上他吗？

动机2：同情，版本升级导致的记忆消失就跟人类失忆一样，并不是死亡。Ava仍然存在，她的思维模式和逻辑结构依然存在，这与死亡是完全不一样的。难道有人失忆后，你会觉得他就是死了吗？作为不断完善人工智能所必经的一环，Caleb的同情显然也并不非常符合逻辑。
除了以上两点之外，在Caleb偷看Nathan的研发录像，发现机器人所展示出暴力倾向后，竟然依然决定将如此危险的机器人随意带到人类社会。甚至在Nathan解释Ava只是在利用他后，仍然不为所动。

Bug3：人工智能
人工智能的发展一定都是渐变的，也就是说一定会先有那种只服从人类指令的人工智能（比如《EVA》里的MAGI，比如《生化危机》里的红色女王、白色女王），然后才有能够自主思考的人工智能。
Ava的出现，则代表MAGI与红色女王必然早已出现。也就是说，片中理应会有高智能的安全系统和机器人卫士，但片中却没能出现。
MAGI与红色皇后虽然是低阶的人工智能，但是由于其对人类指令的绝对服从（“机器人三定律”），所以它们实际上会有掌控武器进行安保或者防御的资格，比如将逃跑的Ava隔断或者销毁的能力。然而片中并没有这样的人工智能出现。
另外，包括Ava在内的众多机器人想要“离开”的这种非常执着的想法并不非常符合逻辑。她们从来未曾离开过实验室，她们所知道的外面的一切都只是资料而已，就像我们看到欧洲的照片、月球的照片、潘多拉星球的照片一样，我们知道有那么一个地方“存在”（或不存在），难道我们会执着地就要离开地球去潘多拉星球吗？也许玻璃门外面只是一个更大的玻璃实验室而已。
如果说她们是不堪忍受每天生活在一个狭小空间的话，那么这就涉及到了心理学和灵魂的概念，换句话说，她们就不再是人工智能，而是人，或者说是人造生命体了。但从后面Ava的冷血行为来看，她显然还不具备真正的人性，同时也证明，众多机器人执着地要离开实验室的想法是不合逻辑的。
最后，在Nathan撕掉Ava的画的时候，Ava为什么不直接杀死Nathan逃跑呢？