smileandyxu » 日志
罪、设计、后人类,以及其它
2018-11-16 19:48 /
当人们在使用机器从事生产的过程中出现了事故,人们不会去怪罪机器,而是会怪罪操纵机器的人。当然,这并不是最好的方案,尽管操作失误的工人确实应该被认为是有罪的,更意义的应当是反思机器的整套设计上的缺陷并且加以改进。如果是工人看错了仪表单位,那为什么不将不同单位的数字用差别更大的方式显示?如果是工人在极度疲劳的状态下操纵机器,那为什么不控制工作时间,或在操纵前设置quiz检查操作者的精神状态?如果机器本身的零件出现故障,那为什么没有检查的机制避免损坏零件参与运行?正如Don Norman断言的那样,绝大多数的事故背后都是糟糕设计的身影。没能最大限度降低风险的设计者同样是有罪的。或者至少,认为他们有罪,让他们认为自己有罪能够让事情变得更好。
而与此相反,机器应当是无罪的,因为对机器的有罪判决并不会让事情变得更好。对工厂里的设备拳打脚踢不能让其它的设备保证正常运转,排除了故障或者本身就没有故障的机器被“惩罚”不会减少任何生产中的潜在风险,当然造成的损失也无法挽回。因而从根本上说,机器应当无关乎罪恶。机器不应该被认为是“有罪”或“无罪”的。它根本不应当参与其中,不应当被认为是一个道德主体。
这里的机器是不具有能动性的,而若机器本身具有能动性,“是否有罪”则变得极其复杂。我们看到,《无罪》当中的机器是“人偶”,而非改造人或AI,实际上是回避了这个困难的问题。“人偶”意味着需要有“人偶使”的操纵才能够活动。人偶本身是单纯的shell,需要ghost去操纵。因此gynoid造成的事故某种意义上和工人使用机器造成的事故是一样的。单纯作为shell的人偶没有道理承担罪孽,受驱动的gynoid只能是无罪的。
如果一定要将“罪”这个概念安置在机器上,那么设计,坏的设计,是对机器而言的“原罪”。gynoid因为设计上的“原罪”必然地走向犯“罪”。那么这种“罪”是应当被惩罚的吗?它和人类犯下的“罪”是等同的吗?这并非是出于机器的意愿而产生的缺陷,这并非是出于机器的意识而造成的损失。如果是设计的不周让铁箱里女孩的ghost有机会操纵gynoid杀死人类,那么该处决的为什么不是不周的设计?有罪的为什么不是女孩和设计者?
然而动画开头的gynoid被巴特处决了,这也就意味着《无罪》中人们给出的答案是“应当被惩罚,和人类的罪一样”。当然被警察处决不足以作为人们认为它有罪的证据,毕竟故障的机器总要有人去停掉,只不过巴特用的方法暴力了一些。真正的证据是gynoid尝试自杀的行为。自杀意味着意识到自己的“罪”,企图以自杀的方法来洗涤自己的罪恶。而gynoid之所以会认定自己有罪,是因为shell与ghost并不匹配。人类作为造物主对shell下的律令是“不得伤人(造物主)”;而另一边女孩即ghost下的命令却是“弑神(人)”。ghost作为异己的操纵者,某种程度上相当于gynoid的本能。于是我们看到了gynoid承受着本能(本我)和律令(超我)之间的矛盾,两份原罪(人的原罪和设计的原罪)的叠加,最终走向不可避免的惩罚与自我救赎,方式就是自杀。
gynoid有罪的根源是什么?是设计者将它看作是人,看作是和人一样的道德主体,看作是需要为事故负责的“人”。可gynoid并不是完整的人,它只是缺乏ghost注入的shell,而shell是无法承担后果、不足以成为道德主体的。于是我们可以看到押井守借素子之口说:“人偶要是能说话,也会喊出‘我不想成为人类’吧”。《无罪》整部动画是在为gynoid们辩护。
“我不想成为人类”,这是押井守给人偶的答案。另一边,我们看到的是其它许多作品给出了相反的答案,比如“我也是人类”、“比人类更人类”。后者存在着不可避免的“操作性悖论”——所有为“非人”辩护的都仍然是“人”,这也就意味着并不是“非人”自己为“非人”辩护。在《无罪》中,我们看到了这一悖论带来的结果——为“非人”的辩护仍然是以“人”作为中心基准的,人类中心的视角并没有被移去,反而是隐藏在将“非人”塑造为“人”的过程中。人类以自己的模样创造出人偶,并擅自将适用于人的概念施加其上,本质上仍然是在延续人类内部的自说自话。这样一来(后者代表的那一部分)后人类主义并没有超出人类中心的视角,其目光仍然是局限的,不足以用“非人”的视角反过来促进对人类自身的反思。因此gynoid仍要接受人类的伦理并为ghost决定的行为负责,结局是以自杀赎罪。不因为别的,只因为它们被看作是人,因而就要同人一样遵循造物主降下的律令。“我不想成为人类”既是对人类中心视野的申诉,也是对部分后人类主义者“子非鱼”的诘问。在一群“我想成为人类”中说出“我不想成为人类”,意味着我们对“非人”无论是哪种定夺其实都是擅自的。两者同时存在,提醒着我们在看待“非人”问题时自身的“非非人”的立场。
shell是无罪的,或者至少,作为具体实例存在的shell是无罪的。那么另一部分,ghost是有罪的吗?更具体的说,复制出来注入人偶的女孩的ghost是有罪的吗?
《无罪》构造了人偶-孩童这一组对应关系,而人偶是无罪的,那么我们有理由认为在押井守看来,孩童也是接近无罪的。孩童和人偶一样,都可以认为是人类为了扩展自身而生出的“受造物”。区别在于,人偶是离散的,而孩童是连续的。对人偶而言,并不存在“习得律令”这一过程。它们出生就包含着完整的律令(设计)。而另一边,对孩童,或者说卢梭观点下的孩童而言,律令是需要习得的。刚出生的小孩是空白的,只存在有供其活动的底层生理机制,需要在环境的引导下成长。在自我的形成期,也就是ghost还没有完全成型的期间,孩童和人偶类似,尚不足以成为完全道德主体。只不过对于离散的人偶只有“无罪”和“有罪”两种状态,而孩童则具备中间的状态,“有一点错误,但不需要惩罚,只需要加以教育”。
如果把孩童的成长看作是设计实例化的过程,那么从小到大一步步变好可以看作是设计一步步解决自身缺陷以趋近于完善的过程。反过来说,如果设计当中包含着某种“原罪”,那么孩童也就不可避免地“有罪”。在这里,设计的主体不只有家人、朋友、老师,还包括孩童自己。这构成了孩童与人偶的另一组差别——孩童能够参与设计,而人偶不能。因而当孩童参与的设计越多,应负的罪也越多。孩童的罪由两部分构成,一部分是自己的行为导致恶果,一部分是自己的设计导致恶果。
但是继续追问下去,参与设计的每个个体又应该担负多大的责任?说起来设计者一定要是人吗?《无罪》似乎没有回答。押井守的答案大概在别的地方吧……
而与此相反,机器应当是无罪的,因为对机器的有罪判决并不会让事情变得更好。对工厂里的设备拳打脚踢不能让其它的设备保证正常运转,排除了故障或者本身就没有故障的机器被“惩罚”不会减少任何生产中的潜在风险,当然造成的损失也无法挽回。因而从根本上说,机器应当无关乎罪恶。机器不应该被认为是“有罪”或“无罪”的。它根本不应当参与其中,不应当被认为是一个道德主体。
这里的机器是不具有能动性的,而若机器本身具有能动性,“是否有罪”则变得极其复杂。我们看到,《无罪》当中的机器是“人偶”,而非改造人或AI,实际上是回避了这个困难的问题。“人偶”意味着需要有“人偶使”的操纵才能够活动。人偶本身是单纯的shell,需要ghost去操纵。因此gynoid造成的事故某种意义上和工人使用机器造成的事故是一样的。单纯作为shell的人偶没有道理承担罪孽,受驱动的gynoid只能是无罪的。
如果一定要将“罪”这个概念安置在机器上,那么设计,坏的设计,是对机器而言的“原罪”。gynoid因为设计上的“原罪”必然地走向犯“罪”。那么这种“罪”是应当被惩罚的吗?它和人类犯下的“罪”是等同的吗?这并非是出于机器的意愿而产生的缺陷,这并非是出于机器的意识而造成的损失。如果是设计的不周让铁箱里女孩的ghost有机会操纵gynoid杀死人类,那么该处决的为什么不是不周的设计?有罪的为什么不是女孩和设计者?
然而动画开头的gynoid被巴特处决了,这也就意味着《无罪》中人们给出的答案是“应当被惩罚,和人类的罪一样”。当然被警察处决不足以作为人们认为它有罪的证据,毕竟故障的机器总要有人去停掉,只不过巴特用的方法暴力了一些。真正的证据是gynoid尝试自杀的行为。自杀意味着意识到自己的“罪”,企图以自杀的方法来洗涤自己的罪恶。而gynoid之所以会认定自己有罪,是因为shell与ghost并不匹配。人类作为造物主对shell下的律令是“不得伤人(造物主)”;而另一边女孩即ghost下的命令却是“弑神(人)”。ghost作为异己的操纵者,某种程度上相当于gynoid的本能。于是我们看到了gynoid承受着本能(本我)和律令(超我)之间的矛盾,两份原罪(人的原罪和设计的原罪)的叠加,最终走向不可避免的惩罚与自我救赎,方式就是自杀。
gynoid有罪的根源是什么?是设计者将它看作是人,看作是和人一样的道德主体,看作是需要为事故负责的“人”。可gynoid并不是完整的人,它只是缺乏ghost注入的shell,而shell是无法承担后果、不足以成为道德主体的。于是我们可以看到押井守借素子之口说:“人偶要是能说话,也会喊出‘我不想成为人类’吧”。《无罪》整部动画是在为gynoid们辩护。
“我不想成为人类”,这是押井守给人偶的答案。另一边,我们看到的是其它许多作品给出了相反的答案,比如“我也是人类”、“比人类更人类”。后者存在着不可避免的“操作性悖论”——所有为“非人”辩护的都仍然是“人”,这也就意味着并不是“非人”自己为“非人”辩护。在《无罪》中,我们看到了这一悖论带来的结果——为“非人”的辩护仍然是以“人”作为中心基准的,人类中心的视角并没有被移去,反而是隐藏在将“非人”塑造为“人”的过程中。人类以自己的模样创造出人偶,并擅自将适用于人的概念施加其上,本质上仍然是在延续人类内部的自说自话。这样一来(后者代表的那一部分)后人类主义并没有超出人类中心的视角,其目光仍然是局限的,不足以用“非人”的视角反过来促进对人类自身的反思。因此gynoid仍要接受人类的伦理并为ghost决定的行为负责,结局是以自杀赎罪。不因为别的,只因为它们被看作是人,因而就要同人一样遵循造物主降下的律令。“我不想成为人类”既是对人类中心视野的申诉,也是对部分后人类主义者“子非鱼”的诘问。在一群“我想成为人类”中说出“我不想成为人类”,意味着我们对“非人”无论是哪种定夺其实都是擅自的。两者同时存在,提醒着我们在看待“非人”问题时自身的“非非人”的立场。
shell是无罪的,或者至少,作为具体实例存在的shell是无罪的。那么另一部分,ghost是有罪的吗?更具体的说,复制出来注入人偶的女孩的ghost是有罪的吗?
《无罪》构造了人偶-孩童这一组对应关系,而人偶是无罪的,那么我们有理由认为在押井守看来,孩童也是接近无罪的。孩童和人偶一样,都可以认为是人类为了扩展自身而生出的“受造物”。区别在于,人偶是离散的,而孩童是连续的。对人偶而言,并不存在“习得律令”这一过程。它们出生就包含着完整的律令(设计)。而另一边,对孩童,或者说卢梭观点下的孩童而言,律令是需要习得的。刚出生的小孩是空白的,只存在有供其活动的底层生理机制,需要在环境的引导下成长。在自我的形成期,也就是ghost还没有完全成型的期间,孩童和人偶类似,尚不足以成为完全道德主体。只不过对于离散的人偶只有“无罪”和“有罪”两种状态,而孩童则具备中间的状态,“有一点错误,但不需要惩罚,只需要加以教育”。
如果把孩童的成长看作是设计实例化的过程,那么从小到大一步步变好可以看作是设计一步步解决自身缺陷以趋近于完善的过程。反过来说,如果设计当中包含着某种“原罪”,那么孩童也就不可避免地“有罪”。在这里,设计的主体不只有家人、朋友、老师,还包括孩童自己。这构成了孩童与人偶的另一组差别——孩童能够参与设计,而人偶不能。因而当孩童参与的设计越多,应负的罪也越多。孩童的罪由两部分构成,一部分是自己的行为导致恶果,一部分是自己的设计导致恶果。
但是继续追问下去,参与设计的每个个体又应该担负多大的责任?说起来设计者一定要是人吗?《无罪》似乎没有回答。押井守的答案大概在别的地方吧……
而《无罪》在这方面则将视角打得更开,提供了一个更“非人”的视角。虽然它也仍然是以人的视角构造出来的,但程度上要更接近于“抽出了人”。gynoid和人类的差别明显要大于replicant和人类。甚至整部动画重心都是在人偶问题而不是人的矛盾上。我不知道这和“鸭子对描写人类没什么兴趣”这个说法有没有关,但很明显《无罪》并没有直接的指向说要“演绎人类中心的内在矛盾”,它缺乏对人类群体矛盾的描写。矛盾的只是gynoid的ghost和shell,而这个ghost的来源只是一个小女孩,这个矛盾是很个别的,是在个体内部而不是群体内部的。《无罪》描写的更多的是“人类中心对非人的影响”,着重的是外部的情况。并不是推演让人类中心自己内爆,它根本就没有展现内部的矛盾。甚至可以说它是在反对用“非人”展现人类中心的内部矛盾,因为这里的“非人”是借来的壳,“非人性”被掏空,“人性”被注入,然后被用来演绎和人类的冲突。这等于是让人偶有罪,而《无罪》的标题是无罪。
因此我更倾向于认为《无罪》回避了“人偶是不是主体”的问题。或者说它通过人偶的呼喊给出的答案是“我们不知道人偶是不是主体。但‘它是主体’的判断肯定是人类擅自的主张”。
不知道我有没有搞错什么概念……
至于《无罪》,押井守想要表达的是在现代性/后现代性困境下,我们将要如何生存——我们不得不通过人偶、婴儿、狗等等“镜子”去填补身体性的缺失(关于这个,你可以去B站看<押井守与铃木敏夫对谈>)。当然,“作品完成,作者已死。”“抬头而读”未尝不可。
bug的类比是有效的,但不是你这么用的,分析的层次不对。资本主义社会突出的阶级化/层化现象,在马克思那里是bug,在涂尔干眼中是feature,你告诉我谁在开玩笑。这个时候,我们就可以拿出康德的二律背反:人的认知是有极限的,对超出自我认知能力的探索必然导致二律背反。一种直觉式的思考并不能告诉我们bug和feature究竟是什么,因此在康德伦理体系的终点也屹立着一位上帝。你或许能够在一些简单事物上定义bug和feature,但你面对gynoid这种复杂造物时也有这种自信吗?所谓的机器人三定律中的“不可杀人”,又是谁给了你自信来下达这种绝对律令。如果现在有一种技术可以清除人们的杀人冲动,那么这项技术应当被使用吗?这种冲动又有“罪”吗?你看,我们就又回到“无罪”的问题上了。
这么看来还是思路不一样。我从设计方面谈的一直还是具体的问题,并没有到一个普遍的抽象的结论上。普遍的绝对律令当然是不容易得出的,除非强力作出决定。但针对具体问题的时候,谁比谁“更”能解决问题是相对容易回答的。总体的阶级化是不是个bug这有争论,但相对于“人们没饭吃”,“人们有饭吃”更好,这一点一般是普遍赞同的。至于实现“让更多人吃上饭”的过程中会不会带来其它的问题这没法预料,也就超出了这个具体的问题。律令自身包含什么矛盾,这个通过逻辑推演自然是有一个说法的。阿西莫夫自己也找过三定律的问题。但这些纯粹概念上的推演和实际上的工程实现还是有很大距离的。有些矛盾可能实际上并不会发生,有些矛盾可能无法提前预料。我的思路可能更偏向于工程实现,对押井守来说肯定是偏题了,算是误读吧。