2018-11-16 19:48 /
当人们在使用机器从事生产的过程中出现了事故,人们不会去怪罪机器,而是会怪罪操纵机器的人。当然,这并不是最好的方案,尽管操作失误的工人确实应该被认为是有罪的,更意义的应当是反思机器的整套设计上的缺陷并且加以改进。如果是工人看错了仪表单位,那为什么不将不同单位的数字用差别更大的方式显示?如果是工人在极度疲劳的状态下操纵机器,那为什么不控制工作时间,或在操纵前设置quiz检查操作者的精神状态?如果机器本身的零件出现故障,那为什么没有检查的机制避免损坏零件参与运行?正如Don Norman断言的那样,绝大多数的事故背后都是糟糕设计的身影。没能最大限度降低风险的设计者同样是有罪的。或者至少,认为他们有罪,让他们认为自己有罪能够让事情变得更好。

而与此相反,机器应当是无罪的,因为对机器的有罪判决并不会让事情变得更好。对工厂里的设备拳打脚踢不能让其它的设备保证正常运转,排除了故障或者本身就没有故障的机器被“惩罚”不会减少任何生产中的潜在风险,当然造成的损失也无法挽回。因而从根本上说,机器应当无关乎罪恶。机器不应该被认为是“有罪”或“无罪”的。它根本不应当参与其中,不应当被认为是一个道德主体。

这里的机器是不具有能动性的,而若机器本身具有能动性,“是否有罪”则变得极其复杂。我们看到,《无罪》当中的机器是“人偶”,而非改造人或AI,实际上是回避了这个困难的问题。“人偶”意味着需要有“人偶使”的操纵才能够活动。人偶本身是单纯的shell,需要ghost去操纵。因此gynoid造成的事故某种意义上和工人使用机器造成的事故是一样的。单纯作为shell的人偶没有道理承担罪孽,受驱动的gynoid只能是无罪的。

如果一定要将“罪”这个概念安置在机器上,那么设计,坏的设计,是对机器而言的“原罪”。gynoid因为设计上的“原罪”必然地走向犯“罪”。那么这种“罪”是应当被惩罚的吗?它和人类犯下的“罪”是等同的吗?这并非是出于机器的意愿而产生的缺陷,这并非是出于机器的意识而造成的损失。如果是设计的不周让铁箱里女孩的ghost有机会操纵gynoid杀死人类,那么该处决的为什么不是不周的设计?有罪的为什么不是女孩和设计者?

然而动画开头的gynoid被巴特处决了,这也就意味着《无罪》中人们给出的答案是“应当被惩罚,和人类的罪一样”。当然被警察处决不足以作为人们认为它有罪的证据,毕竟故障的机器总要有人去停掉,只不过巴特用的方法暴力了一些。真正的证据是gynoid尝试自杀的行为。自杀意味着意识到自己的“罪”,企图以自杀的方法来洗涤自己的罪恶。而gynoid之所以会认定自己有罪,是因为shell与ghost并不匹配。人类作为造物主对shell下的律令是“不得伤人(造物主)”;而另一边女孩即ghost下的命令却是“弑神(人)”。ghost作为异己的操纵者,某种程度上相当于gynoid的本能。于是我们看到了gynoid承受着本能(本我)和律令(超我)之间的矛盾,两份原罪(人的原罪和设计的原罪)的叠加,最终走向不可避免的惩罚与自我救赎,方式就是自杀。

gynoid有罪的根源是什么?是设计者将它看作是人,看作是和人一样的道德主体,看作是需要为事故负责的“人”。可gynoid并不是完整的人,它只是缺乏ghost注入的shell,而shell是无法承担后果、不足以成为道德主体的。于是我们可以看到押井守借素子之口说:“人偶要是能说话,也会喊出‘我不想成为人类’吧”。《无罪》整部动画是在为gynoid们辩护。

“我不想成为人类”,这是押井守给人偶的答案。另一边,我们看到的是其它许多作品给出了相反的答案,比如“我也是人类”、“比人类更人类”。后者存在着不可避免的“操作性悖论”——所有为“非人”辩护的都仍然是“人”,这也就意味着并不是“非人”自己为“非人”辩护。在《无罪》中,我们看到了这一悖论带来的结果——为“非人”的辩护仍然是以“人”作为中心基准的,人类中心的视角并没有被移去,反而是隐藏在将“非人”塑造为“人”的过程中。人类以自己的模样创造出人偶,并擅自将适用于人的概念施加其上,本质上仍然是在延续人类内部的自说自话。这样一来(后者代表的那一部分)后人类主义并没有超出人类中心的视角,其目光仍然是局限的,不足以用“非人”的视角反过来促进对人类自身的反思。因此gynoid仍要接受人类的伦理并为ghost决定的行为负责,结局是以自杀赎罪。不因为别的,只因为它们被看作是人,因而就要同人一样遵循造物主降下的律令。“我不想成为人类”既是对人类中心视野的申诉,也是对部分后人类主义者“子非鱼”的诘问。在一群“我想成为人类”中说出“我不想成为人类”,意味着我们对“非人”无论是哪种定夺其实都是擅自的。两者同时存在,提醒着我们在看待“非人”问题时自身的“非非人”的立场。

shell是无罪的,或者至少,作为具体实例存在的shell是无罪的。那么另一部分,ghost是有罪的吗?更具体的说,复制出来注入人偶的女孩的ghost是有罪的吗?

《无罪》构造了人偶-孩童这一组对应关系,而人偶是无罪的,那么我们有理由认为在押井守看来,孩童也是接近无罪的。孩童和人偶一样,都可以认为是人类为了扩展自身而生出的“受造物”。区别在于,人偶是离散的,而孩童是连续的。对人偶而言,并不存在“习得律令”这一过程。它们出生就包含着完整的律令(设计)。而另一边,对孩童,或者说卢梭观点下的孩童而言,律令是需要习得的。刚出生的小孩是空白的,只存在有供其活动的底层生理机制,需要在环境的引导下成长。在自我的形成期,也就是ghost还没有完全成型的期间,孩童和人偶类似,尚不足以成为完全道德主体。只不过对于离散的人偶只有“无罪”和“有罪”两种状态,而孩童则具备中间的状态,“有一点错误,但不需要惩罚,只需要加以教育”。

如果把孩童的成长看作是设计实例化的过程,那么从小到大一步步变好可以看作是设计一步步解决自身缺陷以趋近于完善的过程。反过来说,如果设计当中包含着某种“原罪”,那么孩童也就不可避免地“有罪”。在这里,设计的主体不只有家人、朋友、老师,还包括孩童自己。这构成了孩童与人偶的另一组差别——孩童能够参与设计,而人偶不能。因而当孩童参与的设计越多,应负的罪也越多。孩童的罪由两部分构成,一部分是自己的行为导致恶果,一部分是自己的设计导致恶果。

但是继续追问下去,参与设计的每个个体又应该担负多大的责任?说起来设计者一定要是人吗?《无罪》似乎没有回答。押井守的答案大概在别的地方吧……
Tags: 动画
#1 - 2018-11-16 19:57
(受不了共趣人啦……不行还是得受住)
打折入了本《The Design of Everyday Things》,原本用来学英语,没想到这么好看
#2 - 2018-11-17 00:30
开头其实在间接地讨论一个问题,什么是主体性?主体可以犯罪,而物体不能犯罪,所以问题不是他有没有罪,问题是他是不是一个主体?从物体到主体的边界何在?这也就是后人类赛博朋克的中心议题。

答案是,是,他的确是主体。与其作一种朴素的弗洛伊德式的解读,本我驱力与超我律令之间矛盾的不可调和,不如将其倒转成拉康式的解读——正是在这种不可调和的矛盾中产生了主体性。主体性最根本的维度就在于他内在的不一致与匮乏的实在界创伤,由此引发出反应即构成了整个想象界和符号界。

在讨论人类中心论的时候,你必须非常谨慎,“比人类更人类”中第二个“人类”不是人类,而是人类的否定,对人类性内在矛盾和不一致的全面伸张。这个意义上,“人类中心的视角并没有被移去”不是一种反人类中心的有效批评,因为“移除”人类中心视角无非是回避了那些内在的矛盾,而且正因为如此,所谓的去人类中心的视角从一开始就失败了,因为它本身就是不可能的。真正的反人类中心视角是将人类中心的内在矛盾演绎至它历史的内爆,从那种内爆中才能诞生新的“人类”,人类的否定。

至于儿童为什么变成了受限制的主体,本站应该有几个尼尔波兹曼专家能比我说得更好。
#2-1 - 2018-11-17 10:09
smileandyxu
并不是说“比人类更人类”对于反思人类内在矛盾没有意义,而是说它并没有通过提供一种“外部”的视角来达到它的目的。相当于始终是在内部描述内部,并没有与外部对比得出的内部,“非人”只是人的壳而已。因此我们也看到了replicant和人类十分接近,只是因为出生方式而被叫了另一个名字而已,对他们描写方式等等都是向人类的方向靠的。只不过他们代表的是现实中人类中的一部分,而剧中的人类代表的是现实中人类的另一部分,代换回去描写的视角始终是在人类的内部。

而《无罪》在这方面则将视角打得更开,提供了一个更“非人”的视角。虽然它也仍然是以人的视角构造出来的,但程度上要更接近于“抽出了人”。gynoid和人类的差别明显要大于replicant和人类。甚至整部动画重心都是在人偶问题而不是人的矛盾上。我不知道这和“鸭子对描写人类没什么兴趣”这个说法有没有关,但很明显《无罪》并没有直接的指向说要“演绎人类中心的内在矛盾”,它缺乏对人类群体矛盾的描写。矛盾的只是gynoid的ghost和shell,而这个ghost的来源只是一个小女孩,这个矛盾是很个别的,是在个体内部而不是群体内部的。《无罪》描写的更多的是“人类中心对非人的影响”,着重的是外部的情况。并不是推演让人类中心自己内爆,它根本就没有展现内部的矛盾。甚至可以说它是在反对用“非人”展现人类中心的内部矛盾,因为这里的“非人”是借来的壳,“非人性”被掏空,“人性”被注入,然后被用来演绎和人类的冲突。这等于是让人偶有罪,而《无罪》的标题是无罪。

因此我更倾向于认为《无罪》回避了“人偶是不是主体”的问题。或者说它通过人偶的呼喊给出的答案是“我们不知道人偶是不是主体。但‘它是主体’的判断肯定是人类擅自的主张”。

不知道我有没有搞错什么概念……
#2-2 - 2019-2-6 16:41
///////////////////////// ...
这种不可调和的矛盾中产生了主体性?——拉康的主体难道不是一个被主体化的缺失?一个他者凝视下的幻象?外部视角不是不可能,而是一种文本的普遍性,只是被“人”——这一至启蒙运动以来所积攒的灰尘所覆盖。“人,是一种晚近的发明。”人类中心主义,人文科学,不过是被修饰在现代性梦境中的神话,一个游走于后现代语境下的幽灵,力图以话语组成的泡沫填充“主体的匮乏”,妄图以一种大他者的姿态来制造某种“不可动摇”的空间。对于人类中心主义的颠覆,恰恰不是对“人类的否定”,而是对“人”的“怯魅”,不是“反”,而是“返回”,是书写,是生成,是去发现在“人”的遮蔽下“播撒”的符号游戏。
至于《无罪》,押井守想要表达的是在现代性/后现代性困境下,我们将要如何生存——我们不得不通过人偶、婴儿、狗等等“镜子”去填补身体性的缺失(关于这个,你可以去B站看<押井守与铃木敏夫对谈>)。当然,“作品完成,作者已死。”“抬头而读”未尝不可。
#3 - 2018-11-17 14:19
我要说的就是所谓外部视角是不可能存在的。人所使用的语言本身就是人类中心的,你没有人类之外的语言可以叙述“人类之外”。

当一个机器遇到不可能的逻辑状况的时候,它会做什么?如果它自爆了,也就不存在了;如果它因此而产生了一系列未定义的行为,这正是主体的诞生。主体来自于不可能的虚无。
#4 - 2018-11-17 15:27
(Inconsistency is intoxicating)
你们又要开始聊自由意志是什么东西了,对不对(bgm38)
语言是存在的家园。人以语言的方式拥有世界,不仅仅是工具,而就是存在本身。一开始是我们创造了语言,后来是语言塑造了我们。——海德格尔
某种意义上,我也认同海德格尔对自由意识起源于语言的描述
#4-1 - 2018-11-17 17:19
意识起源于语言,但是自由起源于无意识。
#4-2 - 2019-2-6 16:40
///////////////////////// ...
说: 意识起源于语言,但是自由起源于无意识。
“自由”起源于《君主论》。
#5 - 2018-11-17 16:03
(必须保卫战争)
问题不在于谁有罪,而是谁拯救。涂尔干给出的传统向现代的转变之一,就是由惩罚性司法转向修复性司法,这里出现的是一种基督教结构:人们预设了原罪不是为了让上帝降下火来烧,而是要为自己的最终拯救选出一个主保。人类自身的不完备性可以说是一种原初状态,强行将其定义为伦理上的“罪”,便是要选出一人为此负责、施与拯救。因此,线性历史的前头是一个必然可达致的目标,这个与人类“不完美”相对的“完美”、与人类“前现代”相对的“现代”(modern),就是由上帝收束的结果。

与现代相对的“现代性”(modernity)则是在否定这种基督教式的结构的存在,一个缺失了上帝的世界所有线头都失去了指向,破碎成了各种平行的世界。基督教的“唯一真实”失败之后,就出现了鲍德里亚的“拟像真实”,任何一个碎片都不敢宣示它对其他平面的优越性。人类在不同平面上的游牧被定义为了自然状态,这便是“无罪”。“罪”与“无罪”不是说世界实然如何,而是应然如何。这又涉及到了福柯的生命政治,一个现代国家的权力不仅来自于“使其死”,也来自于“使其生”,即对一个生命应然如何提供指导。国家作为公民生活的天然指导者,实际上预设了公民的原初生活是有“罪”的,只有这种“罪”才能为宏大设计下的社会计划、社会工程所宣示的“最终拯救”赋予合理性。一种偶的状态预示了一种人的状态,即进化理论下出现的各种社会路径是否可信?素子真的代表一种“进化”吗?谁又有资格充当指导者?gynoid的问题其实一样,最后就是它需不需要被“拯救”。

所以说,鸭颈兽的文本根源还是在天使之卵中,即如何描述一艘已经倾覆了的“方舟”。
#5-1 - 2018-11-17 18:26
smileandyxu
这很奇怪。如果说人类社会的上帝已经死去、不存在了,因而不存在一个完善的世界去实现,这我可以理解。但gynoid的上帝显然还活着,虽然是复数形式,也就意味着可能多种甚至是相互矛盾的“完善”存在。然而一旦选定了设计方向,“完善”也就存在,罪和拯救也就都存在。况且尽管具体的设计可能不同,总还是存在一些基本的原则,比如“不能伤人”等等。如果出现了这种设计,那么设计者本身就违背了更大的原则。因而如果要沿着“缺乏上帝、缺乏完善”的思路达到gynoid无罪的结论,除非质疑基本的设计原则的合法性。但这看上去有些……不知道怎么形容。要做类比的话就是有人写了一个满是bug的程序,然后辩护说这些其实是feature。虽然确实没有人有资格限制写出这种程序的自由,到底是bug还是feature有时候也的确有商讨的余地,但大家显然会倾向于觉得这是玩笑,或是写bug的人很没意思。何况本来预期的也并不是宏大的“完美完善”,而只是微观上的“补丁修正”。这样一来拯救是否需要预设完善,答案似乎也不那么好说。不知道我理解上出没出问题。
#5-2 - 2018-11-17 20:58
秘则为花
smileandyxu 说: 这很奇怪。如果说人类社会的上帝已经死去、不存在了,因而不存在一个完善的世界去实现,这我可以理解。但gynoid的上帝显然还活着,虽然是复数形式,也就意味着可能多种甚至是相互矛盾的“完善”存在。然而一旦...
这恰恰是鸭颈兽的不同之处。如果说银翼杀手中的人类,比如taylor、wallace,是自信的、强大的,带有进步主义色彩,自诩为“天父”(father),把replicant视为受造物,那么攻壳中的人类就是不自信的、虚弱的,带有失败主义色彩,像巴特每天就苦着个脸。所以说,在银翼杀手中不言自明的东西,恰恰是攻壳中需要质疑的。在gynoid的身体中安放一个人的灵魂,究竟对应了基督教中一个什么样的隐喻?而这种“降临”的结果又是如何?当然,我不会说鸭颈兽得出了“无罪”的结论,因为“无罪”本身就是他出发的前提。我只是提醒在这个问题上向来存在两种不同的信念。

bug的类比是有效的,但不是你这么用的,分析的层次不对。资本主义社会突出的阶级化/层化现象,在马克思那里是bug,在涂尔干眼中是feature,你告诉我谁在开玩笑。这个时候,我们就可以拿出康德的二律背反:人的认知是有极限的,对超出自我认知能力的探索必然导致二律背反。一种直觉式的思考并不能告诉我们bug和feature究竟是什么,因此在康德伦理体系的终点也屹立着一位上帝。你或许能够在一些简单事物上定义bug和feature,但你面对gynoid这种复杂造物时也有这种自信吗?所谓的机器人三定律中的“不可杀人”,又是谁给了你自信来下达这种绝对律令。如果现在有一种技术可以清除人们的杀人冲动,那么这项技术应当被使用吗?这种冲动又有“罪”吗?你看,我们就又回到“无罪”的问题上了。
#5-3 - 2018-11-18 10:57
smileandyxu
秘则为花 说: 这恰恰是鸭颈兽的不同之处。如果说银翼杀手中的人类,比如taylor、wallace,是自信的、强大的,带有进步主义色彩,自诩为“天父”(father),把replicant视为受造物,那么攻壳中的人类...
相当于只剩下失望,即使耶稣真的复临也是不足以施与拯救?即使预言的XX主义高级阶段真的被声称到来也并没有什么本质改变?这好黑啊。

这么看来还是思路不一样。我从设计方面谈的一直还是具体的问题,并没有到一个普遍的抽象的结论上。普遍的绝对律令当然是不容易得出的,除非强力作出决定。但针对具体问题的时候,谁比谁“更”能解决问题是相对容易回答的。总体的阶级化是不是个bug这有争论,但相对于“人们没饭吃”,“人们有饭吃”更好,这一点一般是普遍赞同的。至于实现“让更多人吃上饭”的过程中会不会带来其它的问题这没法预料,也就超出了这个具体的问题。律令自身包含什么矛盾,这个通过逻辑推演自然是有一个说法的。阿西莫夫自己也找过三定律的问题。但这些纯粹概念上的推演和实际上的工程实现还是有很大距离的。有些矛盾可能实际上并不会发生,有些矛盾可能无法提前预料。我的思路可能更偏向于工程实现,对押井守来说肯定是偏题了,算是误读吧。
#5-4 - 2018-11-18 18:03
秘则为花
smileandyxu 说: 相当于只剩下失望,即使耶稣真的复临也是不足以施与拯救?即使预言的XX主义高级阶段真的被声称到来也并没有什么本质改变?这好黑啊。

这么看来还是思路不一样。我从设计方面谈的一直还是具体的问题,并没有到一...
学运一代的思考平面和我们不一样,鸭颈兽这人可以说是妥妥的学运叛徒了。
#5-5 - 2019-4-22 22:06
奥伏赫变
秘则为花 说: 学运一代的思考平面和我们不一样,鸭颈兽这人可以说是妥妥的学运叛徒了。
在这个网站看到脸熟的知乎人真是神奇(
#6 - 2023-11-22 15:43
(你不觉得网络和梦境很像吗?)
好评

关联条目