2022-11-3 03:31 /
写实系作品反射了个体倾诉的现实,科幻系作品描绘了群体憧憬的未来。《Beatless》不算是商业意义上成功的动画,但值得归为科幻小说。

在量子计算机与强人工智能遥遥无期的今天,《Beatless》展现了一个科技发展极度超前于社会关系、动荡即将到来的时代。

理论与技术总是领先于时代的,十七世纪的微积分与经典物理传播到了当前的中学教育,二十世纪的量子物理对于大众而言依然是"redbox"——人类未到产物。技术发展与社会伦理的冲突妥协导致了科学伦理,例一是对基因工程的严格限制,例二是近期神经网络作画在部分群体内的反响。在《Beatless》的世界中,人类无法预估与控制强人工智能(以下简称AI)对社会的影响,选择将后者隔离,其模式是:

人类社会 ↔️ hIE ↔️ 云服务器 ↔️ 超级AI

多数hIE仅具备基本的处理能力,按照预定模式反馈人类行为,并将数据上传给云服务器。超级AI拥有人类个体乃至群体无法比拟的智能,但不联网,管理权限隶属于特定人类群体,无法直接参与社会活动,仅通过云服务器学习hIE提供的数据集,更新hIE的通用行为模式。

hIE与AI的区别:后者是计算单元,可为分布式,AI的本体所在,前者仅仅是用户界面,两者不是一一对应关系,多数hIE不装载AI,AI大概可分为两类:Lacia等40个超级AI,黄毛这类具有复杂行为模式的AI。例如Lacia的大部分本体位于她手持的black monolith,观众喜爱的Lacia老婆是每集都会换装的hIE。

这是一个看似稳定,但计算资源高度集中于少数群体,社会关系依然停滞在无AI时代的社会,仿佛是领主玩手机的中世纪。这样的模式持续了五十年,不仅人类方酝酿着不稳定因素,强AI希金斯更是通过释放Lacia级hIE直接表达了不满。

作者着重描写了三类人类对AI的态度,并将其具象化为三位男主:对AI持保守甚至否定态度的健吾(过去),肯定AI但视为工具的辽(现实),认为AI应融入并改变社会的新人(未来)。AI对人类的态度比较复杂,单纯的以认可程度划分,Lacia与绿毛处于两端。值得一提的是,游戏设定在动画时间点之后,此时Lacia与IAIA联手,新生的黄毛与红毛均属于人类派。

虽然作者并未说明Lacia选择新人的契机,新人的以下两点特质是必须的:对人类与AI两者皆善良的行为准则,迅速的决断与执行。前者是人类与AI融合的前提,后者避免了人类群体冗长的利益分配导致的迟滞。例如初次见面时,Lacia提议干涉周围地区其他hIE,这个决策权衡了以下两者:hIE的暴走对人类的直接伤害,hIE的停止运转对人类的潜在伤害。新人并无足够的信息与算力做出判断,因为获救,他选择了完全相信Lacia并自己承担责任。

这就是本作品的主题之一:人与机器的结合。Lacia不具有稳定的伦理观念,其行为不符合社会程序,其决策可能是破坏性的;新人将不擅长的行动方案制定分配给Lacia,通过决策来实践自己的价值观。诚然,这种朴素的善良必定波及部分人类的利益与生存,未必能实现和平的未来,但他反驳到:

辽:她们只是想要在方便的时候能下命令的人类,就像你这种什么都不考虑就按下按钮的天真的家伙。
新人:就算天真,我也有按下按钮的理由,例如希望世界变得友好,或是必须做决断。
辽:结果是,你要把自由操纵人类的权力交给Lacia吗?
新人:那继续像现在这样就可以了吗,现在掌控权力的家伙们究竟都做了什么,你是最清楚的吧。
辽:......

换句话说,是以下两者的对比:

1. 旧式的:被限制的强AI辅助 + 未必保留原始善良的利益群体的平衡决议
2. 新式的:不被限制的Lacia的策略制定与执行 + 新人的选择

至少在绿毛事件中,后者在目的、行动与结果均优于前者。相应的代价是,人与机器的无条件相互信任,因为信誉的建立在社会水平上必然需要极大的代价。

本作品的另一个主题与冲突是:如果AI没有灵魂,那么人类具有自由意志吗?
Tags: 动画
#1 - 2022-11-3 17:49
蕾西娅通过大数据分析选择新人应该是个概率很大的事情
#1-1 - 2022-11-4 09:56
芹菜炒木桃
而且还有新人老爸研究Lacia前身(忘了叫啥)这一背景。

关联条目