我看书斋

爱的问题（第1页）

当凶案的消息传遍世界，多数人都忘了爱的问题。

出事的是林安，一个被镁光灯放大了的名字。他就像是人工智能行业的托马斯·爱迪生，曾经在无数全息小报上被编纂事迹。他把自己活成了一个隐喻，活成了一个魔法师的形象，他是那么的不苟言笑，就好像他自己是一个人工智能，手下的作品倒像是人。他脸上的肌肉有一种许久不用的退化感。对于市场盛传的林安用自己的生命注入人工智能的流言蜚语，他也不在意，似乎充耳不闻。这种埋首研究、不问世事的傲慢作风让他的对手既嗤笑又妒恨，但又无法阻挡林安的德尔斐公司市值不断飙升。

林安曾经是人工智能的代言人、伟大的设计者、德尔斐公司首席智能工程师，因此，当他家的人工智能超级管家陈达出现在命案现场，所有人都倒吸了一口凉气。这就好像是某种农夫与蛇的隐喻。

林安在自己的家中遇刺，成了植物人。

青城

法官青城对于公开开庭审理颇为踌躇。他还没有想清楚该如何面对公众。

这个案件发展到现在，公众对案件的兴趣已经远远超出了案情范围的内容。青城每天浏览和收听所有与案子有关的社会反应，包括媒体上的，也包括社交网络上的。事件发生一个月之后，讨论不但没有偃旗息鼓，反而有愈演愈烈之势。

这是所谓的人机共处时代以来第一次爆发出“AI是犯罪嫌疑人”的伤人事件，在社会上引起的关注和争论如暴风雨前的海浪，层层呼啸叠加。青城能理解民众的焦虑，他每天避免外出。记者一直在法院门口采访问询，稍有所得就四处传播，一时间流言四起。

青城能观察到的，在民众中间，首先爆发的是一股恐慌的声浪。这是保守声音的复辟。社会中的保守势力一直以来都对人工智能颇有非议，总是担忧会出现人类被人工智能奴役或屠杀的前景，一直试图呼吁立法禁止人工智能研究和应用。在最近几年的进步趋势中，这种声音很长一段时间内被压制下去，但此时借林家的伤人案件又迅速爆发出来。有保守人士在网上呼吁联名签名，又一次勾勒出某种类似于弗兰肯斯坦的昏暗的人类未来前景，要求销毁这类“高智商危险机器”，并在未来限制所有人形人工智能的研发。一时间应者如云，老一辈纷纷发声。其中有多少是利益相关方的浑水摸鱼，青城也无法估量。

德尔斐公司毫无疑问对此强烈反对。青城曾在私下问过他们，是担心公司的科研前景，还是真心相信不会是陈达所为。这两种态度会导向两种不同的抗辩方式，也会有不同的法庭方案。德尔斐公司给出后一种态度。他们不相信陈达对人有恶意。他们在一片谴责声中独自抗争，呼吁调查和澄清真相。他们表明说，他们研制的人工智能无条件遵照机器人三定律，不会主动伤人、杀人，只会保护人类安全。这次事件一定是存在误解，如果因为一次尚不明了的事故就禁止研发、轻率销毁所有成果，对人类来说得不偿失。德尔斐公司的据理力争自然引起AI开发行业的一片共鸣，有不少工程师都表达了同样的看法。

事件的讨论升温，涉及人工智能的法律权利和人格权利，进而涉及对人工智能行为动机的判断，这里面多少都掺杂了某些主观臆测的成分，也有很多私人利益掺入，不一而足。人们几乎已经开始为了陈达未来应该判定的刑罚类型而大肆争吵。

令青城有点意外的是，第一个推波助澜的，竟然并非德尔斐公司一贯的最大竞争对手斯兰公司，而是德尔斐一直的战略合作伙伴庞德洛蒂公司。德尔斐公司专长是制造算法和整体调试，它最紧密的合作伙伴就是制造AI身体部件的庞德洛蒂公司。庞德洛蒂公司几乎是在新闻刚开始传播的水花上就站出来，声明自己和德尔斐公司的合作伙伴关系近一年已结束，理由是当初就认为德尔斐公司的算法有潜在风险。想想也自然，生意场上哪有永恒的伙伴，要紧的是不让此次危机事件连累到自己。

接下来，就是意料之中的波澜。“AI伦理控制协会”组织了三场大规模集会示威，一次是在网络上，两次是在现实中。“AI伦理控制协会”一向在社会边缘活跃，不时发一些言论，虽然无法与家用人工智能商业化抗衡，但由一两个明星人物做代言，也时常吸引追随者。这样一个千载难逢的好机会，他们自然不会放过表现的可能性。他们比一般民众高一个层次，从自我意识生成的角度论述人工智能反叛人类的必然性。

最后才是斯兰公司的爆料，作为事件发酵的重磅一击。斯兰公司声称，作为开发之父，林安自己都不再相信其公司产品的可靠性，近几年一直研究全脑仿真。他们当然绝不肯承认人工智能技术整体有问题，但他们言之凿凿地表明德尔斐公司的产品有问题。证据就是林安近几年低调匿名发表的一些有关人脑仿真的文章，其中有明显的忧虑成分。

就在所有舆论和公众关注焦点集中于如何给人工智能定罪的时候，事件突然有了一次360度的大转折：德尔斐公司发起反击，他们抢先提起诉讼，在检方有足够证据起诉陈达之前，就起诉林家的儿子林山水实施了对父亲的谋杀。

按照法庭程序，案件被受理，德尔斐公司起诉林山水。

陈达

陈达仍然记得，当林草木第一次问他有关自杀的问题时，他心里涌现的迷惑感觉。

他极少出现这种情况。对陈达来说，事物只有可解答、不可解答、部分解答等状态，还从来没有一个问题在他头脑中呈现不出解答。他从人类的词语库中选择了“迷惑”这个词。那一瞬间，他知道他自己已经从人类身上又学到了东西。只有自己的学习功能又得到升级，才有可能出现这种从前不存在的内部冲突。

那是一个寻常的下午，他像往常一样，检查了家中所有电器的工作状态，对房间门口的擦鞋机提出了警示和程序更新之后，按时上楼，准备辅导林草木的升学测试。草木今年18岁，还有两个月就要进行升学测试了。她显示出焦虑状态，皮质醇增高、肾上腺素不稳定、失眠、重复性默念无意义的字词片段，压力检验结果升高了两级。陈达后台给出的诊疗建议首先是用药物控制激素水平，然后再进行内容辅导。陈达暂时搁置了这个建议，准备与草木进行一两次谈话后再进行决策。

那天下午阳光很好，从窗帘一侧能看见刺眼的光源。光斑打在草木脸上，陈达提醒草木转开脸，但草木显得心不在焉。她整个人在光线里轻轻摇晃，脸上的肌肉没有丝毫运动。

“陈达，你告诉我，”草木说，“哪一种自杀的方法痛苦比较小？”

陈达在那一瞬间产生了后来被他称为“迷惑”的短暂的空白感。他的程序没有回答。他不清楚是因为“痛苦”这个词没有答案，还是对“自杀”问题产生了报错。

https://www.cwzww.com https://www.du8.org https://www.shuhuangxs.com