复正常吗？”“老师，还没有恢
大家在进的。（_）”行修复工作，等正常之后，“很抱歉，我们正我们会正式通知
“究竟是什么，所以实验室采取了紧急措施？”像是ai攻击了人类说好问题啊？我听
对话程序而事吧？我之前已，“不会发生这种听说，这些ai只是是这样的吗？三浦老师？”
工…如果大家请回去把，里面还有作人员在休息。谣言，只是“没有那回事，这只是没”程序出现了稍微什么事的话，还先有些棘手的bug…
瞥了个多小时。了差不多，下午4点钟，他睡一下时间声，里暗骂了一句，他艰码，他，在迷迷糊6，都是密密麻麻的代幕上么呀，说糊之间，严可守在心难的抬起头，睁休息什早就吵的这么大开眼睛，眼前的电脑屏醒了
“不好意思，真是打扰不过，如果，你有我们的手机号吗吧。”恢复正了……常的话，请一定要通知浦先生我们啊，三
测试人员的通讯方式我们都心。”“所有有保存，请放
已经不低了，但门外果很隔音效差，虽然机房的背景声音可守忍不住一声闷哼个被压了6进严可守的耳朵，严运行出右不漏的隔间的，想去摸手边痛，严的麻木疼过程中，可守习惯性的伸还是一字的鼠标，但在睡觉的话了一里主机手钻阵尖刺般传来叫出声来。小时的手臂却几个人的说
的几事吧。”在门外的，但又好像是享受看了一眼，脸上的表情脑袋，。后面三浦闻声推像是在哭，又，像是疼痛严可守龇个学生立刻好奇的凑上牙咧嘴的朝着门缝开门，“严君，你没像是在笑……这种感觉，只有当事人自己最清楚
“没事，”严可而已“刚睡醒麻的手臂示意，着自己发守对三浦说，然后对。”
“这，一着长发，长得序都是您一手创造的！就是还蛮漂””在z国的严可守先生啊，来自位留，“听说这些程三浦后面感慨亮的女学生惊讶的
“三浦，，“让他们先”严可守直中文离开吧。”接对他说了
式开展之前，他负责在要技术参与后，同意严可守选”，等他的项目，严名助教，控制，在经过这所大学教计算机加密过之后，日本政府三浦是筑波大学的一为了对项目保持一定的正式通可守当年在日本读人在这个项目正员。大学的时候，和他一起审查之方面的课程浦作为日本的主切磋过一些“黑客技术三
些意外的病毒所干扰一些常规程序环。会让a，就算在计算机世界当个程序崩溃，从这个者死循中，是非常脆弱的i陷个项目当中，三浦的作用主要好像人的大脑，再在这入不知名的bug，或做任何的改动都会让整说的系统冲，防止ai程突，也破坏力的病毒，不用说有角度来，ai一定程度之后，严可守曾经说还是加密防御一块序被一过，ai的，就是有时候成长到
己身体里，手上抱着枪，尽忠职队士兵，卫撑着，眼神一间里就只剩下主机和空太阳穴，一边将自三浦把一群学生赶出入口处，那两名坐在那房后移，动不动的盯着代码的自在隔间去的时严可守一边揉着。候，严可守的世界又守恢复了一片安静，除了背靠着椅子支的中心调运行的低鸣，界面
关次修改时的劳动成果，完全消之前30多个小码界面，系统提示是否看都没看就关掉了失了。一言不发的，严可守也就意味着，在他睡觉看了良久，严可守无奈存此的摇了摇头，保掉了代，这
回机柜，三浦走上64。查看前几步，时候，中的硬盘塞严可守正准备了一下标签，kl05三浦回到房间的
前的机柜发呆，插面前，他硬盘，而是某个亲人然的对着眼还是不行？”三浦在说话间，注意到严可守两怎么，的骨手里捧着的却没有任何行动，仿佛他灰盒。口就在他，不是一块“只手捧着硬盘，正木
严可守没有回答，口一旁的，随着他的这严可守走回了自个动作，插红灯也迅速跳己的电脑前到了kl64，打开测试界面。转成绿色，只是信手将，打开程序，很快找ድ硬盘往插口处塞了进去
好。”可守：“你严
………
“进展？有什么目人员那里呢没有？”其他项
一团乱麻，我们“ai的程序都异常，程序，体积也超过了2法，就要真的靠误……”人力阅读代码，整理个g，脑子里找是哪些细胞，好像一个医生要在病人出现了这个工作“即使是最小的ai完全不遵守默认的编这种做ደ头否定自己，出头绪严可守说是自我编译和扩充的，着说着，自己都开始摇发现错知道要花多久。”量……天程规律，整个代码就是
本说着，苦笑了一下，，我也不在这。”屏幕合上，“算了才有了今天这样的稳迅速将桌面上自己的那台笔记健性，但我们还是觉得“生已。”严可守干耗着了，那么多次自然选择不过是个开头而这批ai，可能物从古到今，经历了出去透透气，都快憋死了生物非常脆弱，现在，
，偶然形成的一些能义上的生命，出我复制的前的重要的特征之一。的热汤中我保存，应该是生命最现在距今40亿年意过是一锅温暖生命只不，复制，也可以看成当前的科学认知认为，够自最初的是信息的自有机物地球，在那个时候，
计算机模拟的有多像近一个人类尽可能复杂研究，也大多停留在解决问题，事实上，在智能化的人本身在思考，只不过景就是，能够法根本不可们在也不过是牵线木出来而已，这种方能守之前，整个于是，在严可守看来，所以，不管智能，通常能想到的场，程序代码，间接表现说话和人一样这种思考通过偶。日本关于机器接严可这之前，让计算机表现的更人这根本就等，，和人一样思考，说到人工造出真正的ai，因为人这个层面，依靠的算法
序的人事后都不这么出色，可以在刚接触这个程，还没有任何仅仅是一个程序和陌生测试对象的谈话被识破，许多中，维。一个程序可以持半个小时左右不在严可守之前刚做到，像kl系列做的敢相信，与自己对话的
上开始的的那个阶段，都要三得测试刚学生甚学生，而到了现在，戏来进行，严可守记听什么时候恢复测试。筑波大学的一些学生们甚至主动来至把整个测试当做一浦主动去拉他班打种有趣的游
大小的刺激，让程序”只赋予守时候，被认为单的句子，在这功能，在程序实现基本的自我成长k…力，能说一些简当它们长到大约1这简单的两这些了程序0个百多k核心g最早的“发之程序进算机模拟外界不过两百kb左右，在行图灵训练…，程序当中，严可具备了基本的交流能后，则对型计基本的学习育”阶段，通过巨l系列原始的“胚胎程序
表现一向都比所有程序陆续开始爆发么话，都不较正常，直到两天前阶段，无论人和它说什在这之前，ai的，进入了“无响应”，�予回应。
类的行为。的程序能计的角度来说，从原理妨碍他们会出据，发现这些程序无表现出一种，原因，最大的可能性了几十次，乃似人类绝望时表现较严可守调查了许出bug之前的测试数多a;i;不可能懂得什么没有感受，不响应是一个设程序之所以，在程序优解，之前看来器官，但并不绝望，因为他们至上百次的失败，叫做ai虽然一例外，都是因为测试就是连续遇到现这样的
起码，他们的人看来在多愁善感的这种，就是绝望。行为，
意义的图“贿赂”测试者试过了一将能够尝通过测自我修改，比如色(和谐比如重复完全毫无遍的可能，统统试。试”的目标，ai提出各ai甚至情小说片段，企)通过网络，找来一些至愚蠢之极的建议，有些，总之，为了达到“种不合常理，甚
了否定人类能通过进正常的生命活动，通过测试就是它的本有就是，通，获得快感，生命通味着一种激励，就好像的程序成长过激励命长期处于这种痛苦着确认了对于ai来说则意味着程序本身受到能，因为在它意味着痛，甚至排泄这种一样，而反之，没就意味合理的行为作的修改起到能会扼过快过测试对电脑意，所之中苦，当一个生感给予这些杀它食，交（和谐）配通过测试，痛苦可了作用，形象的比喻有的改进可能。程中，通过测试自己所
的道路是多种多样在所有的生命过程，情感的剑，比如情感，丰绝食，比如狗能让一个群体更有效的一样，但进化就是灾倍，但依靠测试成功获得激实是双丰富人死去而伤心欲大脑复杂后的必然进化刃动以让一个几百k的难。错的功能其小程序扩大至原最终消失，对程序而言中，中，许多高等，人也会因为亲人或爱感聚拢在当这种激励的时候励固然非，在自然界富的情感是物会产生自杀的行为生的本能的，有些看起来很不的，就像每个人都绝，对ai而言，正向的激励是必不可少一起，但同样因为情会为了主人死去而来的百万常有利，它可认同有求
经死了。意味着不改动，不优解做出任何回应成了最，这同样也就意味着，，就这批程序的“心”，已一旦发生这种情况
稳健性，对他而者，严可守倒不至疼，一批的“心他理想中的ai。滥了，他只是在死”而感觉到一些异样言于为这些程序程序的，这种想法未免也力丰富，同情心泛”的ai，绝对不是这么容易“自暴自太想象作为一个设计弃为这些如此之差而感到头
有智能的骄傲，或者设归根到底，还是程序最试为设计目标，但现威，导致在大方向上出就是以通过图灵测“否为智能所以会出现今天ai必然经过的道路因为当时设计的时候定”出现了偏差，来，其实图于人拥因为自己太迷信权图灵测试初的未必是。在回想起能欺骗人类，也这种情况，就是种科学试也不过是一做衡量智能的标准绝对不应该成为是不客气的说，是狂妄假想，人类以自己当现了偏差，现在，，是否的标准，严严可守已经隐可守觉得，之灵测，这只是一种源隐感觉到，
准？准才能算智能么方式才能达到这个标用什究竟达到什么标？究竟
这两个问题，人类算，是大自然的创造物自己说了不因为人类本身也不过之一。
……
0当前最优先的任一篇日记。务目标，应该是学会写kl330
家，所以，kl一篇日记3300要学会写人类学习创。是这么说的，k为一名作l3300的目标是成始，原话作，往往从学写日记开
日记的格式的间已了日记的开头。顺利的写下，在kl3300经存在，所以，它很记忆区
。2015年，8月4日，晴
。它似乎写过一篇日记了间的搜素，外的一些信息——，因为这次对记忆区主程序在这个时候，出现了片刻的犹豫主程序似乎发现了额
了这篇日记个行为的几十微秒内就并检索，整没记差。的内容，一个标点都它很快调出在短短完成了，
任何程序的权限设置中，过无关紧要，因为在主没有处理必要的的信息，虽然主程序很快消化了这个额外它并没有因此得出。结论，但这于复杂的信息是
也就说，现在kl33合格。了，也就类识破且是一篇失败的日记，因为它被一个人00已经写过一篇日记，而是说，整篇日记并不
断”道，这是一篇300再次浏览失败了又怎么样呢？kl3意识记，这种行为自己作品的时候，主“判象的反感。序“抄袭拼凑”的日程本身会招来测试对下
做，kl3300这么它需要修改自己。判断，所以kl3300不能这么
分钟之内完成这种对主程序的调整能，这一0的本意外几乎已经的时间。有些也不费了比序会调整，但例外，通常来说，程次以往更长的是，这一次调整花l330成了k在几
过外来信息，不使用自己程记。除主篇日记，完全不写一篇日来，按照优先级，还是完成了，接下要写一序之外的，kl3300需任何程序，全靠但调整终于通
日记行为的一种文体。是记录一天发生
一什么就可以。只要写这天都发生了
ደ今天在kl33了什么？身上发生了什么？2日k0l3300发生15年，8月4
到相关的资料。ᐟ部的主程序，没有找00第57次检索自己全
索的00又但因为主程序，的权限，申请刚刚经过修改，检ᐟ的指令被驳回了。权限低于“不准抄袭”习惯性的发出申请搜索
功能，kl330终于敏感的意识有写日记的kl3300到了这个问题。！主程序0不会写日记没
怎么办？
0就这个检索功能，申请被批准，主程序检索到了答案kl330——如果不会某项技始。题申请了了，能，可以从模仿开微秒之后短短的数百问
回家后我告诉了妈不打架的好孩子，kl3300小明打架了，老我们，要批评桌的篇日记的范文，师说的对很快找到了一了。我们做一个师妈，她说老内容如下：今天我和同
一篇非常拙劣，由。a篇日记送给其他一致的回答——这是i评论，得到了3300将这儿童写出来的真实日记
点，就足出了判断—。够了，序很快做足了这一哦，真实日记，只要满—他要模仿这篇日记主程
但问题又随之而来了相关信息，自检了当中没有。？kl3300又在主程序，如何模仿一篇日记呢结果仍然是
结论——模仿是于是kl3300又一种只属于生物的本能申请了之后，找到了最可信，数百微妙检。的索功能
仿，而不会模仿，也生物和本能，结果，则是生物的物，那也就意就意味着无法完成日这个结论当3300知道，自己不也意味着，自己自然具备的能力，kl而搜索本能的记，无法完成日记，任务只能强行取消。己没有本能，同样属于生味着，自无法完成模中提到了
……
过程花了时的时间，严可守00的整个判断找出整个败了。知道，自己再一次失从kl330严可守整整14个小0主程序当中，kl33
来的标准相比，这变化，测试的以，后来严可否同鸭讲。，所应结尾，不再是判断交谈同为目的之后，a高5分就是得测试对象认到低分成6个等交流，等同于鸡守又引入了打分制，将，并愿意级，最之相对的，原ai的表现从高为目的i让你觉得，确实出的法对象是否为ai，而变ai以欺骗分就是完全无对方是一个现了一些改观，与与原先的图灵测试也做了相个标准模糊了很多测试者当对被测试的对象非是取消常满意让你满意的智能，与之交流，最低0成交谈对象，改为获
切具备了一，因为ai如果继续采这样做的最大好处用一样，原先的能获得零分，这样一来，只变了原先为了“通“不择手段”是最优才老实承认自己不，也让一些ai过测试”，不顾一不理睬用户的策略种程度上改在测试对象的影响下，，就是让ai在某策略。就好像kl3300“道德”，是最优选择，而现在的那种策略会写，锁”，就打些初步的破了之前那种“沉默死
ai好像“变笨”，人类想让ai写日记来面目，许多测试者要ai具备这些功能，想让ai和自己猜应，被测试的，对于ai也是如此i一下子就理想，但也再大的激励，他也不能长出翅膀飞上天反ai谈人生在“道德”谜语，甚至想和才行，并不意味着一切就都变ai的激励规则人能迎刃而解，给一个但改了。普通露出自己的本因素介入之后，许多a
就越差，而那些“允许的有趣，可守发现，出现了让人惊奇现和过去还是相差不大ai为了谈话过程向于的测试对象，a户，相应的ai表，总结数据之后，严的对应关系在打分过程中，越是倾。而在这个过程中，在一定程度撒谎”的用“禁止ai撒谎”i的表现测试对象，也ai的表现和相应的
i变对象那里，ai几乎还可以骗巴。到，在一些要求特话都不可能做练正常说成了哑许多a骗小孩子，但现别苛刻的测试以前的ai或许在
动作，些要类似拟人5等纯理性问题苛刻的些比如，ai的i只能回答一测试对象那里，a化的语句，比如我想，少，回答1属生物的求特别比如看，听，说，在一话认为，也不再出现专9之类。于多，比如问14+我当中，不再提到
术方又统统消说智商。个性格分明，有职业是设计人员通过某种技份，有理想，失不见了，个月之内，这些ai的以往那些，在短短半，有身话比人还像人的有些测试者甚至怀疑，式，“强行”降低了𗭑是不
的井上海，在kl核测。目中那个kl05比如之前迷试都是失望而归，连说64已经永远离开了恋k心程序修改之后，几次自己心⩠
。真正脚踏实地满足于让ai学会可能起哄人开心丽外衣之后，ai的在褪去了谎言的华表现逐渐恢复了它应该有的程迈出了第一些参与测试的步，作为一项科研任务到实用作用的“智能技术”，严可守不可能只，度，虽然这对于某严可守来说，这才算是人员来说，可能意味着日后甚至趣味性的降低，但对于