第4节
“发送对象？不是发给全世界的吗？” “翻译系统怎么会给用户设计这种功能？朱越当然是发给一个人的。是万国宝本身……不知怎么转发给了全世界。发送对象叫肯尼斯·麦基，是个天文学家，住在苏格兰。麦基写过一本书叫《摇篮时代》，里面有整整一章都在讨论奇点问题。朱越是这本书的中文翻译。” 听到新名字，腾讯和百方的人都条件反射般拿起手机，眼巴巴看着张翰。见他没有反对之意，大家都用保密通道把名字发给自家人。 石松很惊讶：“这家伙自己就是翻译，也能念白字？” “这个词大多数人都以为ji是正确读法。实际上qi才是对的。朱越呢，听他的通信历史，大概也以为该读ji，这次偏偏念错了。不，念对了。——我们搞语言学的就是蛋疼，拗不过大家约定俗成。”王招弟终于露出一丝笑容。 王老师如此勇于自嘲，几个年轻人都打起哈哈，都说很遗憾当时不在线。不知道自己会加入“七点钟守望”，还是出去随便找个起点夜跑，延年益寿？ 张翰却笑不出来。百方凭借搜索引擎的大数据，已经把朱越里里外外翻了个遍。腾讯不用说，掌握他大量通信和消费数据。万国宝上线以来横扫跨国通信市场，应用远远超出了网购平台。甚至在中国内部也开始蚕食腾讯的保留地，粤语区和吴语区对外聊天流量暴涨。现在王老师还能“听他的通信历史”？ 王招弟瞥见他的脸色，赶紧收住： “万国宝的问题非常严重。无缘无故中断，又无缘无故恢复。全球广播发送，完全打穿了系统权限。这些图老师最清楚，等会儿他跟你们讲。对我来说，有一件事更可怕——就是四个翻译版本的问题。你们都用过万国宝，它什么时候表现会这么差？朱越的账号积累了大量过往信息和个人语言特征数据，包括发音、词汇、偏好、语法习惯和语言思路。万国宝的一大长处，就是利用这些信息形成个人模型，校正后续的翻译。哪怕他念白字、带口音，也绝不应该翻错！更不可能错成四个版本！从前朱越和麦基的语音对话中两种念法都有，万国宝一次也没翻错。” “那现在呢？” “广播之后，万国宝再没有犯过错误。这个话题就在它自身平台上已经讨论疯了。不仅是那九亿，陆续上线参加讨论的用户超过三十五亿。大家无限转发、无限翻译。国外那6%和国内一些用户也在讨论正确的意思。在这些讨论中，不管从什么语言到什么语言，只要意思是singularity的，万国宝全部准确翻译。” 张翰道：“也就是说，万国宝恢复工作、犯这些低级错误、把正确和错误的翻译混在一起越权广播，全都是同一瞬间的事？就是朱越向麦基发消息那一瞬间？” “可以这么说。还有，用户分布是完全随机的。我们统计了接收每种版本的用户，没找到任何共同特征。收到正确翻译的用户，平均教育程度并不是更高，对信息技术也不是更有兴趣。绝大多数根本摸不着头脑。大家越讨论，‘七点钟守望’就越占上风。” “那么我们能不能认为，是朱越触发了这一系列问题？” “十三分钟之前万国宝停工应该不是因为他。那时他还没上线，在打游戏。至于恢复……” 王招弟一直对答如流，到这里迟疑了。她看看搭档。 图海川仍在听录音，手中翻阅着张翰早先发过去的简报，眼神越来越空。大家都耐心等待。 他终于取下戴着半边的耳机。 “是不是朱越触发的？为什么三个事件他都有份？我还没完全想通。眼下，这些也不算重要。重要的是：他说对了吗？” 第3章 辩经会 一屋子人全瞪着图海川。 “信安部的简报和万国宝的数据，这两天我看了很多遍。然后把那本书也找来看了，《摇篮时代》。书写得啰里啰嗦，东拉西扯，怪不得中国只印了一千本，到现在还没卖完。在国外也没什么名气。但是作者比我绝大多数同行脑子更清楚，说不定比我都强。文笔太烂而已。朱越做他的翻译，肯定被迫看懂了。到今天上午为止，我是三分相信，七分怀疑。刚才听了你们两边的报告，三七开倒过来了。” 张翰基本没听懂他想说什么。只觉得屏幕上的中年男子突然换了一个人，扬起下巴，眼中锋芒闪现。 “奇点首先是数学概念。曲线上那个你再也不能求导、找不到后续方向的点。然后是物理概念，那个一切物理规律到此失效的点。小刘，你们那个游戏是不是先慢慢变得奇怪，最后几个小时急剧失控，最后几分钟完全不可理解？” “没错！开始它只是偷偷挂上场外货币兑换，后来用了两三天时间和真正的金融市场并轨。跟实时交易倒挂、搞垮阿根廷，只是最后两小时的事。下线之前最后一分钟，那个服务器完全疯了！任何一台终端只要连了它，系统就被它完全控制，界面全是实时制作的动画！那一分钟内它根本不是我们的，却霸占了我们全部在线资源。这还不够，国内各大算力群早就把我们踢出来了，它又强行连回去！好像大家的网关、路由、防火墙、权限系统、云资源策略全是假的！只要有物理网络，它想去哪里就去哪里，想要什么伸手就拿！” 图海川点头：“看起来像指数曲线吧？但最后一分钟不是。最后一分钟，你已经不知道它是什么东西、会干什么、该怎么应对了。这就是技术奇点的定义。‘奇点之前的一小段时间，机器智能将以指数曲线膨胀，人类毫无控制之力；奇点之后，一切人类规则将被抛弃。’ 弗诺·文奇，1993年。” 他隔着屏幕指向石松，如同在大教室中讲课：“石松，假设百方和电信的高手组个团队，把所有协议和漏洞搞得清清楚楚，预先准备好所有软件硬件，预先知道那个红绿灯会在什么时候出故障。要多少人，才能在6秒钟内攻下自己公司的自动驾驶系统，保住朱越的命？” “多少人都不行。现场只有一个热点设备有漏洞，下载带宽有限。光是根据车辆位置的轻重缓急预判先攻哪台车，都不可能实时计算。更别说是突发事件……” “听听麦基怎么说的：‘最先是科幻作家，然后是科学家，最后是工程师。到二十一世纪初，每一个真正理解技术的头脑向未来推演、外延时，都会看见一堵墙。墙后面是无尽的黑洞，他的智力永远不可能理解、不可能想象。但我们的绝望并没有妨碍科技发展。这堵墙越来越近，逼近速度越来越快。基础科学停滞之时，就由信息技术的扩张接力推动。奇点的实质就是超级智能。‘超级’意味着超越人类，而人类不可避免会撞上它。’《摇篮时代》，2037年。我说他啰嗦吧。” 每个听众都竖起耳朵，死死盯着屏幕。连王招弟都转身看着他。 “我没想通的是我们自己这个智能。它呆了一阵之后越权广播，很强烈，很主动，真像是什么东西醒来了。那十几分钟不干活的时候，它也抢夺了很多公共计算资源，就像腾讯那个游戏。但是那两句翻译，非但不是超人类的智能，连个小孩子都不如。” “应该说，就像小孩子刚开始学外语。听见一句就胡乱猜测，还要说给所有人听。奇怪的是这小孩母语就是汉语，以前还精通几百种语言。学习过程重新开始？”王招弟在一旁自言自语补充，远没有图海川那么自信。 杭州那边两位老师的思路就像太空漫步。张翰终于忍不住：“奇点是什么东西，我还没太明白。但您是不是说，奇点就要到了？” “不是我说的，朱越先说的。我只是越发觉得他说得对。原先我想不通三个事件之间的矛盾。听了那个红绿灯的情况，我认为这不是一个单纯的救援行为。也许是测试。也许美国人猜对了一半，这是火力演习。也许有好几个智能在闹着玩呢！谁知道呢？奇点之后人类理解无能！麦基在第八章说过，超级智能最有可能实现的方式，是普通人工智能之间的联网互动。原则上我完全赞同！文奇还说过，奇点到来之迅猛，所有当事人都会措手不及。所以也有可能已经到了，我们还不知道。也许我们正在亲身经历文明史上最伟大的时刻，比工业革命更伟大。工业革命刚开始时的欧洲人，在城里开蒸汽机织布的，在乡下被羊抢了土地的，在煤矿里面虐待童工的，肯定不知道他们经历了伟大的工业革命。他们那个太慢。我们这个革命，可能下星期就爆炸了，这世界我们就认不出来了。啊！我又想通了一点。为什么都跟朱越有关？因为他说得对啊！他去玩那个游戏可能纯属偶然，但是玩着玩着突然开悟。万国宝听见他说得对，就无限重复，表示它也同意！然后给他血条 1。真像打游戏，哈哈！” 满屋子人都被图海川催眠了，眼巴巴看着一颗巨大的脑袋跳跃喷涌，尽情撒欢。 全场智力休克中，张翰的脑子慢慢松动。他仔细打量图海川，脖子后面短发一根根立了起来。 24年前，他儿子出生后半分钟没吱声。医生几个巴掌扇上去，皱巴巴的小东西终于哇哇爆哭起来。那一刻张翰望向筋疲力尽的老婆。他永远记得她的笑容，和屏幕上的图海川一模一样。 ※※※ 大家陆续解冻之后，图海川恢复了先前那副蔫样。 他再三声明这只是一家之言，自己也没把握，最多二八开。还请张翰现阶段千万别上报领导，以免引起恐慌。 然而其他人真被吓到了。刘馨予在手机上取消回程机票。小顾眼睛发直，周克渊立即过去跟她窃窃私语，视双方老板为无物。张翰对他的印象越发深刻：只有真正的强者，才有闲心在天塌下来之前再骗一炮。 “真没想到，原来图老师也是科幻小说粉丝。” 忙乱的会议室立刻安静下来，所有人都看着石松。话本身没什么，然而他那调调再明白不过。 图海川答道：“既然都是粉丝，你应该知道文奇写那篇文章时，身份是数学家和计算机学家。麦基写的更不是小说。这二位之外还有很多人，你不会认为冯·诺依曼也在编故事吧？” “我不是说他们没资格。是说你们这种方法有问题。” “讲方法，我喜欢。” 图海川拨动镜头对准石松，自己规规矩矩坐好。全栈在哥们儿背后狠狠捅他几下，见其他人都坐下观战，也只能坐下。 “我做自动驾驶之前是做智能交易的。做了三年，最大的收获就一点：无论k线走成什么鸟样，我们总能找到完美的曲线、完美的理论解释它。完美到当天为止。要想预测明年、下个月、甚至明天的走势如何，这些曲线和理论没什么用。等到下个月的k线出来，我的曲线还能跟上，每一种走法我都能发展出新的理论来解释。仍然完美，仍然没用。这个不能怪我们水平低，全世界做这个的都一样，否则早就把天下的钱抢光了。图老师您解释一下为什么？” 众人相顾失色，图海川却老实答道：“因为证券金融市场是个非线性复杂系统，多方博弈，因素太多，还会有玩家不守规则。现有的数学工具和概率学ai解决不了这种问题。” “没错。那么全球技术发展比交易系统还要复杂亿万倍，文奇和麦基凭什么根据历史曲线简单外推？” 杭州那边竟然久久没有回音。 “奇点理论我也是一路看过来的。九十年前就说三十年后，三十年前还说三十年后。冯o诺依曼这么瞎说，我倒是理解他。计算机架构挂着他的大名，又是宇航先驱，他的时代两个领域都在井喷。换了是我，也一定牛出幻觉。今天来看，凡是预言指数发展的，统统错得离谱，更别说‘奇点’。在每个单独的领域都错，更别说整体。现在离冯大人快一百年了，系外航行在哪里？去火星摔个登陆舱都能吹成世纪之旅！核聚变发电永远是五十年后。二月份我看等离子所报告cfetr等离子所：即安徽合肥的中科院等离子物理研究所。cfetr是“中国聚变工程实验堆”，等离子所的核聚变前沿项目，于2017年启动。的新突破，又说还要四十年。好像学乖了点哦，至少这辈子有盼头了！” 图海川摇着头：“宇航和核聚变都有物理定律压制，不能跟信息技术相提并论。火箭发动机搞了这么多年，一直被牛顿定律压得死死的。抬头再一看光速限制，腿都吓软了，舍不得再烧钱。这几年另有需求，不是又发展得挺快么。核聚变……这个我不懂，应该也有吧。” “信息技术难道没有物理压制？摩尔定律摩尔定律：英特尔创始人之一戈登·摩尔提出的集成电路发展规律。原始表述为：集成电路上可容纳的晶体管数目，约每隔两年会增加一倍。摩尔定律在2010年后速度开始放缓。随着半导体制程发展到10纳米以下，接近原子距离，摩尔定律遇到了明显瓶颈。失效快三十年了。” “那只是硬件。现在我们缺的不是硬件……” “对啊！就说ai技术，别人不明觉厉，我们搞这个的还不知道怎么回事吗？机器的智能都是人的智能堆出来的，用机器打包而已。现在限制ai发展的是人力，缺的是脑袋。您这样的脑袋一百亿人也出不了一个，ai能有今天的发展，主要靠一堆我这种人九九六。” 除了周克渊，在座的年轻人齐声赞同。石松更加意气风发： “我福报已满，一小时也不能再加了。比我身体好的，也不可能指数增加工作时间。如今人口在减少，教育也是快乐教育。所以我看不出有任何理由，技术会指数增长。现在全世界技术和经济停滞是公认事实，ai已经是例外。真正让我服气的ai只有两个：头一个当然是万国宝，还有一个谷歌透镜。这两个分别解决语言和知识问题，要让我评价，比蒸汽机更伟大。问题是我说了不算。两个都上线几年了，按指数时间比整个十九世纪还长，照理说应该带动所有人进步、所有领域一起发展啊？但我还是看不到。只看见人类越来越蠢！” 王招弟挑起眉头，终究没有出声。图海川欲言又止，脸色阴晴不定。众人正在担心两位偶像面子挂不住，就听见图海川说：“你说得也有道理。那就一九开吧，不能再少了。” 石松一时气结：这种事也能还个价？ 旁人都哈哈笑起来。张翰也如释重负，觉得还是土老肥版本的图海川更可爱。 屏幕上，图海川用指甲尖敲着眼镜片，正对瞳孔，叮叮声这边都能听见。 “这是张总的案情会，我们就不扯远了。你在成都，也亲身到过现场，怎么解释这些事件？” 石松想了一阵才开口：“后面两个事件真不懂。包括我们自己那个，知道得越多越奇怪。白大褂倒是有点想法。开始我吓了一跳，还以为真有谁能计算股市了。仔细看才发现不是那么回事，它只是用场外灰色资金把虚拟和真实股市连接起来——这个也够厉害的。最后的倒挂真不奇怪：以前我们做交易智能的时候，就发现绝大多数人虚拟炒股比真金白银炒得好。白大褂那个兑换率很妙，恰好让玩家有点刺激，但又不是什么大钱。双方同场竞技那段时间，白大褂比正牌市场运行更理性，袭击阿根廷获利更有效率。所以真的向假的靠拢。我敢说，如果真让玩家大量套现，白大褂马上就不会玩了。” “为什么呢？” “现实中的交易者都被情绪支配。在我们的模型中这是基本概念，叫贪婪周期和恐惧周期。职业交易员也逃不过，周期比其他人快一步而已。” 杭州那边两位老师相视而笑，似乎听得很对胃口。图海川问：“那朱越又是怎么回事？” “朱越是个停滞的典型。他只翻译过这么一本书，外行懂了点皮毛，然后就被你们搞失业了。白大褂出事的时候他看懂了一点：这是ai行为。然后他就掉进麦基的脑洞。手里只有一个锤子，看什么都是钉子，随口瞎蒙！我承认这几件事肯定有ai卷入。就像你说的，他在场很可能只是巧合。等问过他就知道了。” 图海川叹道：“你很不错！有想法。但是也带了情绪。文奇还说过：奇点是人类最后一项重大发明。奇点的前兆之一就是机器智能取代绝大多数人类技能，造成大面积失业。人类的创造性工作难度不断上升，只由一小撮精英垄断，越来越稀少，直至消失。按这个趋势来看，你和朱越都是典型，处在两个极端。其实他够聪明的，头一个事件就开窍了。不该混得这么惨啊？我也想看看他。” 石松并不服气，转过脸，满怀希望看着张翰。 张翰断然摇头：“抱歉，审讯是警务，你们都不能参加。我会给你们几位开一个独立的单向旁听。已经是特事特办了。这两天我让他单独关押，隔绝一切信息，只派交警去例行公事。他还住得挺安稳的，一脸迷糊。不跟他来段二人时光，怎么知道他是废材，是天才，还是他妈一个奥斯卡影帝？” 第4章 小透明 审讯室的空气中弥漫着浓香，似火锅非火锅，鼻腔深处几乎能感觉到辣椒和牛油微粒。两大碗冒菜就白米饭，张翰默默看着朱越吃完，自己干吞馋涎。他的屁股已经重申过判决：这辈子再也休想。 朱越心满意足，把外卖盒推到一边：“多谢长官，这个比猪排饭强多了！您问吧，我一定老实交代，有什么说什么。” 张翰盯着他不说话，心生警惕。这小子没有案底。然而身在人命案中，跟“警察”打交道异常放松，还敢油嘴滑舌。 他探过身去，一巴掌扇在朱越后脑勺上。用力不大不小，没把他打离椅子，但足够懵一阵。 二号旁听室中，几个年轻人都有点不安。只有王招弟在杭州呵呵笑出声：“你们别紧张。张……张sir很有章法的。正题一句话没说，已经进入场景了！片儿警大爷收拾街坊小淘气。” 「–」 “你家是兰州的，怎么吃那么辣？” 朱越畏畏缩缩坐正，看他没有再来一巴掌的意思，才答道：“来成都十年，早就习惯了。” “西华大学的伙食开得好吗？” “食堂一般。街上什么都好吃。” “所以你一点都不想家？不想你妈？从来没回去过？第一个暑假打了五十五天游戏？” 朱越无言以对，抬起头来。对面的张警官是便衣，来头不小。显然已经查过他祖宗十八代，还有每一年、每一天的数字踪迹。恐怕连他的内裤花色都清清楚楚，淘宝交易记录永不消逝。但这算什么审讯？ 张翰安慰道：“算了，我又不是你爸。那你毕业了又为什么不工作，在成都瞎混？” “找不到工作。不是我不找。我的求职记录，十几个版本的简历，您应该都有吧。” “嗯。比较文学系。这算什么专业？听都没听说过。给我解释一下？” “就是……把各个国家各种文化的文学放到一起来看。看彼此有什么区别，各自脑子里是什么套路。” 张翰有点意外：这小子居然没有背书。 “为什么读这个？有意思吗？” “本来觉得有意思，所以选了。那时候什么都不懂。现在觉得很没意思。” “为什么？” “文学，中国的、外国的，都已经死了。比较文学就像比较尸体学。” 张翰笑道：“人笨怪刀钝！又不是没看过你成绩单，除了四门外语都一塌糊涂。要说比较尸体学，我就觉得非常有意思！昨天刚比较过一批。” 朱越又无言以对，如坐针毡。这个警官全程唠家常，仿佛自己是巨星级别的连环杀手，他准备退休后写畅销书。到底犯了多大的案子？