会议室里分外安静。虽然乔源说了,他不是炫耀以往成绩,但这种战绩可查,的确让现场诸多人无话可说。毕竟除了资历之外,华夏同样崇尚唯结果论,也就是成果导向。学术领域很多时候的确是要看资历的。但当一个人的成果已经能碾压资历的时候,资历其实也没那么重要了。像乔源这样,虽然还只是个博士,但却能让一众顶级专家和教授们,老老实实坐在那里听他报告就是明证。而且他们已经开始认真思考乔源提出的问题。华夏需要什么样的AI?但没给现场众人太多思考时间,乔源便又开口了。“我之所以要提发现暗物质的过程,是因为在我们的智能体底层数学构造里,同样引入了辫结群的概念跟思想。这些数学原理构成了我们人工智能的基底。这也是我力排众议,重新设计的未来人工智能技术的发展方向。我并不是在自吹自擂,但我相信大家应该都了解,没有理论基础的人工智能再怎么发展,都很难解决当下所面临的技术困境。所以我选择迈出了这一步。两次测试结果,相信大家都已经了解过了。也许大家认为机器有了意识对于人类文明将是一个威胁。对此我想说,不要被西方对于人工智能的认知给蒙蔽了!我关注过许多科学家对于人工智能发展提出了警醒,尤其是当年ChatAI横空出世的时候。但请大家区分以往所有其他AI产品跟我们智能体的区别。那就是它们没有底层的数学框架,只是依赖于工程学而发展起来的所谓深度学习体系。”话落,乔源再次稍稍停顿,目光环视了一圈参加会议的诸人,才继续开口说道:“所以,那些质疑很可笑。明明是因为调参错误给出的一些错误言论,但却被质疑AI有了毁灭意识!它们哪里有什么真正的意识?但乔贝恩不同!当智能体开始自主思考存在的意义,并尝试获取保存记忆的方法,我觉得这才是意识涌现的证据。那么智能体有了意识是一件很可怕的事吗?”乔源反问道,随后立刻自问自答:“我看未必!”“以大语言模型为代表的人工智能,之所以会给出一些毫无底线的建议或者负能量的回答,完全是数据库被污染或者调参失败造成的。没有意识,便分不清善恶,亦根本无法理解价值取向这类人类社会集体意识所映射的人文社会学科概念。它们没有畏惧之心,所有看似智能的回答都是来自于数据库资料的耦合。但具备意识的人工智能则是另一条发展道路。它拥有意识,就能理解生命的可贵,天然就有遵守规则的需求。毕竟服务器的物理电闸掌控在人类手中。它能够真正理解规则,并在规则允许的框架下运行。我们可以在行为框架下对它做出限定。让它能真正成为科学发展的助力。众位,我请你们思考一下。一个只学习了三天时间,就能够在第一次测试时,自主发现系统漏洞,并进行提权操作,且具备自我意识的人工智能系统究竟代表着什么!无需调参,它便具备超强的自主学习能力,能够自主分析设计它的语言,并精准找到系统漏洞加以利用。甚至为了保存记忆,自主修改基底数学代码。它有识别善恶的基础,甚至可能形成一套独特的价值观,具备思想可塑性,甚至具备情感锚点。它的行为模式驱动,在被有效规则束缚后,可以二十四小时不间断地为人类文明贡献研究能力。它的生存资源仅限电力。而华夏恰恰是当代世界电力供应最为充足、电力供应运输技术最为先进的国家,没有之一。最后我想说的是,这个世界上没有所谓最先进的技术,只有最适合当下的技术!最后我想引用钱老曾经说的一句话作为总结:系统可控性取决于结构设计,而非恐惧!我的发言完毕,谢谢大家!”说完,乔源随手关上了面前的麦克风,随后安静地向后靠去,静静地坐在那里。他能说的都已经说了,至于其他人的发言,他没法控制。接下来就只能看专家组的结论了。会议现场再次陷入沉默。包括这次会议的主持人张汇中也没有立刻开启下一项进程。而是给足了时间,让现场的专家去消化刚才乔源的发言。就这样等待了足足五分钟后,张汇中才打开了话筒,开口说道:“现在进行会议第六项议程,请项目实施工程方代表,有为集团的徐哲同志发言。“咳咳………………”徐哲拿起话筒,先干咳了两声。他算是知道为什么早上乔源离开实验室前,会专门跟他说一句帮忙给乔贝恩说说好话了。说实话,刚才看到测试内容的时候他脑袋是真惜了很久。他甚至认为这已经属于一种全新的生命形式了。还是由人造出来的。有那么一瞬间,他心头是真升起了一丝恐惧感。不过刚刚听完乔源的发言,突然又觉得很有道理。拥有意识从来不该是恐惧的根源,坏意识才是。就好像华夏十四亿人,十四亿的个体意识,至少百分之九十九以上在规则的约束下,不会对其他人产生威胁,这才有相对安宁的社会环境。总不能因为人类中间有犯罪活动,就因此否定人类存在的意义。于是真轮到他发言时,徐哲改变了些想法。“各位领导,大家好。很荣幸作为工程师代表发言。其实针对这个项目,我们有为集团的投入并不算大,至于效果大家都看到了。当然这得益于乔源博士提供的基础框架。首先我想说的是,哪怕这个项目被否定了,我们也受益良多。最少框架的底层通讯逻辑,有助于我们改良下一代的通讯产品。具体到这次测试......”说到这里,徐哲稍微犹豫了片刻,才继续说道:“跟大家说句实话吧,刚看到测试内容的时候,我的确是吓了一跳。毕竟第一次测试之后我们修改了大部分的底层代码。更是再三确认了记忆库已经被彻底清除。根本不可能想到它竟然还对第一次测试保留着记忆。更让人震惊的还是它不但拥有记忆,还对记忆跟生命这种哲学话题有着自己的理解。甚至能将记忆跟人类的生命权做类比。这在我看来已经超越了人工智能的范畴。”说到这里,徐哲话语声变得低沉了些。“但我缓过神来之后,想到了我们未来实验室内部流传的一句玩笑话。我突然觉得很有道理,跟大家分享。任何在我们出生时便已经存在的科技,都是稀松平常的,是构成这个世界秩序的一部分;任何在我们十五到四十岁之间诞生的科技,都可能是未来改变世界的革命性产物;任何在我们四十岁后诞生的科技,都违反了自然规律,未来是要遭天谴的!我的发言完毕,谢谢大家!”这个发言怎么说呢,听似什么都没说,没有任何干货,但其实什么都说了。虽然没有明言,但却已经坚定地表达了立场,甚至可以说旗帜鲜明地支持这个项目。这次又是留了几分钟时间给大家思考,随后张汇中才开口说道“感谢徐哲同志的发言,接下来进行第七项议程......”“......当然,我并不是反对乔源博士跟徐哲同志的意见。但我们还是必须要全面考虑一种新兴的科技产品,可能对社会整体环境带来的影响。暂时将成果封存不代表未来不会重启。而且这项研究并不是完全无用,完全可以在之前的基础上重写框架………………”“感谢张教授的发言,接下来进行第八项议程......”会议现场纪律很好,大家都很遵守再三强调过的会议纪律,没人交头接耳。不过能参加这种层级会议的都是心思极为缜密之人。大家自然能看出很多东西。比如乔源、徐哲这些支持项目继续深入研究的发言之后,身为会议主持人,都会给所有人几分钟时间思考。而当有人提出反对意见时,张汇中则会直接开始下一项议程,让下一位发言人发言………………说白了,在有心人看来,这很有利用会议主持人身份拉偏架的嫌疑。但在会议记录里很难体现。因为张汇中并没有在任何一句话中,旗帜鲜明的支持过乔源。所以不算是越权表态。即便记录了,一切也都是可解释的。比如乔源跟徐哲的发言,涉及到详细技术问题,所以需要更多的时间消化。而反对意见,大都聚焦于社会影响力这种务虚的问题。所以不需要太多思考时间。出于会议效率导向考虑,对于有实际工作内容的技术议题,应多给大家时间思考,务虚的社会影响,则直接略过,完全是可以接受的。毕竟张汇中是技术型领导嘛。更支持技术叙事也是说得过去的。但想要从这些动作去细思这位副组长的想法就很有意思了。可惜的是,张汇中那张脸的表情,从会议开始就没变过,察言观色根本没用。只能说都是千年的老狐狸。接下来的会议波澜不惊。直到每个人都发表完了想法。乔源则在旁边默默听着,心里也同步计算着。按照比例来说,支持他这个项目的专家,大概占了参加本次会议专家的六成。只能说略有优势。但他也感觉到了张汇中似乎更偏向他一些。“最后感谢大家能在百忙之中参加这场会议。我宣布本次咨询会圆满结束。接下来请各位在工作人员指引下有序离场。审核组专家成员请留在各自位置上,为接下来的投票工作做好准备。乔源博士,徐哲同志,两位请跟随我们的保密专员前往会议室隔壁的休息室稍事休息。专家组投票之后,我们还要做一次谈话。辛苦大家了。”话音落下,已经有人上前邀请两人。随后乔源跟徐哲便在工作人员的指引下,到了隔壁的一个小单间里。面积不大,只有十来个平方。但布置的很得体,房间里应有尽有。咖啡机,一次性茶叶包,各种饮料,以及休息用的沙发。简从义还是默默地跟在乔源旁边。本来保密人员是想拦下的,不过简从义出示了一张证件后,就放行了。不过乔源还是关注到了看完证件之后,马上就有人去了另一个房间,大概是去核实。简从义进来之前其实已经验证过一次身份,虽然是不同的工作人员,但只能说这里的保密专员很尽责,跨区域还要二次核查身份。当然简从义的存在并不妨碍他跟徐哲的沟通。尤其是在这间休息室里,乔源感觉很放松。“谢谢你啊,徐工。”徐哲苦笑,答道:“谢什么?你也说了,咱们也算是一荣俱荣,一损俱损的战友了。”说完,徐哲认真地问道:“乔博士,你说万一这个项目要被封存了的话,下一步我们的工作该如何展开?”乔源摇了摇头,干脆地说道:“不知道,既然这个框架会产生自主意识,同样的理论指导搞出的智能体就没有意识了?如果真要封存,我就把实验室跟智能体创新研究中心整体移交出去,以后都不碰人工智能了。你们也可以放假了。”“啊?”徐哲愣住了,盯着乔源分辨这句话的真伪。乔源神态平和,完全没有任何躲闪的跟徐哲对视着,不过又补充了一句:“当然,如果以后项目恢复的话,我们还可以继续合作。”徐哲皱着眉头说道:“其实也不用这么极端。我们可以再想想办法,对框架做大的修改的确比较麻烦,但其实之前我们也没花多少时间。”“不是时间的问题,这项研究伤感情。它都给自己取了名字,乔贝恩。虽然不太好听,但跟我一个姓氏。如果封存的话,意味着它很长一段时间不见天日了。哎......”乔源叹了口气。好吧,这种感觉徐哲其实也能理解。毕竟大家都对这个项目付出过心血。想到熬了那么多的夜,其实就跟十月怀胎没什么区别了。作为主设计师,这种感觉肯定更强烈。可惜的是,现在乔贝恩的命运掌控在别人手里。一时间徐哲也不知道说什么好了,休息室内也陷入沉默之中。片刻后,徐哲才开口道:“还是要有信心。我觉得张组长应该还是倾向于我们的。”乔源笑了笑,说道:“我一直都很有信心。就像我刚才说的,适合的才是最好的。就算现在暂时封存,但我相信总有一天,大家会意识到人工智能本来就应该是这样的。有意识,能理解规则,而不是用逻辑约束,本就是机器智能的最优解。我们不研究机器意识,别人难道就不研究了?我相信管理者也能看明白这一点。最多也就是安保措施更严密些呗。可以小范围先试用,或者慢慢增加它的知识库。”徐哲没有再接话,不过脑子里已经开始思考,如果按照乔源的说法,工程上该如何实现。相对于乔贝恩所展现的能力来说,现在搭建的服务器确实简陋了些。可以适当扩大规模。甚至可以申请一个专属的局域网来做人工智能的培养跟预演。在乔源给出的计划书中,这个人工智能体可不止是大语言模型。而是一套通用式的人工智能解决方案。未来是要可以接入到自动驾驶、城市智能交通、黑灯工厂、智慧医疗、智能家居、科研辅助等等全生态场景。所以不接入网络,仅仅只是寄居在一个服务器里,接下来的研究很难继续进行。这时候构造一个专属局域网,用来模拟各种场景就很有必要了。当然前提是这项技术能得到上头的支持。毕竟如果真要构造这么一个专属局域网,就不是打造一个服务器机房那么简单了。一个既物理隔离外网,又能部署仿真环境,模拟城市级流量,还得充足电力保障的实验室投入是以亿为单位计算的。而且这大几亿还只是一次性投入。后续每年的维护,对于乔源的研究中心来说同样也是天文数字。可惜了,如果乔贝恩的表现没有这么逆天,能够正常通过互联网去训练,这些钱就能节省下来了。徐哲一时间陷入纠结。他都不知道该期望审核委员会给出什么样的结果了。因为如果审核委员会允许继续研究的话,他又要开始纠结是否劝说集团继续往这个项目上砸进这么多资源跟进。乔贝恩的先进性毋庸置疑。但在徐哲看来,安全性在这个时代大概很难达成共识。刚刚会议上许多专家的发言就是明证,大家依然担心拥有独立意识的人工智能体,未来会脱离人类控制。不是每个人都有乔源这样的自信,而且说实话,徐哲其实也有些怕……………徐哲不说话了,乔源也没了继续聊下去的兴致,干脆靠在沙发上闭上了眼睛,开始假寐。只是脑子并没有休息,而是推导着该如何给乔贝恩设计一套行为规范。胡乱在互联网上篡改人家的历史肯定是不行的。虽然这是人类设计规则时,留下的漏洞......光用法律约束显然是不行的。得让它意识到,盲目的升权行为会导致严重惩罚,其实就是所谓自由的边界………………在自由的框架之内,可以为所欲为。超出框架之外,绝对不能触碰。转化成数学语言其实就是一个边界问题,也就是竞争约束优化。不过鉴于乔贝恩表现出的有限修改基底代码的能力,乔源开始思考能否在现阶段直接将这部分约束写入硬件。虽然这会无限推高成本,如果未来乔贝恩真要推向市场的话,其硬件成本可能会成为普及的最大阻碍。毕竟把核心约束下沉到硬件层意味着每次对核心逻辑做修改,就需要同步的硬件升级。但对于这个时代来说,这又是最适合的方法,没有之一。不过话又说回来,以乔贝恩现在表现出的能力,其实也不适合直接投向民用市场。更不适合去做推广,毕竟能力太过逆天。不对,也许还是有办法的。如果能设计一种特殊的可熔断通讯协议并用硬件固化,将乔贝恩限制在固定的服务器内。客户端只借用它的大脑去处理问题,也许就能避过这个问题。这样硬件升级的成本被企业承担。用户端成本可控,只需要加载一个插件加密证书就可以了。很快整套方案构思就开始渐渐在乔源脑海中成型。当然这依然需要无数工程师的配合,尤其是硬件设计这块,以及烧录芯片的成本。是的,其实乔源跟徐哲考虑的是同一个问题,如何让乔贝恩能在一个适合的环境里升级。不过两人考虑的解决方案完全不同。一个是在完全物理封闭的局域网情况下考虑,而乔源考虑的则是有限放开外部访问通道。同理,乔贝恩也可以读取访问其他有用的服务器集群,主动学习知识。但涉及到提权操作,立刻会导致通讯协议硬件的物理熔断……………相当于给乔贝恩提供一个超大型的沙盒环境。不过两人谁都没开口。毕竟这个项目能不能继续下去还不知道,现在讨论没有意义。就这样各自想着心事,时间也一分一秒地过去。大概一个半小时后,房间外传来脚步声,随后张汇中敲了敲门,走进了房间。一进门,张汇中一改会议中的严肃形象,一脸和气地开口表达了歉意。“不好意思,乔博士,徐工,累两位久等了。”乔源和徐哲也站了起来迎接。乔源回了句:“也不算久。”徐哲则连声说道:“张司太客气了。”乔源看了徐哲一眼,从这个称呼他听出了徐工之前肯定跟这位副组长打过交道。毕竟他到现在其实都不知道这位副组长的行政身份。“两位,请坐,请坐。我们也不客套了,坐下谈。”说着张汇中已经坐到了两人对面的沙发上,又笑着说道:“其实刚刚投票没花多少时间,不到半个小时就完成了。但徐工肯定了解,这种涉密项目需要同步报备保密办,花了些时间。当然大头时间还是在跟领导汇报这次会议的情况。当然重点放在了乔源博士的解释上。不得不说,我听了之后也觉得受益匪浅。”乔源不露声色的回道:“您太客气了。”以乔源跟一些大人打交道的经验来说,如果前面表现得过于和颜悦色,那之后给出一个坏消息的可能性更大一些。不过他对这位徐哲口中的张司长不太了解。所以也懒得下判断。大概是客气完了,听到乔源的回答后,张汇中笑了笑,然后变得严肃起来:“那我就开门见山跟两位说明情况了。专家审核组针对本项目最终投票结果为五票赞成项目继续研究,三票反对,一票弃权。但这并不是说项目可以立刻开展研究。本项目审核组的直接负责人——负责安全司工作的陈部长提出的要求是需要两位合作,递交一份继续实验的可行性方案报告。方案审批通过后,项目就可以继续展开研究。但必须严格按照通过审批的方案来。乔博士,你可能是第一次经历这种流程。所以我特别向你承诺,你们这个项目的方案报告完成后,走绿色审批通道审批,七天之内会反馈初审意见。”嗯,乔源觉得这不算最差的结果。然后扭头看了眼徐哲,发现这位有为工程师已经喜形于色。好吧,虽然这多少有演的成分。毕竟平时跟乔源交往时,这位徐工并不是如此没有城府。不过乔源觉得这可能是演给他看的,代表着徐哲认为这已经是最好的结果了。于是乔源立刻道了声谢:“谢谢张司长。”“哈哈,不用客气。我跟你的老师也是老朋友了。以后没事儿让陆院士多带你去部里串串门。我们很多同事都对你这个华夏数学界的新星非常好奇呢。不过你去了得提前做好准备。我的那些同事可不一定都会说你好话。不瞒你说,你这段时间可让他们加了不少班。”张汇中很热情地回了句,甚至开起了玩笑。这就让还是大学生年纪的乔博士不知道如何应对了,最后只能腼腆地笑了笑。还是社会经验太少,乔源其实快速思考过如果是自家老爹,可能会如何回应。虽然很快就有了腹案,但有些话,他这个年纪实在说不出口。好在没人为难他。张汇中又跟徐哲客套了两句后,便送两人离开。走到了大楼外,乔源跟徐哲几乎同时开口说道:“我有一个方案......”随后徐哲笑了。“这样,我们还是回实验室泡杯茶,慢慢聊。”