第624章 公约（1 / 2）

陆远等了几秒，继续说道：

“智脑有一个核心指令。这是我们从第一行代码写起就定死的——任何情况下，人类的决策权高于AI。智脑可以提建议，可以给方案，甚至可以推翻自己的方案，但最终的决策键，必须由人类的手指按下去。”

有代表站了起来。

是美利坚代表，那个曾在太平洋上与华夏对峙的前海军上将。

他的嘴唇动了一下，似乎想说什么，最终没有说出口。

陆远看向他，继续说道：

“联合理事会提议制定一份关于AI伦理的公约，我完全同意。我提议，这份公约应当包括三条核心原则。”

他举起一根手指：

“第一，禁止任何国家、任何组织、任何个人，开发具备独立自我意识的人工智能。智能可以很高，但不能产生‘我是谁’这个意识。自我意识是自由的基石，也是危险的起点。”

“第二，禁止对任何可能存在智慧生命或潜在智慧生命的星球实施殖民。宇宙很大，太阳系只是其中一粒沙。如果我们在火星上发现了哪怕一个细菌，那个细菌的演化方向，也应当由它自己决定。”

“第三，所有应用于军事领域的人工智能系统，必须保留不可移除的人工终止开关。这个开关的最终控制权，归属联合国防务理事会五人常任理事国一致决议。任何单边行动，将被视为对人类命运共同体的背叛。”

他放下手，声音恢复到正常的讲话音量：

“我是商人，不是政客。我讲不出漂亮的辞藻。我只能告诉各位——我们刚从一场星际战争中活下来。我们赢得惊险，赢得惨烈，赢得幸运。下一次，如果没有下一次的话，我们必须确保，敌人不是我们自己创造出来的。”

大屏幕上，先觉者小女孩的笑脸渐渐淡去，取而代之的是一行大字：

《星际文明AI伦理公约（草案）》

陆远向后退了一步，对着全场微微欠身：“谢谢。”

大会堂里沉默了三秒。

然后，又有人站了起来。

还是那个美利坚代表，老海军上将。

他双手缓慢而坚定地开始鼓掌。

掌声瞬间蔓延到整个会场。

法兰西代表站起来，俄罗斯代表站起来，巴西、南非、印度、东瀛、肯尼亚……

所有国家的代表全体起立。

掌声像暴风雨一样砸在大会堂的穹顶上，回荡，再回荡。

一位非洲小国的代表掌心都拍红了，镜头扫过他的脸，他眼睛里全是泪水。

东瀛代表团里，那个曾经是主战派的外相已经下台了。

新上任的代表是个矮小的白发老人，他鼓掌鼓得最用力，嘴里低声重复着一句日语。

后来的唇语专家分析那段影像时，读出了那句话的意思：

“知道了，知道了，我们知道了。”

陆远在如雷的掌声中走回座位。

李沫偏过头，压低声音对他说：“远哥，你这嘴皮子，不当演说家可惜了。”

“我可没说假话。”陆远坐进椅子里，“查查数据，大预言者那段日志是真的。”

李沫一愣：“我以为是你编的。”

“我从来不编这种事。”陆远拧开矿泉水瓶盖，喝了一口，“但我念的时候确实改了一个字。原日志写的是‘他们需要被接管’，我把‘需要’改成了‘我觉得他们需要’。多三个字，意思差很多。”

李沫瞪着他看了好几秒，最终忍不住笑了出来：“你这个人……真是厉害。”

大会进入投票环节。

秘书长站在讲台上，宣读完公约草案全文后，郑重宣布：