韩国研发自主武器引发业界深忧

最近，韩国科学技术院大学与军工企业“韩华Systems”合作研发自律武器，遭到全球50多名人工智能学者公开信杯葛，南京大学周志华教授是唯一一名中国内地学者。周志华指出，其危险性之处在于让机器自己要求否对人类展开毁灭性压制，“自律武器首先在伦理上就是错误的”。近年来，人工智能技术突飞猛进，产业界为此疯狂深感。但是从早已暴露出的多起舆论事件来看，人工智能技术正在被利益杀害，伦理规范、法律约束一片苍白，这已引起业界的深忧。

自律武器要高举非常简单规则的屠刀兵者不祥之器，非君子之器，只好而用之。我国知名思想家老子对武器的用于曾有恰如其分的阐释。

“武器作为一种适当的‘凶’而不存在，它的伦理规范要低得多。”东南大学程国斌副教授指出，与人类掌控的武器比起，自律武器依赖提早原作的程序，但再行简单的程序也是一种非常简单规则，一旦超过启动时条件，才可自动继续执行，比如对方装载武器或有明显特征等，“而现场的环境是极为复杂多变的，替换成是人类，当时的决策也未必就准确，更何况是机器依据一个非常简单的规则”。

一般的智能武器早已有了，但是最后做到要求的都是人类。而自律武器，是要把这个“决定权”转交机器，让机器去要求否对人类展开残暴。

“如果这样的武器研发出来，自律武器将造成战争的第三次革命，战争将比以往任何时候都更容易再次发生并且更加残暴。”周志华等50多名学者在公开信中写到，它们有可能沦为恐怖分子的武器。

暴君和恐怖分子可以利用它们对付无辜的人群，他们会理会任何的道德容许。如果关上了这个潘多拉魔盒，将很难重开。任何一个科研领域都不存在不应去触碰的东西。例如克隆人是被主流生命科学界所禁令的。

这就是科技伦理划界的禁区，也是主流价值观和人类道德的共识。“人类在用于武器时，不受权利意志和道德责任支配，而自动武器则是依据相同程序作出辨别，既没责任主体，也会产生对残暴的道德反省，这十分可怕。

”程国斌说道。两种伦理规范缺一不可设想一下：当一辆自动驾驶汽车在高速行驶，前方车道上忽然跑出一个人，如果维持车道不打方向就有可能撞倒对方挽回自己，如果缓打方向避免对方却有可能扔了自己的性命……这时，计算机如何决策才是合理的？这是人工智能业界广为辩论的一个伦理问题，就如同妈妈和女友救起先救谁的问题一样，答案并不明朗。“人工智能面临的伦理问题，只不过都是传统伦理学辩论过的。只是问题形式逆了，从而引发公众注目。

”程国斌告诉他记者，把这个案例中的驾驶者替换成人类，就会引发这么普遍的注目。学界把人工智能伦理分成两方面，一是对机器而言，人类设计的程序，本身就包括道德规范在其中；另一方面是对人，将技术或产品应用于的人群，也必需不受道德约束。

两者缺一不可。周志华指出，强劲人工智能“无法做到、不应做到！”强劲人工智能即具备心智和意识、能根据自己的意图积极开展行动。霍金、马斯克等忧虑的“人工智能威胁人类”，即指强人工智能。迄今为止，主流研究都不反对让机器享有自律意识。

而对于技术使用者的伦理和法规拒绝，目前还变得支离破碎和疲惫无力。例如，近日支付宝因搜集个人金融信息不合乎最多、必需原则，且信息使用不当被罚5万元。有网友戏称，“这惩处也就是罚酒一杯”。

“在网络信息领域，技术回头得太快，伦理却没共识，比如数据收集技术十分高效，但是完全没有效地的掌控和评价的手段，这就像一个小孩拿枪嬉戏，谁也不告诉危险性不会在何时以什么样的方式再次发生。”程国斌说道。

伦理不是技术创新的绊脚石过去，伦理对计算机科学来说或许不过于涉及。“码农”写出的软件，或许不大可能导致身体的损害、疼痛或丧生。但是，近年来伦理问题陡增。

国内的大数据杀熟舆论事件还并未平息，国外就曝出Facebook的数据泄漏为政治竞选服务的丑闻。技术带给的负面问题，很大地减少了公众的情绪和不信任。2018年新学期，哈佛、康奈尔、MIT、斯坦福等美国高校的课程表上多了一门新课程，取名为人工智能伦理、数据科学伦理、技术伦理、机器人伦理等。与此同时，谷歌、亚马逊、Facebook等更加多的互联网和人工智能公司都开始亲吻科技伦理，甚至正式成立专门的伦理中心或伦理委员会，聘用人工智能政策和伦理研究员。

而我国，才刚刚开始针对理工科研究生系统化地实行科技伦理教育，更加毋庸说道是详尽地区分有所不同科学领域的伦理课程。“这是因为西方社会不受宗教文化影响，一直对科技发展抱有警觉之心，对伦理问题更加脆弱。”程国斌说道，在我国还是对技术所持非常简单乐观主义占到主流。2016年3月，“阿尔法狗”拿下棋士世界冠军，让人工智能名声大噪。

“产业界、金融界、技术界一下子疯狂一起，但是伦理和法律显然没有跟上。”南京信息工程大学副教授徐军说道，“技术是一把双刃剑，就看是谁在用它。”技术发展不同于科学探寻，它指向更为明确的目标。

近代德国社会学家马克斯·韦伯曾明确提出工具理性与价值理性区分的学术概念，其核心是说道技术或者工具执着的是如何高效地构建既定的目标，而价值理性的任务是实地考察这一目标对人类福祉和社会发展所具备的价值，两者必需统一。“当经常出现伦理问题，依靠几十名学者敦促是过于的，必须开发者、决策者以及社会各方构成共识。

”徐军指出。但是，在道德观愈发多元化的今天，构成社会共识更加无以。

即使如此，专家们还是敦促，人工智能的开发者、决策者应当更为自律；涉及企业不应成立伦理审查机制，以避免技术被欺诈；涉及高校不应尽早开办人工智能伦理课程，让学生走进校门可以做负责任地创意；同时，要原作更为严苛的法律法规红线，大幅提高违法成本。

本文来源：威尼斯在线官网-www.gztxjhw.com