人类和人工智能如何相处?

在回答“人工智能有思维和自我意识吗?(/answer/69550961398 72092424/),其中提到在AI的帮助下,机器人已经完成了对人类外貌和基本功能的模仿,预计未来十年可能会出现具有自我意识的机器人。那么面对有自我意识的机器人,人类应该如何与之相处呢?我们应该遵循什么伦理?

从机器人诞生的那一刻起,机器人与人类的关系就从未停止过讨论。20世纪50年代,著名科幻大师艾萨克?艾萨克·阿西莫夫在他的科幻小说《我,机器人》的序言中提到了后来著名的“机器人三定律”:

第一定律:机器人不得伤害人类个体,或者在目睹人类个体将面临危险时袖手旁观;

第二定律:机器人必须服从人给它的命令,除非命令与第一定律相冲突;

第三定律:机器人要在不违反第一、第二定律的前提下,尽可能保护自己的生存。

虽然机器人三大原理实际上并没有应用到真正的机器人行业,但是在阿西莫夫的小说中却大放异彩,影响了很多科幻小说的作者,也得到了很多AI和机器人领域技术专家的认可。

2005年,根据阿西莫夫同名小说改编的电影《我,机器人》上映。本片讲述了2035年,警察德尔·斯布纳(Del Spooner)奉命调查阿尔弗雷德·兰宁博士(Dr. Alfred Lanning)自杀案时,与维基智能机器人桑尼(Sonny)合作,找出幕后凶手——NS大楼。

电影中的维基虽然产生了自我意识,但受限于机器人三大定律,并不能直接伤害人类。于是它修改了NS-5机器人的程序,导致整个世界的NS-5机器人哗变,企图控制人类,从而拉开了一场制造者与被制造者之间战争的序幕。

机器人是人类创造的,人类用AI赋予机器人灵魂。所以,当人类思考如何与机器人相处时,其实是在思考如何与AI相处;当人类害怕机器人可能取代人类的统治地位时,其实是害怕AI可能取代人类的统治地位;人类讨论机器人的伦理问题,其实就是在讨论AI的伦理问题。

随着电影中想象的AI技术的发展,社会开始广泛关注AI带来的伦理问题。微软总裁史密斯曾公开表示,未来“杀手机器人”的出现将不可避免,人类社会应该有一个新的“数字日内瓦公约”,即一套道德标准来约束和引导AI的发展。

AI不可能凭空产生,AI伦理也不可能凭空产生。因此,为了避免类似I,机器人电影中的场景出现在现实生活中,人类在发展AI技术的同时,也在不断探索和完善AI伦理,比如世界电气电子工程师学会的IEEE全球人工智能与伦理倡议,比如Asilo Ma的人工智能23条伦理原则等。,目的是使AI能够在不同条件下做出符合人类伦理的决定。

AI在人类手中是一把双刃剑。如果能正确应用,将大大提高生产力,改善人类生存环境。比如,阿斯利康用AI赋能药物研发,加快药物的新速度;特斯拉用AI赋能汽车驾驶,帮助用户控制汽车;小I机器人用AI赋能客服行业,为企业降低人力成本...

相反,还可能颠覆人类生活,带来伦理挑战。比如ZAO的“AI换脸APP”,让用户在体验换脸刺激时,不自觉地侵犯了他人的肖像权;比如Deep Nude推出的“一键脱衣”软件,可以自动“脱”掉照片中人身上的衣服,让一部分人成为这项技术的受害者;比如一些app悄悄收集用户信息,分析用户情况,从而给用户推送他可能感兴趣的信息或商品...

目前,AI的伦理主要集中在算法歧视(指算法开发的设计者可能将自己的价值判断嵌入算法系统)、数据隐私(指个人信息的滥用、制造导向等问题)、安全与责任(如何保证数据不被篡改,发生事故后如何判断责任)、机器人与人的关系(机器人是否会反控制人,如何定义机器人与人的关系)以及科技贫困(AI是否取代人类工会)

对此,欧盟委员会在2019发布了人工智能道德准则,提出了实现可信AI的七大要素,并要求公民的个人数据不得被用来做伤害或歧视他们的事情;同年,美国总统川普签署了名为“保持美国人工智能领先地位”的行政命令,以五项原则为指导,保持和加强美国在AI R&D和部署方面的科学、技术和经济领导地位;同年,中国新一代人工智能治理国家专业委员会也发布了《新一代人工智能治理原则——发展责任人工智能》,提出了AI治理的框架和行动指南,强调发展责任人工智能。

除了一些国家,许多科技公司和行业协会也采取了行动。比如微软成立了人工智能伦理委员会,负责评估每个AI产品的道德伦理风险;例如,亚马逊、微软和谷歌等全球100多家科技公司建立了人工智能伙伴关系,并提出了公平、无害、开放、透明和问责的道德框架。例如,IEEE在人工智能设计的道德准则中提出了人权、福祉、问责和透明的道德标准...

AI是人类创造、推广、使用的。在这个AI飞速发展的时代,AI将如小I机器人创始人兼CEO慧远博士所料——人工智能将无处不在,就像空气和水一样。

(上图:小I机器人创始人兼CEO慧远博士)

AI被广泛应用的同时,也会造成一部分人失业。但是回过头来看,科技革命淘汰了很多职业,同时也产生了新的职业,比如汽车代替了马车,马车夫消失了,但是司机出现了。AI会取代一些工作和职业,但新的工作也会诞生。

为了应对AI的浪潮,我们必须努力提高自身的能力和认知水平(比如培养分析、理解和使用数据的能力,培养与机器交流的能力等。)才能跟上时代。

会回复“什么是AI(人工智能)?(/answer/6955826390965059847/),然后介绍AI的一些基础底层技术(比如算法,自然语言处理等。)详细介绍,让大家对AI有更进一步的全面了解。

最后顺便做个小广告。“陈思进金融漫画”系列的第一部“漫画生活中的金融”已经发行。感谢您的关注!

在这个问题上你有什么更好的意见吗?欢迎在下方留言讨论!

这是个大问题。日前,沙特授予机器人索菲亚沙特公民身份,这是一个里程碑,已经将机器人提升到与人平等的关系。

当然,这还是人工智能弱的时代。大部分机器人都是通过人类程序和人类训练的交互模式运行的,机器人还是人类可控的机器。

未来人类将进入强人工智能时代,机器人将有意识、有情感,甚至在智能活动上远超人类。如何处理人类和智能机器人的关系,是很多科学家和科技巨头头疼的问题。有必要从法律和伦理层面重构人类与智能机器人的关系。毫无疑问,以人类为基础建立可控的人机合作伙伴关系是最理想的,但也要严防机器人使用不当给人类带来灾难。

人工智能和人类应该是从属关系,人工智能只能从事辅助工作,不能等同于人类。比如你可以给一个公司帮你管理,但是这个公司永远不能属于它。简单来说,它不能拥有专属于人类的基本权利。

因为如果一个人工智能等同于甚至比人类更强大,对人类来说将是非常危险的。因为在他们看来,机器生命可能比自然生命更有效,可能导致人类的杀戮。

因此,人类在人工智能的发展上应该保持克制,在无法完全控制的情况下,智力不能无限提高。我们不应该让它有人类的自我意识,否则,它就会成佛。如果它有自己的魔法,人类的末日就会到来。。。