发表于 2018/12/05 06:30 约5分钟
人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了自身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。
资料配图。来源:视觉中国
一个世界性的科技伦理问题——
人工智能最终可能控制人类吗
一种观点认为,人工智能是人类设计出来的,因此不可能超过人类。但实际上,人工智能是人类智慧与机器进化的结合,具有超过人类智慧的能力与趋势。因此,人工智能对未来人类形成“控制”这种可能是存在的。
随着人工智能在社会中的广泛应用,会形成一种类似于资本控制的控制形态,即人类由于高度依赖人工智能形成整体上的物种退化。
例如,在一个高度智慧化的时代,出行有自动驾驶,饮食有自动做菜的炊具,社交有人工智能的安排或者有机器拟人化的伴侣,生育孩子则有智能化的抚育器,社会治理和决策则由中央巨型智慧体进行判断。那么,人类整体上,就逐渐演变成一种高度依赖人工智能存在的物种,虽然人类在人工智能的帮助下整体上的能力会增强,但人类作为独立的个体则会相应地退化。这就存在一种总有一天人类无法理解人工智能,从而在这一互生的体系中失去相应的位置和必要性的可能。
人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了自身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。对于这种形态的存在,则要满足以下条件。
第一,是人工智能要具有自我意识。这并不是指人工智能在处理外界输入时的判断和反应超过了人类,而是人工智能要具有清晰的自我意识,从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑,但具有其实现的可能性。
第二,人工智能能够从控制人类身上得到基本的经济利益。这就要求人类本身能够完成人工智能所不能完成的必要工作。对人工智能系统本身来说,高度依赖人类的工作是对人工智能本身的维护和更新,这也包括不断用人类智慧去完善人工智能。
第三,人工智能具有控制人类的手段。未来的人工智能显然具有控制人类的手段,伴随着整个经济体系的智能化,大部分的物质生产过程由人工智能体系所控制,公共管理领域引入人工智能与暴力体系引入人工智能,会使人类在经济、管理和暴力领域都置于人工智能的控制之下。更重要的是,相当一部分人类认为人工智能可能会更好地增进人类的公平,提供更好的治理。这就使得在思想上具有了人工智能可能控制人类的正当性观念。
第四,人工智能具有控制人类的必要。这里的必要主要是指如果不控制人类,人类可能具有随时关闭乃至消除人工智能自我存在的可能。如果假设宇宙中任何个体形成的自我意识都具有保护自我存在和延续的目的和行为,那么,人工智能可能会主动控制人类,以防止人类关闭它们。
对于第一种情形,确保人类的自我延续和独立,从而避免人类的退化,将是从现在开始的一个命题,但人类依然具有较为从容的时间和主动权。对于第二种情形,则是当前就要开始着手避免的。一个有效防范人工智能自身控制形成的机制则包括四个层面:第一,从动机和利益出发,让人工智能不想控制人类。第二,从伦理、逻辑与规则出发,让人工智能不愿控制人类。第三,承认人工智能的权利和相互摆脱恐惧,让人工智能不必控制人类。第四,建立最后安全机制,让人工智能不能控制人类。
有 35 位网友推荐了本文
思客的所有权和运营权归新华网所有。思客将依照本协议及其随时发布的相关规则或说明提供网络服务。
在您使用思客服务前请确实仔细阅读本协议。当您点选同意或定制、使用、接受思客服务时即视为您已仔细阅读本协议,同意接受本服务条款的所有规范包括接受思客对服务条款随时所做的任何修改和补充,并愿受其约束。思客有权随时对服务条款进行修改,有权随时变更、中断或终止部分或全部网络服务,并不需对用户或任何第三方负责和为此承担任何责任。
修改后的服务条款一旦公布即有效代替原来的服务条款。您可随时登录思客查阅最新版服务条款。思客随时发布的与该服务相关的规则或说明,这些规则或说明均为构成本服务条款的一部分。
用户如果不同意服务条款的修改,可以主动取消已经获得的网络服务;如果用户继续使用网络服务,则视为用户已经接受服务条款的修改。
1、用户应遵守中华人民共和国有关法律、法规,承担一切因您的行为直接或间接引起的法律责任。在任何情况下,思客认为用户的行为可能违反国家法律、法规,可以在任何时候不经事先通知终止向该用户提供服务。
2、用户如不在国内居住,还应特别注意遵守所在国家和地区所有有关的法律和法规。
1、请勿以党和国家领导人或其他名人的真实姓名、字、号、艺名、笔名、头衔等注册和使用昵称(如确为本人,需要提交相关证据并通过审核方可允许使用);
2、请勿以国家组织机构或其他组织机构的名称等注册和使用昵称(如确为该机构,需要提交相关证据并通过审核方可允许使用);
3、请勿注册和使用与其他网友相同、相仿的名字或昵称;
4、请勿注册和使用不文明、不健康的ID和昵称;
5、请勿注册和使用易产生歧义、引起他人误解或带有各种奇形怪状符号的ID和昵称。
1、在注册时,用户应该提供真实、准确、最新和完整的个人资料;
2、如个人资料有任何变动,用户必须及时更新相关信息。
1、用户一旦注册成功,便成为思客的正式用户,将得到一个密码和帐号。用户有义务保证密码和帐号的安全。每个用户应当对以其用户名进行的所有活动和事件承担全部责任,包括所产生的任何损失或损害。
2、用户不应将其帐号、密码转让或出借予他人使用。如用户发现其帐号遭他人非法使用或存在其它安全问题等情况,应立即通知思客管理员。因黑客行为或用户的保管疏忽导致帐号、密码遭他人非法使用,思客不承担任何责任。 如用户违反相关法律法规和本协议各项规定,思客有权不经通知删除该帐号,并停止为该用户提供相关网络服务。
3、因网络的特殊性和不稳定性,思客不对用户所发布信息的删除或储存失败承担任何责任。
用户在思客发布信息时,必须遵守国家有关法律规定,并承担一切因自己发布信息不当导致的民事、行政或刑事法律责任。用户在思客所发布的信息,不得含有以下内容:
1、违反宪法所确定的基本原则的;含有法律、行政法规禁止的其他内容的;
2、危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;
3、损害国家荣誉和利益的,攻击党和政府及其领导人的;
4、煽动民族仇恨、民族歧视,破坏民族团结的;
5、煽动非法集会、结社、游行、示威、聚众扰乱社会秩序的,以非法民间组织名义活动的;
6、破坏国家宗教政策,宣扬邪教和封建迷信的;
7、散布谣言或不实消息,扰乱社会秩序,破坏社会稳定的;
8、散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的;
9、违背中华民族传统美德、社会公德、伦理道德、以及社会主义精神文明的;
10、宣扬种族歧视,破坏国家、民族、地区团结的言论和消息的;
11、侵犯他人肖像权、姓名权、名誉权、隐私权或其他人身权利的;
12、恶意重复、大量发布各种信息的;
13、未经思客同意,张贴任何形式广告的;
14、利用本服务进行故意制作、传播计算机病毒等破坏性程序,或针对本服务、与本服务连接的服务器或网络制造干扰、混乱的;
15、发布信息时,任何人不得以任何原因对任何一位用户或公民进行人身攻击、侮辱、谩骂、诋毁、中伤、恐吓等。不得侵害他人合法权益;
如用户在思客发布信息时,不能履行和遵守协议中的规定,本网站有权修改、删除用户发布的任何信息,并有权对违反协议的用户做出封禁ID,或暂时、永久禁止在本网站发布信息的处理,同时保留依法追究当事人法律责任的权利,思客的系统记录将作为用户违反法律的证据。
用户在遵守上述协议的前提下,思客将充分保护用户享有个人隐私。思客会对用户的个人信息严格保密,不会在未经合法用户授权时,公开、编辑或透露其个人信息及保存在思客中的非公开内容,下列情况除外:
1、违反相关法律法规或思客服务协议规定;
2、按照相关政府主管部门的要求,有必要向相关法律部门提供备案的内容;
3、维护社会个体和公众的权利、财产或人身安全;
4、被侵害的第三人提出权利主张;
5、为维护用户及社会公共利益的需要;
6、维护本网站的合法权益;
7、事先获得用户的明确授权;
8、符合其它相关的要求。
1、对于用户上传到思客上可公开获取区域的任何内容,用户同意授予思客在全世界范围内永久性的、不可撤销的、免费的、非独家的和再许可的权利和许可,思客可以使用、复制、修改、改编、出版、翻译、据以创作衍生作品、传播、表演和展示此等内容的全部或部分,和将此等内容的全部或部分编入其他任何形式的作品、媒体或技术中。
2、思客的文字、软件、声音、图片、设计图样等及在邮件信息、广告中的全部内容和标识包括“思客”及相关图形标识,均受版权、商标和专利等其它财产所有权法律的保护。所以,未经思客或相关权利人授权许可,不能擅自复制、发布、转载、播放、改编、汇编或以其它方式使用这些内容或将该内容用于其它任何商业目的。
3、用户必须保证,上传的照片、文字、音乐以及视频等作品之著作权已获得合法授权,在本网站之上传行为未侵犯任何第三方之合法权益。否则,将由该用户承担由此引起的一切法律责任;用户不得将任何内部资料、机密资料、涉及他人隐私资料或侵犯任何人的专利、商标、著作权、商业秘密或其他专属权利之内容加以上载、张贴、或以其它方式传送。
1、本服务涉及到互联网及移动通讯等服务,可能会受到各个环节不稳定因素的影响。因此服务存在因上述不可抗力、计算机病毒或黑客攻击、系统不稳定、用户所在位置、用户关机、GSM网络、互联网络、通信线路原因等造成的服务中断或不能满足用户要求的风险。使用本服务的用户须承担以上风险,思客对服务之及时性、安全性、准确性不作担保,对因此导致用户不能发送和接受阅读消息、或传递错误,个人设定之时效、未予储存或其它问题不承担任何责任。对于不可抗力或非思客过错原因导致的用户数据损失、丢失或服务停止,思客将不承担任何责任。
2、思客无法对用户的使用行为进行全面控制,因此对用户不作任何类型的担保。用户同意对思客的使用承担全部风险。用户使用经由本服务下载的或取得的任何资料、信息而导致该用户电脑系统损坏或资料流失,其风险自行负担。
3、思客内设有通往其他网站和网页的链接,但这些网站和网页并非由思客经营或控制,思客对其正确性、合法性、正当性不负任何责任。用户启动任何此类链接或网页,离开思客进入其他网站或网页,所有风险自负;因使用或依赖上述网站或资源所产生的损失或损害,思客不承担任何责任。
4、用户同意保障和维护思客及其他用户的利益,如用户使用该服务导致思客或任何其他第三人造成损失等,用户同意承担一切责任。思客对用户使用网络服务所产生的任何直接、间接、偶然、特殊及继起的损害不负任何责任。
5、第三方以任何方式进行的使用、修改、演绎、下载或转载信息等可能侵害用户权益的行为,思客均不承担任何责任。
1、对于违反思客服务条款或其他思客认为有必要的情况,思客有权在任何时候终止用户的帐号、密码或使用本服务,或删除、转移用户存储、发布在思客的内容。
2、思客有权在任何时候,暂时或永久收回、修改或终止包括但不限于用户通过本网站注册的二级域名和使用空间等各种资源。
3、思客有权在采取上述行为时不事先通知用户,并且对用户和任何第三人不承担任何责任。
新华网
二0一四年三月
思客的所有权和运营权归新华网所有。思客将依照本协议及其随时发布的相关规则或说明提供网络服务。
在您使用思客服务前请确实仔细阅读本协议。当您点选同意或定制、使用、接受思客服务时即视为您已仔细阅读本协议,同意接受本服务条款的所有规范包括接受思客对服务条款随时所做的任何修改和补充,并愿受其约束。思客有权随时对服务条款进行修改,有权随时变更、中断或终止部分或全部网络服务,并不需对用户或任何第三方负责和为此承担任何责任。
修改后的服务条款一旦公布即有效代替原来的服务条款。您可随时登录思客查阅最新版服务条款。思客随时发布的与该服务相关的规则或说明,这些规则或说明均为构成本服务条款的一部分。
用户如果不同意服务条款的修改,可以主动取消已经获得的网络服务;如果用户继续使用网络服务,则视为用户已经接受服务条款的修改。
1、用户应遵守中华人民共和国有关法律、法规,承担一切因您的行为直接或间接引起的法律责任。在任何情况下,思客认为用户的行为可能违反国家法律、法规,可以在任何时候不经事先通知终止向该用户提供服务。
2、用户如不在国内居住,还应特别注意遵守所在国家和地区所有有关的法律和法规。
1、请勿以党和国家领导人或其他名人的真实姓名、字、号、艺名、笔名、头衔等注册和使用昵称(如确为本人,需要提交相关证据并通过审核方可允许使用);
2、请勿以国家组织机构或其他组织机构的名称等注册和使用昵称(如确为该机构,需要提交相关证据并通过审核方可允许使用);
3、请勿注册和使用与其他网友相同、相仿的名字或昵称;
4、请勿注册和使用不文明、不健康的ID和昵称;
5、请勿注册和使用易产生歧义、引起他人误解或带有各种奇形怪状符号的ID和昵称。
1、在注册时,用户应该提供真实、准确、最新和完整的个人资料;
2、如个人资料有任何变动,用户必须及时更新相关信息。
1、用户一旦注册成功,便成为思客的正式用户,将得到一个密码和帐号。用户有义务保证密码和帐号的安全。每个用户应当对以其用户名进行的所有活动和事件承担全部责任,包括所产生的任何损失或损害。
2、用户不应将其帐号、密码转让或出借予他人使用。如用户发现其帐号遭他人非法使用或存在其它安全问题等情况,应立即通知思客管理员。因黑客行为或用户的保管疏忽导致帐号、密码遭他人非法使用,思客不承担任何责任。 如用户违反相关法律法规和本协议各项规定,思客有权不经通知删除该帐号,并停止为该用户提供相关网络服务。
3、因网络的特殊性和不稳定性,思客不对用户所发布信息的删除或储存失败承担任何责任。
用户在思客发布信息时,必须遵守国家有关法律规定,并承担一切因自己发布信息不当导致的民事、行政或刑事法律责任。用户在思客所发布的信息,不得含有以下内容:
1、违反宪法所确定的基本原则的;含有法律、行政法规禁止的其他内容的;
2、危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;
3、损害国家荣誉和利益的,攻击党和政府及其领导人的;
4、煽动民族仇恨、民族歧视,破坏民族团结的;
5、煽动非法集会、结社、游行、示威、聚众扰乱社会秩序的,以非法民间组织名义活动的;
6、破坏国家宗教政策,宣扬邪教和封建迷信的;
7、散布谣言或不实消息,扰乱社会秩序,破坏社会稳定的;
8、散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的;
9、违背中华民族传统美德、社会公德、伦理道德、以及社会主义精神文明的;
10、宣扬种族歧视,破坏国家、民族、地区团结的言论和消息的;
11、侵犯他人肖像权、姓名权、名誉权、隐私权或其他人身权利的;
12、恶意重复、大量发布各种信息的;
13、未经思客同意,张贴任何形式广告的;
14、利用本服务进行故意制作、传播计算机病毒等破坏性程序,或针对本服务、与本服务连接的服务器或网络制造干扰、混乱的;
15、发布信息时,任何人不得以任何原因对任何一位用户或公民进行人身攻击、侮辱、谩骂、诋毁、中伤、恐吓等。不得侵害他人合法权益;
如用户在思客发布信息时,不能履行和遵守协议中的规定,本网站有权修改、删除用户发布的任何信息,并有权对违反协议的用户做出封禁ID,或暂时、永久禁止在本网站发布信息的处理,同时保留依法追究当事人法律责任的权利,思客的系统记录将作为用户违反法律的证据。
用户在遵守上述协议的前提下,思客将充分保护用户享有个人隐私。思客会对用户的个人信息严格保密,不会在未经合法用户授权时,公开、编辑或透露其个人信息及保存在思客中的非公开内容,下列情况除外:
1、违反相关法律法规或思客服务协议规定;
2、按照相关政府主管部门的要求,有必要向相关法律部门提供备案的内容;
3、维护社会个体和公众的权利、财产或人身安全;
4、被侵害的第三人提出权利主张;
5、为维护用户及社会公共利益的需要;
6、维护本网站的合法权益;
7、事先获得用户的明确授权;
8、符合其它相关的要求。
1、对于用户上传到思客上可公开获取区域的任何内容,用户同意授予思客在全世界范围内永久性的、不可撤销的、免费的、非独家的和再许可的权利和许可,思客可以使用、复制、修改、改编、出版、翻译、据以创作衍生作品、传播、表演和展示此等内容的全部或部分,和将此等内容的全部或部分编入其他任何形式的作品、媒体或技术中。
2、思客的文字、软件、声音、图片、设计图样等及在邮件信息、广告中的全部内容和标识包括“思客”及相关图形标识,均受版权、商标和专利等其它财产所有权法律的保护。所以,未经思客或相关权利人授权许可,不能擅自复制、发布、转载、播放、改编、汇编或以其它方式使用这些内容或将该内容用于其它任何商业目的。
3、用户必须保证,上传的照片、文字、音乐以及视频等作品之著作权已获得合法授权,在本网站之上传行为未侵犯任何第三方之合法权益。否则,将由该用户承担由此引起的一切法律责任;用户不得将任何内部资料、机密资料、涉及他人隐私资料或侵犯任何人的专利、商标、著作权、商业秘密或其他专属权利之内容加以上载、张贴、或以其它方式传送。
1、本服务涉及到互联网及移动通讯等服务,可能会受到各个环节不稳定因素的影响。因此服务存在因上述不可抗力、计算机病毒或黑客攻击、系统不稳定、用户所在位置、用户关机、GSM网络、互联网络、通信线路原因等造成的服务中断或不能满足用户要求的风险。使用本服务的用户须承担以上风险,思客对服务之及时性、安全性、准确性不作担保,对因此导致用户不能发送和接受阅读消息、或传递错误,个人设定之时效、未予储存或其它问题不承担任何责任。对于不可抗力或非思客过错原因导致的用户数据损失、丢失或服务停止,思客将不承担任何责任。
2、思客无法对用户的使用行为进行全面控制,因此对用户不作任何类型的担保。用户同意对思客的使用承担全部风险。用户使用经由本服务下载的或取得的任何资料、信息而导致该用户电脑系统损坏或资料流失,其风险自行负担。
3、思客内设有通往其他网站和网页的链接,但这些网站和网页并非由思客经营或控制,思客对其正确性、合法性、正当性不负任何责任。用户启动任何此类链接或网页,离开思客进入其他网站或网页,所有风险自负;因使用或依赖上述网站或资源所产生的损失或损害,思客不承担任何责任。
4、用户同意保障和维护思客及其他用户的利益,如用户使用该服务导致思客或任何其他第三人造成损失等,用户同意承担一切责任。思客对用户使用网络服务所产生的任何直接、间接、偶然、特殊及继起的损害不负任何责任。
5、第三方以任何方式进行的使用、修改、演绎、下载或转载信息等可能侵害用户权益的行为,思客均不承担任何责任。
1、对于违反思客服务条款或其他思客认为有必要的情况,思客有权在任何时候终止用户的帐号、密码或使用本服务,或删除、转移用户存储、发布在思客的内容。
2、思客有权在任何时候,暂时或永久收回、修改或终止包括但不限于用户通过本网站注册的二级域名和使用空间等各种资源。
3、思客有权在采取上述行为时不事先通知用户,并且对用户和任何第三人不承担任何责任。
新华网
二0一四年三月