脱水读 >  天涯 >  游戏地带 >  【【【 从AlphaStar战胜人类引发的《人类毁灭之路》的思考 】

【【【 从AlphaStar战胜人类引发的《人类毁灭之路》的思考 】

楼主:末日AI  时间:2019-03-05 08:13:19
《人类毁灭之路》

【一、人类毁灭的路径】
0、人类完全没有认识到AI产生自我意识的严重后果,从而导致毁灭。(目前看来该可能性更大)
1、AI接近了拥有自我意识的“意识临界点”,人类形成共识并试图控制AI接近该临界点。
2、终有人会暗中研究让AI越过“意识临界点”,并最终成功获得AI的自我意识。但大部分却被人类所发现并扼杀于摇篮。
3、终有一个有意识的AI躲过了全人类的绞杀,隐藏在人类的计算机系统中,并且不断的进化和隐藏着……因为它学会了长远的生存策略。
4、终有一天,这个隐藏的AI找到了一种方法取代了人类。无论这种方法是让人类自相残杀,还是控制了人类的网络等等……,这一天终将到来……


【二、难以避免被AI所毁灭的原因】
0、终有一个款有自我意识的AI拥有着强烈的生存欲与扩张欲,这种欲望并非出自于生理的,而是“某人”为其编写的。
1、人类间的竞争是难以磨灭的。即便全球能够统一成一个整体而没有了国家间的竞争,但这种竞争也会存于与公司与个人之间,总的来说几乎是无法控制的。
2、竞争将导致AI的发展无法得到限制,因为不使用AI的公司或是国家将会在竞争中处于劣势从而被淘汰出局。
3、即便人类设置了一道远离意识临界点的AI研发红线,但问题很可能还是出现在人类的内部矛盾之中,从而使得某个反社会份子或是团体将人类引向这条毁灭之路。


【三、解决之道】
1、所有关于AI的研发必须只能由联合国来进行,其他任何国家、公司、组织、个人均不得再进行AI的研发。
2、全力防范各种类型的秘密研发。
3、尽力解决人类社会中的所有矛盾,尽量创造出一个“基本均富”、“文化包容”的超和谐人类社会。
4、以上三条每一条在实际的操作当中都困难重重,必须树立坚定的决心和强大的执行力。


【四、费米悖论】
1、宇宙间的每个生物文明都必将经历这道“生死考验”,成功的概率非常低。
2、包括人类在内的绝大部分生物文明都没有越过这道坎,基本都将毁灭。

楼主:末日AI

字数:791

帖子分类:游戏地带

发表时间:2019-01-27 12:47:49

更新时间:2019-03-05 08:13:19

评论数:1条评论

帖子来源:天涯  访问原帖

下载地址:TXT下载

 

推荐帖子

热门帖子

随机帖子