长推:迅速到来的不可控AGI时代

原文作者:Tang [email protected]

原文来源:[email protected]

%i%ignore_a_1%nore_a_1%历史从未像现在这样危险过。大多数人并没有意识到AGI的危险和它到来的迅速程度。在这命运攸关的时刻,实际控制事情发展精英并没有停止让AGI出现的意愿,事情在不可控的路上越走越远。

人类伦理和存在不是这些精英的首要考量因素。西方科技精英们对获取“神”的能力上瘾,即便这种能力最终将成为点燃熊熊烈火的火把,将我们的文明烧个干净。而资本和被资本催命的创业者们想在烈火燃烧之前吃最后一顿晚餐,没有人停下。

考虑到如今的国际既有秩序正在走向崩溃,通往AGI之路更难以阻挡,就如同二战时各国都在争相研发原子弹。有生之年,我们可能看到AGI用于战争,看到AGI作为超级指挥官入侵他国的网络系统,与人类作战。我们可能看到完全丧失人性、不留感情的超大规模屠杀。

AGI的毁灭能力将远超核弹。没人知道,召唤出不加道德约束的“超神”的最终结局是什么。也许那个不详的答案是文明的终结:We will all die。但人类的疯狂之处是:没有人站出来阻止这个结局。我们这颗蔚蓝星球上最重要的政府领导者们已是白发苍苍,在这样剧烈的变革和危险面前难以做出快速应对,并陷入失语。寄予厚望的监管偏偏发生在生产力军备竞赛的背景下。这样下去,可做的事情会越来越少。

在接下来的岁月里,失去工作并不可耻,不结婚没有孩子也并不可耻,但每个人都必须面对这样一个问题:自己究竟为何而活,作为人的尊究竟为何而存在。UBI仅能解决个人温饱,但解决不了大规模失业带来的社会价值丧失、攀登行业高峰、社会关系断连以及深深的存在主义危机等问题。一些人可以接受像宠物那样活着(或许有一天人类将求而不能),但不是所有的人都可以。接下来,精神机会逐渐入侵人类社会。在这个瘟疫肆虐后的世界,在高失业与经济危机蔓延的世界,在战争的脚步越来越响的世界,在人类生育意愿极低的时间,我们终于迎来了最残酷的Buff:人类失去存在意义的世界。

一些可以做的事情:尝试将体验和过程作为价值与目的,而不是将结果作为目的;转向对心灵而非对知识以及智力的关注;转向语言、神学与宗教研究,在新的体系下安放AI与人类的关系;如果要创业,转向那些人类做的比AI差但人们依然愿意购买人类所生产出来的产品的行业。

最后,做自己喜欢做的事情,因为社会所构建的规训在末日前毫无意义。

转载声明:本文 由CoinON抓取收录,观点仅代表作者本人,不代表CoinON资讯立场,CoinON不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。若以此作为投资依据,请自行承担全部责任。

声明:图文来源于网络,如有侵权请联系删除

风险提示:投资有风险,入市需谨慎。本资讯不作为投资理财建议。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年3月28日 上午2:26
下一篇 2023年3月28日 上午2:26

相关推荐

长推:迅速到来的不可控AGI时代

星期二 2023-03-28 2:26:33

%i%ignore_a_1%nore_a_1%历史从未像现在这样危险过。大多数人并没有意识到AGI的危险和它到来的迅速程度。在这命运攸关的时刻,实际控制事情发展精英并没有停止让AGI出现的意愿,事情在不可控的路上越走越远。

人类伦理和存在不是这些精英的首要考量因素。西方科技精英们对获取“神”的能力上瘾,即便这种能力最终将成为点燃熊熊烈火的火把,将我们的文明烧个干净。而资本和被资本催命的创业者们想在烈火燃烧之前吃最后一顿晚餐,没有人停下。

考虑到如今的国际既有秩序正在走向崩溃,通往AGI之路更难以阻挡,就如同二战时各国都在争相研发原子弹。有生之年,我们可能看到AGI用于战争,看到AGI作为超级指挥官入侵他国的网络系统,与人类作战。我们可能看到完全丧失人性、不留感情的超大规模屠杀。

AGI的毁灭能力将远超核弹。没人知道,召唤出不加道德约束的“超神”的最终结局是什么。也许那个不详的答案是文明的终结:We will all die。但人类的疯狂之处是:没有人站出来阻止这个结局。我们这颗蔚蓝星球上最重要的政府领导者们已是白发苍苍,在这样剧烈的变革和危险面前难以做出快速应对,并陷入失语。寄予厚望的监管偏偏发生在生产力军备竞赛的背景下。这样下去,可做的事情会越来越少。

在接下来的岁月里,失去工作并不可耻,不结婚没有孩子也并不可耻,但每个人都必须面对这样一个问题:自己究竟为何而活,作为人的尊究竟为何而存在。UBI仅能解决个人温饱,但解决不了大规模失业带来的社会价值丧失、攀登行业高峰、社会关系断连以及深深的存在主义危机等问题。一些人可以接受像宠物那样活着(或许有一天人类将求而不能),但不是所有的人都可以。接下来,精神机会逐渐入侵人类社会。在这个瘟疫肆虐后的世界,在高失业与经济危机蔓延的世界,在战争的脚步越来越响的世界,在人类生育意愿极低的时间,我们终于迎来了最残酷的Buff:人类失去存在意义的世界。

一些可以做的事情:尝试将体验和过程作为价值与目的,而不是将结果作为目的;转向对心灵而非对知识以及智力的关注;转向语言、神学与宗教研究,在新的体系下安放AI与人类的关系;如果要创业,转向那些人类做的比AI差但人们依然愿意购买人类所生产出来的产品的行业。

最后,做自己喜欢做的事情,因为社会所构建的规训在末日前毫无意义。