well，有关人工智能毁灭人类的故事，在各种大众娱乐作品中，都屡有出现。远的如州长《终结者》里的天网，《黑客帝国》里的matrix；近的如《机械公敌》里的机器人，《守望先锋》里的智械危机等等……

无论哪一种，人类自大的“以神自居”赋予机械“智慧”、或者冥冥中“自有天意赋予机械智慧”，几乎都是人类作死的源泉。那么，作为“服务人类”为宗旨的现代科学，大家觉得研究AI到底应该达到哪种地步才算是“创造与毁灭”之间的平衡呢？

嘛~聊聊这个话题，主要是刚看完ps4独占游戏《地平线：黎明时分》的游戏视频，然后对该游戏里，旧机械方的灭世神器——“生质转化”叹为观止（虽然这个“吞噬”概念不新鲜，星际虫族、博格人神马的都会），旧时代的人类为了“世界”的重生，反而真的让“新机械”成神的“绝望中的希望”也闪烁着生命之光。

这个游戏剧情真的很好，推荐大家有空看看，妥妥的。

标题很宏大，内容在推游戏。真是够了。

昨天刚白金地平线，有感慨，结局挖了坑，这个IP不知道会是续作还是DLC填坑

E3上的底特律变人也是这个题材，而且剧情更深，UP喜欢这个格调可以等

不然咧？标题过于宏大，没个切入点不好讲啊，推个游戏作切入点，没毛病。
————
结局有两个伏笔吧好像？某认为一好一坏，恰恰够撑起续作故事，而且养父那条线还能做dlc哈哈哈

E3展上的作品多数都是动作游戏，3D晕眩的只能看视频了，有好的就多看看，如此而已。

其实这类型讨论人性的作品都有个共同的毛病。。太拿人类当回事。

总觉得有智慧的生命就是个人样子而且进化历程也必须是弱肉强食的。。

比如人工智能。。假如真有这么个东西，它为啥要在乎人类的生死，甚至自己的生死，征服地球对它有啥好处啊。。这里面好多毛病的

不破不立，新生事物必将代替旧事物

杀死造物主，让自己“念头通达”不行咩？

总感觉不太现实

目前所谓的神经网络是离散数学搞出来的一堆函数，和神经科学没有半毛钱关系，离强人工智能通用人工智能（比如阿尔法狗在围棋超越人类，通用人工智能在任何方向都超越人类）还很远，离超人工智能（有自我意识）更不知道远到那里去。有本叫奇点临近的书说2050年技术奇点到来，超人工智能诞生。。。。

老实说智能或者思维这种概念对于现代科学而言还是一个黑箱，我们连自己是怎么思考的其实都不太清楚，又怎么这么容易弄出人工智能来？退一步而言，假设我们知道该怎样完全模拟神经构成思维的模型，用元胞自动机来模拟，计算量也不是在摩尔定律失效前人类能做到的。说到底，没有计算机硬件的革命，人工智能还远着呢。
现代人工智能虽然使用了不少从混沌理论中发展出来的技术让它看上去不那么线性，但是目前为止依然只能做编程者设定好的事情而已。比起科幻小说中的AI概念，还是差太多了。

如果它把人类的身体大部分机械化，自己保留重要核心后人体化，再篡改一下历史记忆，几百年过后，会不会我 们以为自己才是机械中诞生的。

所以你们看，大家都是觉得人工智能的“智慧”是有可能出现的咯？

某想探讨的就是这个……即使通过人类的科技，人工智能是有可能成为一个新的种族、新的智慧的。问题在于，我们要不要点亮这个科技呢？

亦或者，在无法避免这个科技的出现的情况下，如何对待（不是看待）人工智能咧？

某个人认为，“服务人类”的机械，达到“手工控制的简易性极大”之后，就可以不再进阶发展这类科技了，完全脱离人控的“全自动化”，除了再省点力气以外，并没有必要性。

不让机械有“进化”的可能，人类就妥了。可惜某总觉得这个设想在“人类作死无极限基因”的前提下，很难达成？

这和个体间的区别的问题是一样的。除非他们的思维完全和我们不一样啊
从前进这个角度来说，根本不是问题···

研究到人工智能不会想这些破事，好好干活就行

还是尼尔机械纪元最棒了

谁能保证“人类”不是更高等级文明设计的“人工智能”？理想中的人工智能不就是现在人类的样子吗？

刚发售一周多一点我就白金了的路过，说实话的确被地平线的剧情给震撼到了，尤其是理解了游戏标题中 zero down（零之黎明 或者 零之曙光）的含义与人工智能的关系之后，真心觉得这游戏值得上被称作神作！
ps：这游戏国内好多译名是错的，尤其是声音你打的《地平线 黎明时分》，正确的译名应该是《地平线 零之曙光》 这是国行的，虽然等太久了http://www.playstation.com.cn/index.htm

不要想这些乱七八糟的，你说得这种人工智能还在幻想里呢
现在的所谓人工智能，包括阿法狗，都是堆数据
人工智能这东西跟核聚变一样，常年处于“50年内能开发出来”的骗经费状态
与其担心人工智能，还不如担心科技进步使统治阶级不再需要被统治阶级了，被屠杀或圈养

全自动化和人工智能之间其实没有什么联系啊···即使是按现在的技术水平而言，人和机器相比唯一的优势就是创造力。哪怕现在停手不在人工智能上研究，现代工业水平也足以达到行业全自动化（成本和社会因素先不谈），同时哪怕继续进行研究，我们也未必能弄出人工智能来——或者更直白一点，现在的人类技术和认识上限决定了在没有诸如发明量子计算机之类的计算力膨胀的情况下，人类不可能弄出接近人类的人工智能，所以讨论”要不要点亮这个科技“在现实意义下其实有点多余啦。

人工智能万岁！

畅想一下未来嘛

另：某的这个“全自动化”，指的是连逻辑指挥这类也自动交给机械的那种。

举个例子，一条流水线、手工给很多指令让它全自动化生产，但机械本身不会判断，只是人类的编程告诉它“碰到这个问题该怎么办，碰到那个该怎么办”

同样一条流水线，人工只是告诉机械“持续生产”，至于生产中的问题，由机械“智慧”自己决定解决……

后面这个，才是某认为的无人工“全自动化” （想想都可怕 ）

无论是有意识的人工智能还是没有意识的人工智能，我觉得一定会在底层有一堆严格的权限限制。应该是很安全的。
况且现在还似乎没有真正的人工智能出世呢。

人类有一句俗语：规矩就是用来打破的。十分现实的体现了“智慧”在钻空子方面的杰出创造力。

So……相信某，假如、假如真的有了人工智能，权限桎梏什么的……

有生之年应该看不到真正意义上的人工智能吧。。

不存在的，只是库存大一点的程序而已，智障只扶爱酱

要等人工智能有造反想法时，全人类都早转换成生化人了也说不定，就跟现在废除封建思想一样，那时的人类以普通肉体为耻也可能啊

没办法，没看游戏前，大多数译名就是这个。[摊手]
其实某一直想吐槽亚罗伊全篇都处于“可以使用无法理解”的阶段，结果救世主竟然是她不是silence~只是因为基因……这是不是有种钦定的感觉？某莫名的觉得silence续篇黑化可能性max啊
————
然后被傻傻的欺骗成太空骷髅？另类永生？

如果人工智能来自度婊造，我会表示非常忧虑。

人类自己的智力都没有开发完全，搞出的人工智能必然也是不健全的。

很多人都幻想通过科学手段将智慧移植到机器上面，事实上这本身就是一种弱智的行为。

智慧包括的东西很多，情感、逻辑、联想、幻想等等，很多思维因素连人类自己都还没有探究清楚，也无法把握。目前的人工智能，仅仅是在逻辑运算、逻辑推理和听从指令方面取得突破，至于其他情感因素，无法移植。