“AI大神”戴文渊谈AI进化隐忧：利用技术搞破坏，是眼前最大的风险

近日，“AI大神”、第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。

在与格隆的对话中，戴文渊在谈到AI的进化隐忧时指出，在一个可预见的时间内，还是可控的。

碳基生命利用 AI 去毁灭碳基生命离我们更近。

他担心大家花过多时间担忧短期不会发生的事，反而不太关注更近可能会发生的事情。

随着AI的进化，AI会否产生自主意识控制或奴役人类的担忧愈来愈多。

不过戴文渊认为，在一个可预见的时间内，还是可控的。

首先，这样的能力不是很多人能做的到，现在极少人能做到这样，并且要做到这样的效果需要消耗大量的资源。

如果我们发现，当 AI 有了这方面能力以后，我们可以及时的切断这些资源。

第二个，以这一代的AI基本理论基础，它需要人类去设置目标，而后面 AI 做的所有的事情都是基于人类设置的目标产生的结果。

如果发现 AI 发生了一些意想不到的事情，那我们可以召集一些最顶尖的科学家去研究是不是目标设置的有问题。

如何去修正目标、如何通过修正目标让 AI 不要去做这些事情，这些在他看来，至少可预见的时间内，都还是可控的。 戴文渊表示，作为 AI 从业者，他更担心的不是AI 有了自主的意识去替代人类或者去奴役人类，而是大家花了过多的时间去担忧一些短期不会发生的事情，而更近可能会发生的事情反倒不太关注。 在他看来，这一代的 AI 取决于人类设置的目标。设置一个好的目标， AI 就在做好的事情；设置不好的目标， AI 就会干不好的事情。

另外一个方面， AI 所获取的成本其实在降低。当这个成本降低到一定的程度后，最需要担心的不是 AI 本身，而是我们人类当中不好的那部分人。 因为每个人的想法都会有不一样且又很难控制，这里面就会产生很多不可控因素。

这个不可控因素如果没有 AI 叠加，在过去每一个人的破坏力是有限的，社会总体是可控的。

但如果由于 AI 门槛不断下降，人破坏力得到提升，这个时候 AI 对社会的影响就是我们不可忽视的地方。

戴文渊也提出了自己的的担心和焦虑。他希望让公众更多的关注到这个点上，不过戴文渊也表示，现在整个社会形态下，没有一个特别好的解法。所以在 AI 成本进一步下降之前，可能需要一种新的社会组织形态，才能控制住这些不可控因素的影响。