早在OpenAI在旧金山湾区还只是一个家喻户晓的名字的时候，该公司的联合创始人兼首席科学家伊利亚·苏斯克维尔就警告说，他的公司正在开发的技术将改变世界——而且可能不会以造福人类的方式改变世界。

　　“人工智能是一件伟大的事情，因为人工智能将解决我们今天面临的所有问题，”Sutskever在2015年发布的一部新迷你纪录片中对纪录片导演Tonje Hessen Schei说。“它将解决就业问题，解决疾病问题，解决贫困问题。但这也会产生新的问题。”

　　沙伊的这部短片拍摄于2016年至2019年之间，讲述了人工智能行业最不可思议的人物之一，探讨了他在OpenAI开发技术时的心境，该技术为现在病毒式传播的ChatGPT提供了基础。很明显，甚至在该公司真正改变世界之前，构建其人工智能的人就知道他们正在制造的东西将是革命性的——并且已经在努力解决其影响。

　　在这部新短片中，Sutskever似乎对人工通用智能(AGI)很快就会实现的潜力非常乐观。尽管定义不同，但这位OpenAI联合创始人将AGI描述为“可以做任何工作或人类所做的任何任务的计算机系统，而且只会做得更好。”

　　虽然他没有直接提到，但这位机器学习专家在2022年初声称，一些法学硕士可能“略有意识”，他支持人工智能对齐的原则，努力确保现在和未来的人工智能被创建为“与我们的目标保持一致”，无论这些目标是什么。

　　Sutskever接着将任何不受约束和不一致的未来人工智能的目标与我们人类熟悉的行为进行了比较，我们对动物不好，不是因为我们讨厌它们，而是因为这样做很方便。

　　“我认为人类对待动物的方式是一个很好的类比，”他说。“并不是我们讨厌动物。我认为人类爱动物，对它们有很多感情。但是当我们在两座城市之间修建高速公路时，我们不会征求动物的许可。我们这么做只是因为这对我们很重要。”

　　“我认为，默认情况下，这就是我们和人工智能之间的关系，”Sutskever继续说道，“人工智能是真正自主的，代表它们自己运作。”

　　这是一个相当可怕的想法，但OpenAI的首席科学家似乎并没有对此表示太大的关注，只是说人类“正确编程(agi)”将是“极其重要的”。

　　“如果不这样做，”他总结道，“那么进化的本质，自然选择的本质，就会倾向于那些优先考虑自身生存的系统。”

　　一点也不凄凉!