GPT-4 到底属不属于通用AGI的范畴?

Altman 表示暂且不纠结其具体定义,只从“I know it when I see it”的角度去思考。当一个事物出现之前,人们很难具体想象或理解得到它到底到哪种程度。

Altman 认为, 所有不能大大增加人类科学知识综合的系统, 不能发现、发明,推动基础科学的智能, 都不是超级智能. 要做到这一点,人们还需要在相当重要的方面扩大 GPT 范式,而目前在这方面还没有太多 Idea,还需要再摸索有什么值得尝试的地方。

AI 是否会“觉醒”?

Altman 的态度是:人们围绕 AI 的一些恐惧可能并不会成为现实。人类因为天生对改变、不确定性惧怕,面对新的工具,也会因为其过于好用而感到害怕。但 Altman 指出,哪怕在 AI 非常强大之后,还是无法代替人。

“人们仍然喜欢戏剧性,喜欢我们有的、而 AI 没有那些缺陷。”Altman 说。

怎样判断 AI 是否拥有“人的意识”?

Altman 提到了一些用于判断的测试。比如 OpenAI 首席科学家 Ilya Sutskever 提出的标准:如果你训练模型的时候,对数据集做非常精心的设定,确保在训练过程中 AI 不接触到“意识”、主观体验或任何类似的东西,然后你和这个模型讨论一些它没有训练过的东西,如果模型对于你说的大部分内容都不理解,但当你描述意识的主观体验,模型却立即回应“知道你在说什么”时,那可能就意味着 AI 可能发展出了意识。

在电影《 机械姬 》最后,片中的 AI 机器人机械姬逃出实验室后,露出了一个开心的微笑。这时没有别人在场,所以她是在为自己、为自由而笑。《机械姬》的导演认为,“为自己而笑”可以作为一个“AI 是否具有意识”的图灵测试。

Ex Machina

对未来 AI 的期许?

Altman 的说法是:解释所有物理现象,解决所有未解之谜。

接下来 OpenAI 不会执着于模型参数大小(Parameter count race),而是最看重如何实现最佳性能。

最后

Altman 告诉我们,GPT-4是人类迄今所实现的最复杂的软件,那 GPT-4 背后的 OpenAI 为什么这么强?Altman 总结了一下。首先是做事的态度是探求真理(truth seeking),做一切能达成最优表现的事,不管它是否优雅。

Altman 依然亲自审核及批准 OpenAI 的每一个招聘决定,招聘的优先级在团队工作中非常重要;同时也要给予团队成员足够的信任和自主权,才能实现高速发展。