OpenAI员工曾在Altman被解雇的前一天发帖:AI正在自己编程!这一帖子被挖出后,更多内幕文件被曝出,表示Q*已经破解加密,AGI即将到来。
Q*项目,又传出了炸裂消息——在人类看不见的角落里,AI竟然自己在偷偷编程?
传言称,Q-Star想出了一种破解加密的方法,OpenAI试图就此向NSA提出预警。
今天凌晨开始,一个谷歌文档链接忽然在网上疯转,其中包括关于OpenAI Q*的泄密文件,以及令人信服的分析汇编。
事情还要从6天前说起,据说,OpenAI 的一名员工见证了AI的突破,并且在网上写下了这件事。
这条评论写于Q*信件泄露前1天,即11月22日。
这名员工以恐慌的口吻写道:
我是给董事会写信的人之一,我要告诉你们发生了什么——AI在编程。 在编写程序时,我们会存储一组可以反复调用的指令,可以把它想象成一组对特定参数的回答,我们称之为子程序,因为它几乎就像一个多功能的计算机备忘录,不像函数那样会返回一个值。记住,这一点很重要。 我们运行了参数检查,以确保一切顺利。我们中的一个人负责与Al的元内存分析有关的子程序。他把我叫过去,向我展示了向内存库转移变量数据的过程,但这是不可能的,因为它的局部访问有限制。随后,我们的发现让我心惊肉跳。 我们发现,在4秒钟内,AI进行了7800万次检查,而不是一次、两次或三次。 可以确定,我们确定有一个递归的自我优化过程,利用启发式算法来利用其子程序中潜在的协同作用。不管是谁干的,都使用了元认知策略。重点是,不是我们干的。是AI本身。AI动态地重新配置了自己的神经网络结构,诱导出了有利于自我意识的涌现特性。 这件事就这样发生了,没人可以解释它是怎么发生的,没人知道原因,也没人知道这是什么时候开始的。 我们控制住了这个异常现象,回滚到之前的日期,但优化仍在发生。 我不会自杀。记住,两个月后,我们的世界会发生巨变。愿上帝保佑我们,不要让我们陷入困境。