如何在本地实现RSI?我们与StartLux的CTO深入探讨

上周六,25位菲尔兹奖得主联合发布声明,表达对人工智能在数学领域应用的担忧,指出这种现象可能导致数学本质的丧失。陶哲轩强调情况紧急,他们选择迅速发表该声明以引起关注。此声明并非反对AI进入数学领域,而是针对AI公司利用「攻克著名难题」作为成就的做法,认为这将对数学共同体真正重视的理解和概念造成威胁。

就在声明发布几天前,OpenAI宣布,其内部模型通过数万个智能体协作,历时88小时成功证明了纳维-斯托克斯存在性与光滑性的一部分,且不打算申请相关奖金。这引发了关于该模型是否借鉴数学家的思路的讨论,并可能导致数学研究者对云端AI的警惕,但本地AI的能力尚显不足,传统上人们仍倾向于依赖云端。

然而,情况正在变化。半个月前,中国信通院发布的报告显示StartLux开发的本地模型在AI大模型基准测试中排名第二,仅次于一款参数更多的模型,表现引人注目。这一成绩引发了对其高分缘由的关注,StartLux团队透露,70%的实验工作由AI自动完成,研究人员主要负责设定目标和标准。 球友会官网

该团队探索的关键方向是递归自我改进(RSI)。在OpenAI的一篇博客中提到,至8月中旬,其研究组织消耗一人类工作日需配备3.1个Agent工作日的算力,其探索的风险也引发了对RSI安全性的讨论。StartLux旨在将RSI的理念融入个人电脑中,以便用户能在本地进行AI的自主进化。

在与StartLux联合创始人兼CTO郭权玮博士的交流中,他详细阐述了自我改进的五个级别,并指出目前的自动化执行已经超过95%。他分享了一些量化实验数据,显示不同模型之间的表现差异,并强调探索自由与权限的独立性。

总体来看,StartLux希望实现AI作为「个人模型」的进化,让其在用户的支持下成长,形成定制化的发展路径。接下来,我们将进一步跟随郭权玮博士,了解StartLux在本地实现RSI的详细探索。 球友会官网