新闻（中文翻译版）

本周早些时候，OpenAI成为最新一家公开支持KOSA（儿童在线安全法案）的科技公司。该公司试图将此框架为对儿童安全的支持，实际上这是政治交易、对良好公共形象的渴望，以及构建监管护城河的策略。 KOSA将通过更安全的默认设置、扩展的家长控制和对在线危害的更大问责制，帮助为年轻社交媒体用户创造更强的在线保护。 然而，儿童安全的前进道路还需要专门针对人工智能的规则。我们相信，KOSA与我们在联邦和州层面的工作是互补的。年轻人应能以安全、适龄的方式受益于人工智能，并获得来自现实世界的支持，包括危机资源的推荐和在严重安全情况下的家长通知。这意味着要从一开始就建立保护措施，为家庭提供更好的工具，并在风险变为危害之前承担起减少风险的责任。 更广泛的观点同样重要：人工智能公司仍有机会在这些技术完全嵌入日常生活之前，尽早建立保护措施。OpenAI首席全球事务官Chris Lehane表示：“我们不能重蹈社交媒体崛起时的错误，那个时候对青少年的更强保障措施在这些平台已经深深嵌入年轻人生活后才被实施。” 然而，这一切显然是无稽之谈。正如我们反复解释的，KOSA的基本机制存在深刻问题，并会造成实质性损害。它本质上会让互联网对所有人变得更糟。KOSA的核心是一项监视和审查法案，而这正是我们今天互联网所不需要的。 虽然它被包装成与“儿童安全”这样的主题无可反对，但这往往是可怕权利剥夺法律的幌子，而KOSA也不例外。 尽管如此，许多科技公司还是支持了它。原因是什么呢？因为他们知道，这让小型创业竞争者的生活变得更加困难。它将增加的合规成本对较小、资源较少的公司来说是毁灭性的。然而，对于拥有丰厚资金的大公司来说，这则给了他们优势。 OpenAI可能比大多数同行更需要这种政府支持的保护，以对抗不断增长的竞争。 几乎就在三年前，我曾写过一篇文章，谈论Sam Altman前往国会，要求联邦政府对人工智能领域进行监管，并称其为“Sam Altman希望政府为他打造护城河”。正如我当时指出的，人工智能研究者得出的结论是，任何前沿人工智能模型几乎没有真实的竞争优势，且这种情况从那时起只在恶化。各大领先人工智能模型之间的竞逐意味着它们在功能上都是可比的，越来越多的开发者意识到，由于可以将上下文、计算机和工具单独分开，底层大型语言模型的技术正迅速变得像商品一样，任何一个都行（这种情况正随着开放式权重/本地模型的不断进步而变得愈加微妙）。 尽管OpenAI拥有庞大的用户基础（是历史上增长最快的科技公司之一），但不清楚这些用户是否特别忠诚。实际上，有迹象表明，当OpenAI做出愚蠢的决定时，许多用户会迅速离开。 考虑到这一点，所有大型人工智能公司都在寻求锁定用户的办法。大多数公司并没有完全走上封闭的道路（意识到这可能会驱离最有价值的用户）。大体上，OpenAI、Anthropic、Google等公司的侧重点是增加更多功能，使留在平台上的便利性大于更换底层大型语言模型的成本。这种竞争加上各种关于他们愿意用订阅计划补贴多少的实验。 但让政府摧毁竞争者，或者建立“强制性”工具来创造锁定，可能也是通向这种结果的另一条路径。这正是KOSA可能导致的结果。它绝对不会保护孩子。实际上，所有证据表明，它会使许多边缘化儿童面临更大的风险。 尽管如此，它却为那些大公司创造了一种监管护城河。 除此之外，还有什么公司比OpenAI更渴望获得一条关于“保护儿童”的头条新闻呢？该公司曾被指责为对自杀和其他有害行为的“责任者”。即使这些指控和诉讼是误导性的（确实如此！），但文化上这一信息已经深入人心。我听到很多人将ChatGPT称为“自杀机器”。 因此，如果你需要一个好的头条来声称你在“保护儿童”，并且以某种法律对你的业务几乎没有直接影响，同时又对空间内的一些竞争对手造成损害（更不用说对更广泛的开放互联网的影响），那为什么不呢？对于OpenAI的理由，难以不抱有怀疑。 另外，人工智能公司可能把这当作一种政治交易。虽然KOSA对人工智能工具会有一定影响，但它更针对社交媒体平台而非人工智能。而OpenAI在这里所押下的赌注是：“嘿，我们支持KOSA，你们就去掉针对人工智能的法律。” OpenAI的Chris Lehane宣布了这一支持，并在每一份相关的新闻稿中都露脸，他因政治诡计而闻名。他是一名政治运营者，而非科技或政策专家。你召集他是为了达成协议，而不是为了推动儿童安全的原则立场。这正是这里发生的事情。 你可以看到KOSA的作者欣然利用OpenAI的支持，错误地声称只有Mark Zuckerberg反对该法案： 是的，Richard Blumenthal参议员选择在X上发声，而该平台的运营者明确表示他认为Blumenthal的政党是邪恶并需要被消灭，利用这个平台谎称反对KOSA的唯一人是“Mark Zuckerberg及其游说者”。这无视了大量民间社会和公共利益团体，这些团体已明确表示该法案的危险。 Marsha Blackburn（她对KOSA会让LGBTQ声音沉默表示关注）发布了一条关于这一支持的无趣新闻稿，称： “口头承诺不会拯救生命，国会必须采取行动为虚拟空间建立护栏。我期待主办一场听证会，讨论加利福尼亚州和新墨西哥州的判决应如何促使国会追究大科技公司利用儿童谋取利润的责任。” 什么？尽管加州和新墨西哥的裁决非常糟糕，但似乎表明法院已经认为他们有权命令公司做不可能的事情，神奇地阻止任何坏事发生在也在使用互联网的孩子身上。 这一切都只是表面。没有人诚实。Blackburn想审查她认为“对孩子危险”的LGBTQ言论，因为这让她感到恐惧。Blumenthal希望终止加密和科技公司保留信息的能力，因为他一直以来都是警察，想要监视你的孩子。而OpenAI则希望国会将他们的坏政策引向社交媒体公司，而不是人工智能公司。 而我们这些互联网用户只不过是权力掌控者疯狂权力梦想的附带损害。

理查德·索彻在人工智能领域已活跃多年，以创办早期聊天机器人初创公司You.com而闻名，之前则因其在Imagenet的工作而著称。现在，他加入了新一代专注研究的人工智能初创公司Recursive Superintelligence，该公司总部位于旧金山，周三正式披露获得6.5亿美元融资。 索彻的团队汇聚了众多知名AI研究人员，包括彼得·诺维格和Cresta联合创始人Tim Shi。他们正致力于创建一种可以自我改进的递归型人工智能模型，使其能够自主识别自身弱点并进行重构，而无需人工介入——这一直是当代人工智能研究的圣杯。 在发布后，我通过Zoom与他进行了对话，深入探讨了Recursive的独特技术方法，以及为什么他不认为这个新项目是一个“neolab”，即优先考虑研究而非产品构建的新一代人工智能初创公司。 这次采访经过了剪辑以确保简练和清晰。 最近，递归的概念受到越来越多的关注！你认为自己的方法有什么独特之处？ 我们的独特方法是利用开放性来实现递归自我改进，这是目前尚未实现的。对许多人而言，这是一个难以捉摸的目标。很多人认为只要进行自动研究，就能达到递归自我改进。你可以让人工智能改进其他事物，无论是机器学习系统，还是你写的信件，或其他任何东西。但这并不是递归自我改进，这只是简单的改进。 我们主要关注的是构建真正递归、自我改进的大规模超级智能，这意味着研究思想的构思、实施和验证过程将是自动化的。 首先，它会自动化人工智能研究思想，最终甚至可以实现任何类型的研究思想，甚至包括物理领域。当人工智能自我进行研究时，这种能力尤为强大，同时它也会对自身的不足产生新的自我意识。 你提到的“开放性”这个术语，有特定的技术含义吗？ 有的。事实上，Tim Rocktäschel，我们的联合创始人之一，在Google DeepMind领导开放性和自我改进团队，特别研究过世界模型Genie 3，这正是开放性的一个典范。你可以告诉它任何概念、任何世界、任何代理，它都会创建出来，并且是交互式的。 在生物演化中，动物会适应环境，其他动物则会对这些适应进行反应。这是一个可以持续数十亿年演化的过程，各种有趣的事情不断发生。正是通过这样的过程，我们才在头部进化出了眼睛。 那么，红队（red teaming）也必须在大型语言模型的背景下进行。基本上，你试图让大型语言模型告诉你如何制造炸弹，同时确保它不会这么做。 现在，人类可以长时间坐在那里，想出人工智能不应该说的有趣示例。但如果你用第二个AI测试第一个AI，而这个第二个AI的任务是让第一个AI尝试说出所有可能的坏话。然后它们可以进行数百万次交替迭代。 你实际上可以让两个AI共同进化。一个不断攻击另一个，然后提出的不仅是一个角度，还有许多个不同的角度，因此出现了彩虹的比喻。然后你可以为第一个AI接种，使其越来越安全。这是Tim Rocktäschel的构想，现已在所有主要实验室中使用。 你怎么知道何时工作完成？我想这可能永远无法完成。 有些事情永远不会结束。你总是可以变得更聪明，可以在编程和数学上变得更好等等。智能的确有一些界限；我现在正试图将这些界限形式化，但它们是天文数字，我们离这些极限还有很远。 作为一个neolab，你似乎应该做一些主要实验室不做的事情。所以这部分的暗示是，你认为主要实验室不会通过现有的工作达到递归自我改进，这样说是否公平？ 我不能评论他们的工作，但我确实认为我们的方法有所不同。我们真正拥抱开放性的概念，而且我们的团队完全专注于这一愿景。过去十年，团队一直在这个领域进行研究并发表论文，并且有显著推动该领域发展并交付实际产品的记录。比如，Tim Shi将Cresta打造成独角兽，Josh Tobin则是OpenAI的早期成员之一，最终领导了他们的Codex团队和深度研究团队。 有时我确实对“neolab”这个分类感到困惑。我觉得我们不仅仅是一个实验室。我希望我们能成为一家真正可行的公司，开发出受人喜爱的优秀产品，积极影响人类。 那么你计划何时推出第一款产品？ 我对这个问题考虑了很多。团队取得了巨大的进展，我们可能会提前项目时间表。但确实会有产品面世，您需要等待的时间是几个季度，而不是几年。 有关递归自我改进的一个理论是，一旦我们拥有这种系统，计算能力就成为唯一重要的资源。运行系统的速度越快，它的提升越快，而外部的人为活动并不会真正产生影响。因此，竞争就转向了我们能投入多大的计算能力。你认为我们正朝着那个方向走吗？ 计算能力不容小觑。我认为未来，一个非常重要的问题将是：人类愿意花多少计算能力来解决哪些问题？这是癌症，这是病毒——你愿意先解决哪一个？你愿意提供多少计算能力？这最终成为资源分配的问题。这将是全球最大的议题之一。