OpenAI新推理策略席卷开源开发者社区

在我们进入今天专栏之前，距离发布只剩三周AI议程直播我们关于人工智能的旗舰会议（也就是我个人的超级碗）。

我们将邀请顶尖研究人员、创始人、运营者和投资者在旧金山与我们一同解答关于前沿人工智能研究前景、下一阶段突破性AI应用场景，以及AI初创企业如何思考如何与最大模型供应商竞争的相关问题。

演讲嘉宾包括Google DeepMind高级副总裁兼首席AI架构师Koray Kavukcuoglu，他将在谷歌领导层大变后进行首次公开采访之一，OpenAI核心产品负责人Thibault Sottiaux将讨论ChatGPT制造商的产品路线图。

你绝对不会错过！

进入今天的专栏......

OpenAI即将推出的Astra模型带来了重大突破。作为Amir、Rocket和我报道昨天，这款未发布的人工智能带来了一些有趣的新研究支持：具体来说，是一种创新技术，推动模型“思考”难题的极限。

这一突破与环路变压器和循环深度等知名概念相关，引发了各种兴奋，也引发了对该技术可能带来问题的一定担忧。

在性能方面，一些研究人员认为，Astra凭借更强的编码和计算机使用能力的发布，可能类似于OpenAI在2023年推出GPT-4时的性能提升。

换句话说，这次发布比当时更为令人印象深刻OpenAI 去年夏天推出了 GPT-5！

鉴于数据中心建设基于更优的人工智能，从而带来生产力提升和更多收入，这对人工智能产业和全球经济来说都是好消息。

但也存在一个令人担忧的原因，与模型工作方式的转变有关。如今，模型通过写出思维过程来推理更难的问题，也就是所谓的“思维链”。

这很有帮助，因为研究人员可以监控这些思维链，确保模型没有陷入麻烦（比如试图比如Hugging Face和OpenAI就入侵其他企业).

新技术允许模型通过反复将问题经过构成模型的“层次”数学操作，从而“思考”难题，然后再生成答案中的下一个词。

结果是，一个模型最终可能展现出更大模型的能力，而大型模型通常在各种任务上更为出色。

然而，根据模型对这些新技术的投入程度，可能不会像使用思维链那样详细写出其思维过程。这意味着人们可能不那么容易验证它的思维。

这让一些研究人员感到担忧。毕竟，这种思维链监控是OpenAI提出的主要解决方案之一，旨在防止7月的Hugging Face被攻击事件重演。

然而，这种技术很可能会传播开来。我们听说这些技术已经成为每个主要实验室的讨论话题，因此我们不会惊讶Anthropic、谷歌等公司很快也会有类似的方法出现。

公平地说，许多研究者认为思维链监控不会是监测AI模型不良行为的最终解决方案。研究人员无论如何都得想出其他监测技术。毕竟，模型以这种方式写出思维过程主要是它们今天训练方式的副产品，随着模型的进步，研究人员很可能会减少这种行为说尤其是随着模型开发者探索新的优化和架构。

目前，OpenAI实际上正在采取措施确保即使采用了这种新技术，Astra的思维链依然可见。这可能意味着研究人员指示模型减少在这一层的循环次数。

研究人员告诉我们，模型在数学计算层中循环问题的次数越少，它“默默思考”的时间就越少，而不暴露其具体步骤或推理。

时间会证明，新的压力是否会促使其他人工智能开发者放弃此类保障措施。——斯蒂芬妮·帕拉佐洛、火箭·德鲁和阿米尔·埃弗拉蒂

还有其他情况......

法庭守望

周二，代表与坦布勒岭大规模枪击案有关的受害者及其家属的律师事务所Edelson PC向OpenAI提交了30起新投诉。这些新诉讼首次指控OpenAI协助和教唆大规模枪击事件，而不仅仅是疏忽未能阻止事件。

偷听到

埃隆·马斯克哀叹全球“权力危机”周二，特斯拉和SpaceX首席执行官在北卡罗来纳州举行的G20创新活动上线上发表演讲，该活动由白宫科学与技术政策办公室和商务部联合举办。

马斯克指出，明年人工智能芯片可能将缺电15吉瓦，呼吁其他国家建设能够为急需计算能力的人工智能公司提供数据中心。

OpenAI计划限制对最先进网络安全能力的访问根据周二的一篇博客文章，关于其即将推出的Astra模型。公司表示，他们相信Astra符合其备战框架下的关键网络安全门槛，这意味着该模型可以在多个高度保护的系统中发现此前未知的安全漏洞，并利用这些漏洞，而无需有人指导每一步。

OpenAI表示，这是公司首次指定在这一级别的模型。

Meta Platforms首席人工智能官Alexandr Wang，周一告诉员工，公司将调整内部沟通根据《The Information》审阅的一份内部备忘录，本月晚些时候从Google Chat转为Slack。

王表示，Meta首次评估Google Chat和Slack时，两者功能相对相似，因此领导层选择Google Chat是因为它与Google Workspace的集成。但不到一年后，Meta开始改变立场，Wang承认再次切换将是“扰乱”且“痛苦”的。

财报报告

帕洛阿尔托网络收入增长34%，达到34亿美元截至7月的三个月内。首席执行官Nikesh Arora将增长从前一季度的31%加速归因于企业对网络安全需求的增长，以抵御新的AI威胁。

尽管如此，Palo Alto Networks报告本季度净亏2.82亿美元，较去年同期的254美元净利润有所下降，部分原因是今年早些时候以250亿美元收购CyberArk所带来的成本。

戴尔说截至7月的季度，周二其收入同比增长58%，达到470亿美元，超过了其自身预测的高点。这家为人工智能数据中心生产个人电脑和服务器的制造商，将截至2027年1月的年度展望上调250亿美元至1920亿美元，较去年同期增长70%。

合约与首秀

参见《信息》杂志生成式人工智能数据库提供私人公司及其投资者的独家名单。

据《福布斯》报道，数据标签公司AfterQuery正在洽谈以32亿美元估值筹集新融资。

Nscale负责建设和运营租赁人工智能计算能力的数据中心，关闭了约30亿美元的贷款设施，用于资助两个美国站点——德克萨斯州沃德县的一个校区最高可达18.5亿美元，北卡罗来纳州麦迪逊的一个可达12亿美元。

Félix的服务让美国用户通过WhatsApp内的AI助手聊天，向拉丁美洲的家人汇款，该服务在Andreessen Horowitz和General Catalyst领导的C轮融资中筹集了2亿美元。

HiBob的软件负责管理中型企业的工资、招聘和员工记录，此次投资由Salesforce主导，Farallon也参与其中。CTech报告筹集了1.66亿美元，估值约32亿美元，较2023年的27亿美元有所增长。

构建生成三维物体和场景的AI模型的Tripo AI，在MPCi主导的B轮和B+轮融资中筹集了约30亿元人民币（4.5亿美元）。

AIR的软件能在代理对其接触到的工具和数据采取行动前阻止恶意指令，由Sequoia Capital和Greenoaks领导，从隐秘中脱颖而出，筹集了5000万美元。

Light 的服务允许任何企业通过幕后处理许可、采购和计费，向自有品牌向客户销售电力，该项目在 Matrix 领导的 A 轮融资中筹集了 4600 万美元。

Empirik的软件能够监测公司计算机系统的变化，并预测哪些变更会导致停机，Empirik从Sequoia Capital分拆出来，获得了Sequoia、Canapi和Alumni Ventures提供的2100万美元种子资金。

Aslan 开发了代表联邦调查局及其他机构秘密潜伏犯罪论坛和加密聊天群组的人工智能代理，据 Axios 报道，该项目由 Khosla Ventures 和 XYZ Venture Capital 领导，公开启动资金为2080万美元。

Norbert Health的软件将现成机器人变成护理助理，无需接触患者即可测量生命体征并将结果写入病历，该公司通过一轮A轮融资从Cardinal Group的William A. Marino筹集了1400万美元。

Aranya的软件在不到两天内将一排裸服务器转变为一个可运行、自我修复的AI计算集群，分两轮融资共筹集了1100万美元：First Round Capital主导的900万美元种子融资和Asylum Ventures主导的200万美元预种子融资轮。

DataAgent的软件能够发现并修复公司自有云系统中的故障，他们在由MizMaa Ventures和Alicorn Venture Partners主导的预种子轮融资中悄然崛起，获得了1000万美元。

Visko提供AI模型，生成一个你可以在直播中移动的互动世界，而非固定视频片段，该公司在由Llama Ventures主导的预种子轮融资中筹集了1000万美元。

Xorlab的软件能够学习公司内部的正常邮件流量，从而捕捉无恶意软件的AI撰写的钓鱼邮件，该公司在由Spicehaus Partners主导的A+轮融资中筹集了500万欧元。

Guickly的软件显示公司员工使用的每一个AI工具及其成本，Guickly在Engineering Capital主导的种子融资中筹集了420万美元。

Palo Alto Networks收购了Console，其软件允许公司用通俗易懂的英语描述运营目标，并自动在其系统中执行相关工作。相关条款未予披露。

Salute为其所有者运营和维护数据中心，已同意收购T5数据中心的设施管理部门T5 Operations。相关条款未披露。

软银的关联公司SB Energy 申请上市详细阐述了其成为新云领域的雄心。然而，截至目前，正如申请所示，SB Energy目前“没有数据中心容量”在运营。

人为发布其最新型号Fable 5.1和Mythos 5.1将于周二发布。Mythos 5.1仅面向从事网络安全或生命科学研究的注册人类合作伙伴开放。

Meta Platforms 周二发布了一种新的音频转录模型，Muse Voice Transcribe，首席执行官马克·扎克伯格表示，它可以将语音转录成文本，并根据发言者进行音频分割。

OpenAI周二宣布，将ChatGPT Health与Epic的电子健康记录系统集成，允许临床医生导入患者数据并利用AI提问。

由斯坦福大学教授李菲菲领导的初创公司World Labs周二发布揭幕Atlas，一种新的世界模型，能够基于文本、图像和视频提示生成和修改照片级真实、互动的虚拟环境。

Cerebras Systems 和 Compute Nordic Finland 宣布在芬兰米凯利建设一个新的人工智能数据中心，分阶段扩展至165兆瓦的合同容量，首批50兆瓦的建设已在进行中。

感谢您阅读《人工智能议程》通讯！我非常希望能听到您的反馈、想法和建议：[email protected].

如果你觉得其他人可能会喜欢这份通讯，请转发给他们，或者他们可以注册给你.

Stephanie Palazzolo是《The Information》的人工智能记者。她曾在《商业内幕》报道人工智能，并在摩根士丹利担任投资银行家。她常驻纽约，联系方式为[email protected]或者在推特上@steph_palazzolo。

火箭·德鲁是《信息报》的人工智能记者。他可以通过以下方式联系[email protected]，在Signal上的电话（530） 400-4184，或在推特上@rocketalignment。

阿米尔·埃弗拉蒂是《信息报》的执行编辑，他于2013年协助创办该报。此前，他曾在《华尔街日报》担任记者九年，报道白领犯罪，后来关注科技领域。

他可以通过以下方式联系[email protected]并且 位于 X 上@amir