Datasette 发布安全补丁,AI 模型辅助安全审计

Datasette 1.0a39 和 0.65.4 安全版本

今天,我们发布了 Datasette 的两个全新安全补丁版本:1.0a39 和 0.65.4——分别对应当前的 Alpha 系列和稳定的 0.65.x 系列。

这些是安全修复,如果您在公共互联网上运行着 Datasette 实例,尤其是当该实例同时包含公开表和私有表时,建议您尽快应用。

在 塞夫班·多梅兹 和 亚历克斯·加西亚 报告相关问题后,我和他们一起利用 Claude Fable 5.1、GPT-5.6 和 GPT-6 Astra 对 Datasette 进行了全面的安全审计。

随后,我们又花了近一周时间协作并审核这些修复方案。

他们帮助我们发现了一些极其隐蔽的漏洞。今后,我们将把前沿大模型的安全审计纳入到所有开发流程中。

Alex 提出了一种分工方式,让我觉得非常高效:

Alex Garcia 和我共同参与了审计的执行与响应,并在一个共享的私有代码库中协作。对于大多数问题,我们采取分工模式:一人负责编写用于复现问题的自动化测试用例,另一人则负责实现修复。这样一来,除了由不同模型驱动的编码智能体外,每个问题还都经过了两名人类开发者的双重审查。

标签:发行、安全、前往、数据集、生成式人工智能、大型语言模型、代理工程、AI-安全-研究

参与讨论