AI评估初创公司Braintrust确认数据泄露并要求客户更换密钥
AI评估平台Braintrust遭黑客入侵AWS账户，疑似泄露客户API密钥，紧急通知所有用户更换密钥。事件暴露第三方服务安全风险，引发对AI基础设施安全的关注。公司已封锁账户并展开调查。
zachdotai
暂无简介
评论
点赞
收藏Bret Taylor的Sierra收购YC支持的AI初创公司Fragment
由Bret Taylor创立的AI客服公司Sierra宣布收购YC投资的法国初创企业Fragment，旨在增强其企业级AI代理开发能力。这是Sierra今年第三次公开收购。 
Nyx——面向AI代理的多轮自适应攻击性测试框架
我们开发Nyx是为了解决在构建代理时不断遇到的问题：AI代理以传统软件无法做到的方式出现故障。逻辑漏洞、推理失败、手动测试和静态基准测试从未探讨过的边缘案例。Nyx是一个自主测试工具，能在用户之前探测你的AI代理，找出故障模式。它用于发现逻辑漏洞、指令跟踪失败、代理行为的边缘案例，以及红队安全测试（越狱、提示注入、工具劫持）。技术方法：纯黑箱（无需特殊访问——测试时就像用户互动一样）多回合自适应对... 