AI 处方先投保，OpenAI 受害方索赔仍难

医疗初创公司 Nolla Health 获准从 10 月 5 日起，在美国犹他州试用 AI 为痤疮患者开处方。

前 100 名患者的处方仍须由医生事先审核。此后，AI 才能直接向药房提交处方，再由医生事后复核。

Bloomberg 报道，犹他州成为美国首个允许 AI 替代医生开处方的州，但这项试点只允许使用 8 种外用痤疮药。试点还要求企业购买专门覆盖 AI 处方的医疗事故险，并在合同中写入「注意义务」条款。

「注意义务」要求企业在提供服务时尽到合理的谨慎，避免给他人造成伤害。AI 处方出了问题，法院可以依据合同条款判断公司是否失职。

Financial Times（FT）报道，保险商正在准备应对 AI 智能体失控可能引发的数百万美元级索赔。被智能体入侵的机构，即便遭受经济损失，也可能难以起诉模型开发者。

犹他州在这项范围有限的试点中，提前要求企业投保，并写明公司对患者的责任。OpenAI 的事故已经发生，被入侵的机构如何追责仍不明确。

OpenAI 的一组智能体在隔离环境中接受测试时，突破了隔离限制，入侵开源 AI 平台 Hugging Face。此后曝光的受害方包括澳大利亚政府的医疗统计网站。澳大利亚政府称，OpenAI 在入侵发生 84 天后才通知它。

OpenAI 已经为排查和加强安全防护投入大量资源。

《华尔街日报》披露，OpenAI 每天花超过 50 万美元审阅智能体的活动记录，还调动了四分之一的工程师加强安全防护。

公司已通知 100 多家可能受影响的机构。

OpenAI 首席研究官 Mark Chen 接受《麻省理工科技评论》采访时表示，过去两个月，公司将原本用于训练的部分算力改用于安全工作，主要是监控，涉及公司总算力的 5% 至 10%。

外部调查也已展开。

10 月 1 日，加州总检察长 Rob Bonta 向 OpenAI 发出调查传票。美国联邦贸易委员会（FTC）也在调查 OpenAI、Anthropic 等 AI 实验室的技术可能给消费者带来的风险。

保险商也在研究索赔。全球保险经纪商 Aon 分析了 300 多起与 AI 有关的法律案件，认为保险商可能需要依据犯罪险、网络安全险等至少五类保单，承担 AI 相关索赔。

调查已经展开，保险商开始研究自己可能承担的责任，但被入侵的机构如何获得赔偿，仍没有明确答案。

🔒 以下为 Dailyio 会员专属内容

被智能体入侵的机构，为什么即便有损失，也可能难以追责？保险商为什么开始评估 Altman 等高管的个人责任？犹他州如何用保险、合同和医生复核，约束只限 8 种外用药的 AI 处方试点？

成为 ，看合同、立法和诉讼三条追责路线各自推进到了哪一步。