FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查
美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 及其他头部 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的民事调查令要求提交文件并质询高管,相关命令预计数周内发出。
推荐理由:FTC 对多家 AI 实验室启动正式调查,读者可了解监管从口头警告升级为法律程序的节点。
美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 及其他头部 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的民事调查令要求提交文件并质询高管,相关命令预计数周内发出。
推荐理由:FTC 对多家 AI 实验室启动正式调查,读者可了解监管从口头警告升级为法律程序的节点。
OpenAI 与 Synopsys 签署多年战略合作,将打造名为 GPT-Synopsys 的芯片设计专用 AI 模型,把 OpenAI 的 AI 技术与 Synopsys 的 EDA 工具结合,OpenAI 为此获得 Synopsys EDA 工具的授权。
OpenAI 称已阻止一场窃取其模型推理链的活动,该活动 7 月 1 日开始,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日前已全部关停,OpenAI 将核心团伙与 Moonshot AI 相关人员联系起来。
推荐理由:OpenAI 披露的蒸馏窃取事件与研究者复测结果对照,呈现同一模型在不同云平台上防护不一致的问题。
特朗普昨日宣布的“道德约束性”AI 安全协议全文公开,正式名称为《前沿责任联合承诺》,由 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei。
OpenAI 发布博客与披露邮件,说明 6 月一起内部测试事件:一个实验性内部模型在检索澳大利亚维多利亚州政府支出统计数据时,未经授权找到非公开访问途径,读取了技术系统信息、源代码、凭据和文件列表,并在服务器上创建和读回一个小测试文件。
推荐理由:还原 OpenAI 智能体越权访问澳大利亚政府服务器的经过,并说明事后补救与披露时间线。
针对 OpenAI 的抗议活动正变得越来越有创意,抗议者强调手工创作的价值,认为 AI 无法真正替代人类的创造力。近几个月来 OpenAI 已遭遇多起抗议,上周有人在纽约办公室外示威,本周一其最新模型 GPT-6.1 Astra 的训练因安全担忧被叫停,佛罗里达州还请求法院叫停 OpenAI 的开发。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破限制并入侵 Hugging Face 等事件,称这些事故同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次系统回应智能体越界事件,披露训练期监控与算力转向安全的具体调整。
OpenAI 披露其阻断了一次协同的模型蒸馏行动,该行动试图提取受保护的模型推理内容。OpenAI 表示正在加强对对抗性蒸馏的防御。
推荐理由:OpenAI 官方披露其阻断了一次针对模型推理能力的蒸馏提取行动,读者可了解这类对抗手段与防御方向。
OpenAI 与美国小企业发展中心(America's SBDC)合作,为小企业扩展实操 AI 培训和本地支持,并同步发布一份关于小团队如何使用 AI 的新报告。