(相关资料图)
IT之家 8 月 8 日消息,美国人工智能初创企业 Anthropic 昨日发布博文称,公司正在更新 Claude Fable 5 模型的生物安全防护机制,大幅减少误拦截现象发生。如今 Fable 5 用户提出生物学相关问题后,系统的降级情况将更少发生。
据 Anthropic 官方测试数据,本次更新使生物学相关问答的降级现象减少了 85%,Fable 5 现在可以处理更广泛的生物学任务。
Anthropic 表示,某些恶意用户会使用 Fable 5 模型进行生物武器研究等高风险活动。因此公司为了防范这种现象发生,专门为 Claude 设置了安全分类器(safety classifiers),用于检测用户是否要求 Fable 5 执行受保护的生物学任务,或者生成有害内容。
如今 Anthropic 调整了安全分类器的工作机制,让它能够更准确地区分无害问题和高风险问题。
不过为了防范持续的 AI 风险,Fable 5 仍会限制专业生物学研究和药物开发相关请求。
Anthropic优化ClaudeFable5模型生物安全机制,减少85%误拦截,生物学,fa
截至当天收盘,道琼斯工业平均指数比前一交易日上涨151 83点,收于5403
这是8月7日在甘肃省武威市天祝藏族自治县境内拍摄的冰沟河景区风光(无
格隆汇8月7日丨立昂微发布2026年中报显示,公司上半年实现营业收入20 9
北汽蓝谷发布三季报 极狐发力高端市场
皓丽2022线上发布会:5大新品亮相,多位行业大咖与合作伙伴助阵!