{主关键词}

任现职。记者:刘艺龙
力是过剩的,所以他们就把安全这件事,变成了产品能力。过去几年,AI公司的竞争逻辑是“我比你强”。跑分更高、参数更多、能做的事更复杂。但当模型能力达到某个临界点后,这个逻辑开始失效。一个在网络安全测试中表现太好的模型,可能意味着它也能被恶意使用。一个完全不设限的agent,就有可能会在用户不知情的情况下做出危险决策。Anthropic选择的路径是,先把最强的模型锁起来,用稍弱但足够好的模型来测试安全
当前文章:http://nmpc5.ceqishao.cn/blh5/staifrx.html
发布时间:09:45:20
蜘蛛资讯网热门国内