Sam Altman:世界将迎来强大模型 未来一个月Codex重磅更新

摘要:

Sam Altman 预告,从下周开始的一个月内,OpenAI 将会发布一系列与编程模型 Codex 相关的重磅更新,希望能给用户带来惊喜,他同时透露,OpenAI 即将在其“准备度框架”(preparedness framework)中达到“网络安全高级别”,并已为此做好了准备。

Altman 指出,网络安全技术具有固有的双重用途(既可用于防御也可用于攻击)。他认为,对世界最有利的做法是快速修复安全漏洞。因此,OpenAI 的初期策略将从产品限制入手,例如,尝试阻止用户利用其编程模型进行网络犯罪(如发出“入侵这家银行并窃取资金”之类的指令)。

从长远来看,一旦有足够证据支持,OpenAI 计划将主要缓解措施转向“防御性加速”(defensive acceleration)——即积极帮助人们修复程序漏洞。

他最后强调,让全世界尽快采用这些工具来增强软件安全性至关重要,因为很快世界上就会出现许多能力强大的AI模型。

查看评论