OpenAI 奥尔特曼称 AI 行业自律可守住安全底线
IT之家 9 月 16 日消息，昨日（9 月 15 日）在旧金山举办的 Salesforce 活动中，OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）认为， AI 公司行业自律可以掌控研发风险，不会对广大民众造成重大伤害。 IT之家援引雅虎财经报道，昨日对话 Salesforce 首席执行官马克 · 贝尼奥夫（Marc Benioff）时，奥尔特曼表示他相信在不对公众造成重大伤害的情况下， AI 公司可以安全地研发 AI 技术，并对整个行业自行提升安全水平抱有信心。 奥尔特曼近期强调，AI 安全不能只依赖企业口头承诺，更需要同步提升模型能力、对齐、安全性和保密性。OpenAI 还曾推迟前沿强化学习训练，把部分算力转向监控、安全护栏和风险评估。 奥尔特曼认为 AI 研发并非完全没有风险，但是通过行业协作、独立评估和更严格的安全流程等方式，可以在政府监管之外先行建立一套有效的安全保障机制，从而更安全、更高效地推进前...
推荐理由：来自IT之家 AI的《OpenAI 奥尔特曼称 AI 行业自律可守住安全底线》。重点看模型能力与工程。摘要提到：IT之家 9 月 16 日消息，昨日（9 月 15 日）在旧金山举办的 Salesforce 活动中，OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）认为， AI 公司行业自律可以掌控研发风险，不会对广大民众造成重大伤害。 IT之家援引雅虎财经报道，昨日对话 Salesforce 首席执行官马克 · 贝尼奥夫（Marc Benioff）时，奥尔特曼表示他相信在不对公众造成重大伤害的情况下， AI 公司可以安全地研发 AI 技术，并对整个行业自行提升安全水平抱有信心。 奥尔特曼近期强调，AI 安全不能只依赖企业口头承诺，更需要同步提升模型能力、对齐、安全性和保密性。OpenAI 还曾推迟前沿强化学习训练，把部分算力转向监控、安全护栏和风险评估。 奥尔特曼认为 AI 研发并非完全没有风险，但是通过行业协作、独立评估和更严格的安全流程等方式，可以在政府监管之外先行建立一套有效的安全保障机制，从而更安全、更高效地推进前...