OpenAI 奥尔特曼称 AI 行业自律可守住安全底线

感谢亚汇网网友亚汇网援引雅虎财经报道，昨日对话Salesforce首席执行官马克·贝尼奥夫（MarcBenioff）时，奥尔特曼表示他相信在不对公众造成重大伤害的情况下，AI公司可以安全地研发AI技术，并对整个行业自行提升安全水平抱有信心。奥尔特曼近期强调，AI安全不能只依赖企业口头承诺，更需要同步提升模型能力、对齐、安全性和保密性。OpenAI还曾推迟前沿强化学习训练，把部分算力转向监控、安全护栏和风险评估。奥尔特曼认为AI研发并非完全没有风险，但是通过行业协作、独立评估和更严格的安全流程等方式，可以在政府监管之外先行建立一套有效的安全保障机制，从而更安全、更高效地推进前沿AI研究。