ai项目工具OpenAI遭遇安全团队动荡,AI策略研究员Gretchen Krueger(格姐)离职并发出安全警告
![](https://cnschat-1315638552.cos.ap-guangzhou.myqcloud.com/2024/05/20240527054814453.png?imageMogr2/format/webp/interlace/1/quality/100)
panda e ai项目工具,ai网址导航,ai技术学习,ai使用教程,ai大模型,ai算法,ai数据集,ai绘画,ai视频,ai插件OpenAI遭遇安全团队动荡,AI策略研究员Gretchen Krueger(格姐)离职并发出安全警告
OpenAI近期经历了一系列安全团队成员的离职风波,其中备受瞩目的AI策略研究员Gretchen Krueger(简称格姐)也加入了这一行列。自2019年加入OpenAI以来,格姐深度参与了GPT-4和DALL·E2等项目的开发,并在2020年主导了公司首个全公司范围的“红队”测试。然而,现在她已离开公司,并在社交媒体上表达了对于OpenAI在安全、决策流程、问责制、透明度、文档以及策略执行等方面的深切担忧。
格姐强调,OpenAI应采取措施减轻技术对社会不平等、权利和环境的影响,并警惕科技公司通过制造分裂来剥夺那些寻求追究责任的人的权力。她的这一观点引起了广泛共鸣,进一步凸显了当前AI领域在安全与伦理方面所面临的挑战。
格姐的离职只是OpenAI安全团队内部动荡的冰山一角。在此之前,首席科学家Ilya Sutskever和超级对齐负责人Jan Leike也相继宣布离职。这些变动不仅引发了外界对OpenAI安全问题决策过程的质疑,也凸显了AI公司在治理结构和内部稳定性方面所面临的挑战。
OpenAI的安全团队主要分为三大块:超级对齐团队,专注于控制潜在的超级智能;Safety Systems团队,致力于减少现有模型和产品的滥用;以及Preparedness团队,负责绘制前沿模型的新兴风险。然而,尽管拥有这些专业团队,但风险评估的最终决策权仍掌握在领导层手中。同时,董事会成员来自不同领域的专家和高管,拥有推翻决策的权利。
格姐的离职和公开言论,以及OpenAI安全团队的其他变动,已经引起了社区对AI安全性和公司治理的广泛关注。这些问题不仅影响着OpenAI的未来,也关系到整个AI行业的健康发展和社会的长远利益。人们期待OpenAI能够正视这些问题,并采取切实有效的措施加以解决。