奥特曼回归致员工公开信,谈OpenAI安全发展之急

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话

  经过两周的人事动荡,萨姆·奥特曼 (Sam Altman) 正式回归OpenAI,重任首席执行官。北京时间11月30日上午,OpenAI在官网发布了奥特曼写给全体员工的公开信,过渡时期的董事会主席Bret Taylor的信也同时公开。

  在公开信中,奥特曼列出了 OpenAI 的三个当务之急:第一,安全发展,继续推进研究计划;第二,改进产品,服务更多客户,让人们能体验到人工智能的好处并参与其中;第三,优化董事会结构,监督对这次罢免事件的独立审查。

  奥特曼在信中强调,“推进我们的研究计划,并进一步投资于我们的全栈安全工作,这对我们的工作一直至关重要。”“把这次的危机变成机遇。”

  据报道,前任董事会与奥特曼曾在OpenAI的发展和安全方向上存在重大分歧,可能是奥特曼被罢免的导火索。近期这一动机进一步锁定在一项名为“Q*”的未公开项目上。内部匿名信源在社交媒体透露,在奥特曼被解雇前,OpenAI内部曾对一项名为“Q*”的项目发布警告,部分内部员工认为“Q*”显示出了接近人类的高级推理能力,可能接近于“超越人类的自主系统。”从而引发了公司对发展步调的担忧。

  截至目前,OpenAI没有回应“Q*”和内部信泄露事件。

  在安全工作上,OpenAI今年公布了两个安全团队:超级对齐团队 (Superalignment) 和红队测试团队 (Red Teaming Network)。前者的目标是四年内解决“超级智能”的对齐问题——研发一个自动对齐系统,确保AI能符合人类利益,按人类的意图运行。联合创始人兼首席科学家伊利亚·苏茨克维(Ilya Sutskever)是核心领导之一。官网介绍,公司划拨了20%的算力资源给超级对齐团队。

  而红队测试团队于今年9月公布,主要由不同领域的专家构成,包括教育、经济、法律、语言、政治学和心理学领域专家。OpenAI 表示,作为外部评估的补充,每个红队成员每年大约投入5到10小时在内部风险评估上,评估涉及AI模型和产品开发周期的各个阶段,而不是“部署之前的一次性工作。”

  值得注意的是,随着OpenAI的核心成员悉数归位——奥特曼重任首席执行官,Greg Brockman重任总裁,Mira Murati重任首席技术官,首席科学家伊利亚的去向仍然没有交代。此前,伊利亚在罢免奥特曼的董事会“政变”中投出了赞成票,而后在社交平台表示懊悔。

  奥特曼在公开信中声明自己对伊利亚没有恶意,“希望继续我们的工作关系,正在讨论如何继续他在 OpenAI 的工作。”超级对齐团队未来的工作情况尚不明晰。

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话