大微阁AI日报
OpenAI改进AI对齐研究：提升人类反馈学习能力
OpenAI宣布改进AI系统从人类反馈中学习的能力，并帮助人类评估AI。目标是通过构建充分对齐的AI系统，解决所有其他对齐问题。此举旨在确保AI安全可控，对AI治理研究具有重要参考价值。
人类反馈学习能力
AI对齐评估
+1
8月24日
15:00 发布 · 1条
6月23日
15:00 发布 · 1条
OpenAI用视频预训练让AI学会玩Minecraft
OpenAI训练神经网络通过视频预训练（VPT）学习玩Minecraft，使用大量无标签人类游戏视频和少量标注数据。微调后，模型能学习制作钻石工具，这一任务通常需要熟练人类玩家超过20分钟（24,000次动作）。模型使用原生人类界面（按键和鼠标移动），具有通用性，是向通用计算机使用智能体迈进的一步。
VPT视频预训练
Minecraft钻石工具制作
+2
6月13日
15:00 发布 · 1条
OpenAI训练AI撰写批评指出摘要缺陷，助人发现更多错误
OpenAI训练了“批评撰写”模型，用于描述摘要中的缺陷。人类评估者在看到AI的批评后，发现摘要缺陷的频率显著提高。研究表明，更大规模的模型在自我批评方面表现更好，规模对批评撰写能力的提升超过了对摘要撰写能力的提升。这展示了AI系统在困难任务中协助人类监督AI的潜力。
批评撰写模型
摘要缺陷发现率提升
+2
6月9日
15:00 发布 · 1条
OpenAI发布大型神经网络训练技术
OpenAI发布技术文档，详述训练大型神经网络的工程挑战：需协调GPU集群执行同步计算，涵盖分布式训练、激活检查点、混合精度等技术。该技术是AI进步的基石，直接关系模型性能与训练效率。
GPU集群同步计算
大型神经网络训练挑战
+1
3月3日
16:00 发布 · 1条
OpenAI分享语言模型安全与滥用防范经验
OpenAI发布了关于语言模型安全与滥用防范的最新思考，分享部署模型过程中应对安全与滥用的经验教训。OpenAI希望通过公开这些经验帮助其他AI开发者。该文章发布于2022年3月3日。
OpenAI安全策略
语言模型滥用防范
11月30日
16:00 发布 · 1条
OpenAI启动人才计划Residency
OpenAI宣布启动Residency人才计划，旨在支持和培养AI人才。该计划面向非AI领域的研究人员和工程师，提供在OpenAI工作并参与AI研究的机会。这一举措有助于OpenAI吸纳跨学科人才，推动AI技术的多元化发展。
OpenAI Residency
AI人才计划
+1
8月10日
15:00 发布 · 1条
OpenAI发布Codex改进版，支持自然语言转代码
OpenAI宣布推出改进版Codex AI系统，可将自然语言翻译成代码。该系统今日通过API进入私有测试阶段。Codex在编程任务中表现出更高的准确性，有助于降低开发者编码门槛。
自然语言转代码
API私有测试
+1