大微阁AI日报
OpenAI参与发布提升AI可验证性报告
OpenAI联合58位来自30家机构（包括未来智能中心、Mila、施瓦茨·赖斯曼研究所等）的作者发布报告，提出10项机制以增强AI系统声明的可验证性。开发者可利用这些工具提供AI安全、隐私保护等的证据，用户和政策制定者可据此评估AI开发过程。该报告为行业提供了标准化验证框架，有助于构建更可信的AI生态。
可验证性机制10项
OpenAI联合58位作者
+1
4月16日
15:00 发布 · 1条
11月5日
16:00 发布 · 1条
OpenAI发布最大GPT-2模型：1.5B参数
OpenAI于2019年11月5日发布了GPT-2系列最大模型，含15亿参数，并公开代码和模型权重以辅助检测其输出。自8月以来已有更大语言模型发布，OpenAI仍按原分阶段发布计划行动，为社区提供完整发布流程的测试案例。这一举动有助于未来模型开发者参考，并推动关于负责任发表的行业对话。
GPT-2 1.5B参数
OpenAI发布代码和权重
+1
10月15日
15:00 发布 · 1条
OpenAI用神经网络和机器人手解魔方
OpenAI训练了一对神经网络，使类人机器人手能解魔方。模型完全在模拟中训练，使用与OpenAI Five相同的强化学习代码和自动领域随机化（ADR）技术。系统可处理训练中未见过的情况，如被毛绒长颈鹿戳。这证明强化学习可解决需要空前灵活性的物理世界问题。
神经网络+机器人手解魔方
自动领域随机化（ADR）
+1
9月19日
15:00 发布 · 1条
OpenAI用人类偏好微调GPT-2，摘要任务需6万标注
OpenAI公开了利用人类反馈微调GPT-2（7.74亿参数）的实验结果。在摘要任务中，模型学习了复制输入原文的句子，因为人工标注者偏好准确而非原创，该任务消耗了6万个人类偏好标签；而更简单的文本续写任务仅需5000个标签。OpenAI称此举旨在推动安全技术更贴近“机器与人类对话”的通用场景，以提取人类价值观信息。
GPT-2 7.74亿参数
人类反馈微调
+2
8月22日
15:00 发布 · 1条
OpenAI提出UAR指标评估模型对未知攻击的鲁棒性
OpenAI开发了一种新方法，用于评估神经网络分类器在面对训练时未见过的对抗攻击时的可靠性。该方法提出了新指标UAR（Unforeseen Attack Robustness），衡量单个模型对未预期攻击的鲁棒性。研究强调，需要在一系列更多样化的未知攻击上测试模型性能，以避免对防御能力的过度乐观。这一工作揭示了当前防御评估的盲区，对AI安全部署具有警示意义。
UAR指标
对抗攻击鲁棒性
+1
8月20日
15:00 发布 · 1条
OpenAI发布GPT-2完整版774M参数模型
OpenAI于2019年8月20日发布了774M参数的GPT-2模型，此前已陆续发布124M、355M参数版本。同时，OpenAI发布开源法律协议，以促进组织间的模型共享合作，并公开了与AI社区协调出版规范的技术报告。此举标志着对模型潜在滥用与社会效益评估后的最终开放。
774M参数模型
开源法律协议
+1
7月22日
15:00 发布 · 1条
微软投资10亿美元与OpenAI合作开发AGI
OpenAI宣布微软向其投资10亿美元，共同开发人工通用智能（AGI）。双方将基于微软Azure构建硬件和软件平台，以扩展至AGI，并联合开发新的Azure AI超算技术。微软成为OpenAI的独家云提供商。此次合作标志着大型科技公司对前沿AI研究的重大押注，可能加速AGI的实现并改变云服务竞争格局。
投资10亿美元
微软Azure独家云
+2