大微阁AI日报
OpenAI发文呼吁AI行业加强安全合作
OpenAI发布政策研究论文，提出四项策略以促进AI安全规范的长期行业合作：沟通风险与收益、技术协作、提高透明度、激励标准制定。该机构指出，竞争压力可能导致集体行动问题，使AI公司对安全的投入不足。行业合作对确保AI系统安全有益至关重要，这些策略旨在推动全球AI安全发展。
AI安全合作策略
OpenAI政策论文
+1
7月10日
15:00 发布 · 1条
5月17日
15:00 发布 · 1条
OpenAI公布2018秋季研究员项目成果
OpenAI宣布其第二批研究员（2018年秋季）已完成6个月学徒期，从机器学习初学者成长为核心贡献者。项目正在滚动招募2019年夏季批次。该项目展示了OpenAI培养AI人才的能力，对行业人才发展有参考价值。
学徒期6个月
2018秋季批
+1
4月25日
15:00 发布 · 1条
OpenAI发布MuseNet：生成4分钟10种乐器音乐
OpenAI发布了MuseNet，一个深度神经网络，可生成4分钟、包含10种乐器的音乐作品，并能融合乡村、莫扎特到披头士等多种风格。MuseNet采用与GPT-2相同的无监督技术，通过学习数十万MIDI文件预测下一个token，自主发现和声、节奏和风格模式。该技术展示了通用AI在创意生成领域的潜力。
生成4分钟音乐
10种乐器
+2
4月23日
15:00 发布 · 1条
OpenAI稀疏Transformer序列处理长度提升30倍
OpenAI开发了Sparse Transformer，一种深度神经网络，通过改进注意力机制，能将序列模式提取长度提升至之前的30倍，在文本、图像和声音的下一元素预测任务中刷新纪录。该技术使处理更长序列成为可能，对自然语言处理和生成模型具有重大意义。
稀疏Transformer序列长度30倍
OpenAI注意力机制改进
+1
4月15日
15:00 发布 · 1条
OpenAI Five击败Dota 2世界冠军OG
OpenAI Five在周末的决赛中连续两场击败Dota 2世界冠军OG，成为首个在电竞游戏中战胜世界冠军的AI。此前，OpenAI Five和DeepMind的AlphaStar虽在私下击败过顶尖选手，但在直播比赛中均告负。此次胜利标志着AI首次在直播比赛中击败电竞职业选手。
OpenAI Five击败Dota2世界冠军
首次AI直播胜职业选手
3月6日
16:00 发布 · 1条
OpenAI联合谷歌发布激活图谱可视化神经元交互
OpenAI与谷歌研究人员合作创建了激活图谱（activation atlases），一种可视化神经元交互表征的新技术。该技术旨在帮助理解AI系统内部决策过程，从而识别弱点并调查失败原因。随着AI在敏感场景中的部署增加，该工具对提升系统可解释性和安全性具有重要价值。
激活图谱可视化
神经元交互
+1
2月19日
16:00 发布 · 1条
OpenAI呼吁AI安全研究需引入社会科学家
OpenAI发表论文，指出长期AI安全研究需社会科学家参与，以确保对齐算法在涉及真实人类时成功。论文认为，高级AI系统与人类价值观的对齐需解决人类理性、情感和偏见等心理学不确定性。OpenAI计划全职招聘社会科学家，以促进机器学习与社会科学合作，避免AI系统在实际应用中因未考虑人类复杂性而导致风险。
AI安全与社会科学
OpenAI招聘社会科学家
+1