大微阁AI日报
OpenAI通过微调小型数据集改善模型行为
OpenAI最新研究发现，通过在小型精选数据集上进行微调，可以改善语言模型在特定行为价值观上的表现。该数据集规模较小，但能有效调整模型行为。这为可控的AI行为训练提供了新方法，可能降低对齐成本。
微调数据集规模小
语言模型行为改善
+1
6月10日
15:00 发布 · 1条
5月3日
15:00 发布 · 1条
美国前议员Will Hurd加入OpenAI董事会
OpenAI宣布前美国众议员Will Hurd加入其董事会，以加强公共政策领域的专业能力。OpenAI表示，开发惠及全人类的通用人工智能需要技术与政策双方面专长，Hurd的加入将为公司带来重要的政策洞察。此举反映AI行业在快速发展中愈发重视与政策制定者的协作。
Will Hurd加入OpenAI董事会
公共政策专业能力
3月25日
15:00 发布 · 1条
OpenAI报告GPT-3 API驱动超300个应用
OpenAI于2021年3月25日宣布，超过300个应用通过其API使用GPT-3提供搜索、对话、文本补全等AI功能。这表明GPT-3作为基础模型已大规模商业化，推动AI应用开发向API调用模式转变。
GPT-3 API应用300+
OpenAI
3月4日
16:00 发布 · 1条
OpenAI发现CLIP多模态神经元
OpenAI在CLIP模型中发现了多模态神经元，这些神经元能对同一概念的文字、符号或抽象呈现做出响应。这解释了CLIP在分类意外视觉再现时的准确性，并有助于理解CLIP及类似模型学到的关联和偏见。
CLIP多模态神经元
概念响应
+1
1月5日
16:00 发布 · 2条
OpenAI发布DALL·E：从文字描述生成图像
OpenAI于2021年1月5日发布DALL·E模型，该模型能从文字描述生成图像。据OpenAI披露，DALL·E可处理自然语言表达的各种概念，生成对应图像。该技术意味着AI在理解语言与视觉关联上取得突破，为创意设计、内容生成等领域带来新可能。
DALL·E
文字生成图像
+2
OpenAI发布CLIP模型实现零样本图像分类
OpenAI推出CLIP神经网络，通过自然语言监督学习视觉概念。CLIP可像GPT-2/3的零样本能力一样，仅需提供类别名称即可应用于任何视觉分类任务，无需额外训练数据。该模型将图像与文本连接，显著降低了视觉AI对标注数据的依赖。
零样本学习
视觉分类
+2
6月17日
15:00 发布 · 1条
OpenAI发现Transformer可生成连贯图像
OpenAI发现，与语言模型类似，在像素序列上训练的Transformer模型能够生成连贯的图像完成和样本。其最佳生成模型在无监督设置下包含与顶级卷积网络竞争的特征，且样本质量与图像分类准确率之间存在相关性。该发现表明，Transformer架构在图像生成领域具有潜力，可能影响计算机视觉的无监督学习方法。
Transformer生成图像
无监督学习
+1
5月5日
15:00 发布 · 1条
OpenAI：AI训练效率每16个月翻倍
OpenAI发布分析显示，自2012年以来，在ImageNet分类上达到相同性能所需的计算量每16个月减少一半。相比2012年，现在训练一个达到AlexNet水平的神经网络所需计算量减少44倍（同期摩尔定律仅带来11倍成本改进）。该结果表明，在近期投资较高的AI任务中，算法进步带来的效率提升远超经典硬件效率改进。
计算量减少44倍
每16个月减半
+1