Facebook最新力作Pythia：模块化、即插即用，极大简化模型进展
|
副标题[/!--empirenews.page--]
Facebook的人工智能研究部门近期推出Pythia，一个模块化的即插即用框架。目标是使数据科学家能够快速构建、复制和基准人工智能模型，将VQA v2.0数据集模型的性能从65.67%提高到70.22%，已在Github上开源。 Facebook最近接连针对开发者社区抛出了一系列工具。继一月份image processing library Spectrum、去年底的自然语言处理建模框架PyText和11月的人工智能增强学习平台Horizon的开源后，Facebook的人工智能研究部门又推出了Pythia，一个模块化的即插即用框架。 Pythia的目标是使数据科学家能够快速构建、复制和基准人工智能模型，已在Github上开源。 而Pythia（中文一般译作皮媞亚）这个名字的来历也很有意思。古希腊神话中，Pythia是阿波罗神的女祭司，服务于帕纳塞斯山上的德尔斐（Delphi）神庙，以传达阿波罗神的神谕而闻名，被认为能预知未来。 
即插即用Pythia：让数据科学家快速构建、复制和基准AI模型
Pythia是什么？ Pythia是一个深度学习框架，支持视觉和语言领域的多任务处理。基于PyTorch 框架，模块化即插即用的设计使研究人员能够快速构建、复制和基准化人工智能模型。 Pythia是为视觉和语言任务而设计的，例如回答与视觉数据相关的问题和自动生成图像注释。 Pythia能做什么？ Pythia加入了最近的人工智能竞赛（2018年VQA挑战赛和2018年Vizwiz挑战赛）中获奖作品的元素。功能包括用参考实现（reference implementations）来显示以前最先进的模型如何实现相关的基准结果，并快速衡量新模型的性能。 除了多任务处理之外，Pythia还支持分布式培训和各种数据集，以及自定义损失、度量、调度（scheduling）和优化器。 Pythia的特性
Pythia最厉害的地方是什么？ Pythia简化了进入视觉和语言发展子领域的过程，使研究人员能够专注于更快的原型制作和实验。Facebook的目标是通过增加这些模型和结果的再现性来加速进展。这将使社区更容易建立成功系统的基础和基准。 开发者还希望通过Pythia消除障碍，能够使研究人员更快地为人们和智能机器开发新的交流方式。这项工作还应该帮助研究人员开发自适应人工智能，将多种理解合成一种更基于上下文的多模式理解。除了这个开源版本，Facebook计划继续添加工具、任务、数据集和引用模型。 在上面提到的VQA 2018比赛中，Pythia v0.1出发点是自下而上、自上而下模型的模块化重新实现，最终力压群雄而胜出。 Pythia v0.1证明，通过对模型体系结构和学习速率计划进行细微但重要的更改、微调图像功能和添加数据扩充，可以显著提高VQA v2.0数据集自上而下模型的性能，从65.67%提高到70.22%。 此外，通过使用不同特征和不同数据集训练的不同模型集合，Pythia v0.1能够显著提高1.31%的“标准”集合方式（即具有不同随机种子的相同模型）。总的来说，Pythia v0.1在VQA v2.0数据集的测试标准分割上达到了72.27%。 术语和概念Pythia经过精心设计，从一开始就是一个多任务框架。这意味着使用Pythia，可以一起训练多个任务和数据集。 但是，Pythia在其模块中抽象了许多概念，在Pythia之上进行开发，有必要理解Pythia代码库中使用的概念和术语。一旦开发人员理解了这些简单的概念，就很容易在Pythia之上进行开发。其中主要概念和术语如下： 任务和数据集 在Pythia中，数据集被划分为一组任务。因此，任务对应属于它的数据集的集合。例如，VQA 2.0，VizWiz和TextVQA都属于VQA任务。 已为每个任务和数据集分配了一个唯一key，用于在命令行参数中引用。 下表显示了任务及其数据集： 
下表显示了上表的反转，数据集及其任务和key： 
模型 已经包括了最先进模型的参考实施，作为研究论文复制和新研究起点的基础。Pythia曾被用于以下论文：
与任务和数据集类似，每个模型都使用唯一key进行注册，以便在配置和命令行参数中轻松引用。下表显示了可以运行的每个模型的关键名称和数据集。 
（编辑：辽源站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |