介绍飞桨在行业内的应用情况、产品全景、技术优势,以及飞桨的安装方法和联系方式。
深度学习框架
近年来深度学习在很多机器学习领域都有着非常出色表现,在图像识别、语音识别、自然语言处理、机器人、网络广告投放、医学自动诊断和金融等领域有着广泛应用。面对繁多的应用场景,深度学习框架有助于建模者节省大量而繁琐的外围工作,更聚焦业务场景和模型设计本身。
深度学习框架优势
使用深度学习框架完成模型构建有如下两个优势:
- 节省编写大量底层代码的精力:屏蔽底层实现,用户只需关注模型的逻辑结构。同时,深度学习工具简化了计算,降低了深度学习入门门槛
- 省去了部署和适配环境的烦恼:具备灵活的移植性,可将代码部署到CPU/GPU/移动端上,选择具有分布式性能的深度学习工具会使模型训练更高效。
深度学习框架设计思路
深度学习框架的本质是框架自动实现建模过程中相对通用的模块,建模者只实现模型个性化的部分,这样可以在“节省投入”和“产出强大”之间达到一个平衡。我们想象一下:假设你是一个深度框架的创造者,你期望让框架实现哪些功能呢?
相信对神经网络模型有所了解的读者都会得出如 表1 所示的设计思路。在构建模型的过程中,每一步所需要完成的任务均可以拆分成个性化和通用化两个部分。
- 个性化部分:往往是指定模型由哪些逻辑元素组合,由建模者完成。
- 通用部分:聚焦这些元素的算法实现,由深度学习框架完成。
表1:深度学习框架设计示意图
无论是计算机视觉任务还是自然语言处理任务,使用的深度学习模型结构都是类似的,只是在每个环节指定的实现算法不同。因此,多数情况下,算法实现只是相对有限的一些选择,如常见的Loss函数不超过十种、常用的网络配置也就十几种、常用优化算法不超过五种等等。这些特性使得基于框架建模更像一个编写“模型配置”的过程。
飞桨开源深度学习平台
百度出品的深度学习平台飞桨(PaddlePaddle)是主流深度学习框架中唯一一款完全国产化的产品,与Google TensorFlow、Facebook Pytorch齐名。2016 年飞桨正式开源,是全面开源开放、技术领先、功能完备的产业级深度学习平台。
飞桨源于产业实践,始终致力于与产业深入融合,与合作伙伴一起帮助越来越多的行业完成AI赋能。目前飞桨已广泛应用于医疗、金融、工业、农业、服务业等领域,如 图1 所示。此外在新冠疫情期间,飞桨积极投入各类疫情防护模型的开发,开源了业界首个口罩人脸检测及分类模型,辅助各部门进行疫情防护,通过科技让工作变得更加高效。
图1:飞桨在各领域的应用
飞桨开源深度学习平台全景
飞桨以百度多年的深度学习技术研究和业务应用为基础,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体,为用户提供了多样化的配套服务产品,助力深度学习技术的应用落地,如 图2 所示。飞桨支持本地和云端两种开发和部署模式,用户可以根据业务需求灵活选择。
图2:飞桨paddlepaddle组件使用场景 概览
本地模型开发和部署:数据保存在本地服务器,模型选择灵活度高
- 框架和工具:见图2的上半部分,飞桨在基础框架外,推出了一系列的工具组件来支持深度学习模型训练和部署的全流程。如在训练层面,除了提供了分布式训练API Fleet之外,还支持多任务学习和联邦学习。
- PALM:灵活易用的多任务学习框架,框架中内置了丰富的模型和数据集读取与处理工具。对于典型的任务场景,用户几乎无需书写代码便可完成新任务的添加;对于特殊的任务场景,用户可通过预置接口来完成对新任务的支持。
- PaddleFL:开源联邦学习框架。研究人员可以很轻松地用PaddleFL复制和比较不同的联邦学习算法,并且提供很多联邦学习策略及其在计算机视觉、自然语言处理、推荐算法等领域的应用。
此外,飞桨在工业部署方面有着完整的支持。
- Paddle Inference:使用 Python、C/ C++等语言部署模型,可以将模型写入各种语言编写的业务系统。
- Paddle Lite:在 移动端/嵌入式 部署,面向手机APP和各种设备芯片(如摄像头)中的模型。
- Paddle JS:使用 JavaScript(Web)语言部署模型,在网页和小程序中便捷的使用模型。
- 部署辅助工具1 - Paddle Slim:模型压缩,在保证模型精度的基础上减少模型尺寸,以得到更好的性能或便于放入存储较小的嵌入式芯片。
- 部署辅助工具2 - X2 Paddle:其他框架模型转换成Paddle模型,一样可以利用飞桨的部署工具。
- 模型资源:见图2的下半部分,飞桨提供丰富的端到端的开发套件、预训练模型和模型库。其中,开发套件则针对具体的应用场景提供了周边的配套工具,如图像检测场景的数据增强工具等。所以在使用时,可以参考“开发套件->Paddle Hub->Models”的顺序寻找需求的模型资源,在此基础上根据业务需求进行定制,即可达到事半功倍的效果。对其中几个著名的模型资源介绍如下:
- PaddleHub:PaddleHub是预训练模型管理和迁移学习组件,提供40+预训练模型,覆盖自然语言处理、计算机视觉、语音、推荐四大领域。模型即软件,通过Python API或者命令行工具,一行代码完成预训练模型的预测。结合Fine-tune API,10行代码完成迁移学习。
- ERNIE:ERNIE开发套件支持各类训练任务的Fine-tuning,保证极速推理的Fast-Inference API,兼具灵活部署的ERNIE Service和具备轻量方案的ERNIE Tiny系列工具集。
- PaddleSeg:PaddleSeg是产业级图像分割库,覆盖了DeepLabv3+、PSPNet、U-Net、ICNet四大主流的分割模型。通过统一的配置,帮助用户更便捷地完成从训练到部署的全流程图像分割应用。PaddleSeg具备丰富的数据增强、主流模型覆盖、高性能和工业级部署等特点。
- PaddleDetection:PaddleDetection是目标检测库,目的是为工业界和学术界提供易用的目标检测模型。PaddleDetection具备高性能、模型丰富和工业级部署等特点。 - ElasticCTR:ElasticCTR可以实现分布式训练CTR预估任务和Serving流程一键部署,提供了端到端的CTR训练和二次开发的解决方案。ElasticCTR具备产业实践基础、弹性调度能力、高性能和工业级部署等特点。
云端模型开发和部署:数据保存在云端,提供可视化GUI界面,安全高效
- 模型开发
飞桨EasyDL定制化训练和服务平台内嵌Paddle框架,提供可视化的在线操作界面,为零算法基础或者专业AI工程师提供高精度AI模型训练服务。目前已在零售、工业、安防、医疗、互联网、物流等20多个行业中应用。如果用户暂时不想自己购买服务器或更经济的使用服务器,亦或者期望降低研发深度学习模型的门槛,可以优先选择EasyDL。
- 预测部署
飞桨支持EasyDL的服务端部署和EasyEdge的端侧部署,两种部署方式都可以通过网页界面实现整个部署流程。
在线教育平台AI Studio
AI Studio一站式深度学习开发平台,集开放数据、开源算法、免费算力三位一体,为开发者提供高效易用的学习开发环境、高价值高奖金的算法大赛、高质量的案例和进阶课程,支撑高校老师轻松实现AI教学,并助力企业加速落地 AI 业务场景。
飞桨技术优势
与其他深度学习框架相比,飞桨具有如下五大领先优势,如 图3 所示。
图3:飞桨领先的五大技术优势
- 两种业界主流的编程方案:支持更容易调试的命令式编程(动态图)和训练速度更快的声明式编程(静态图)。
- 产业级的官方开源模型库:多数任务可以基于官方模型的基础上自定义,根据业务需求进行少量修改,即可上线应用。
- 超大规模的分布式模型训练:基于百度每日上亿用户使用的应用场景打磨,天然具备大规模工业实践能力。
- 多端多平台的部署:支持速度全面领先的推理引擎,适配多种类型硬件芯片,尤其是国产芯片。
- 系统化的深度学习技术服务的平台:为企业和用户提供7*24小时在线服务,高效解决各种使用难题。
多领域产业级模型达到业界领先水平
大量工业实践任务的模型并不需要从头编写,而是在相对标准化的模型基础上进行参数调整和优化。飞桨支持的多领域产业级模型开源开放,且多数模型的效果达到业界领先水平,在国际竞赛中夺得20多项第一,如 图4 所示。
图4:飞桨各领域模型在国际竞赛中荣获多个第一
支持多端多平台的部署,适配多种类型硬件芯片
随着深度学习技术在行业的广泛应用,对不同类型硬件设备、不同部署模型、不同操作系统、不同深度框架的适配需求涌现,飞桨的适配情况如 图5 所示。
图5:飞桨对周边产品的适配情况
训练好的模型需要无缝集成到各种类型的硬件芯片中,如机房服务器、摄像头芯片等。在中美贸易战时日趋紧张的情况下,训练框架对国产芯片的支持显得尤其重要。飞桨走在了业界前列,提供了专门的预测端部署工具Paddle lite。Paddle lite适配的硬件芯片以及由Paddle lite转换的模型与其它主流框架在性能上的优势对比如 图6 所示。
图6:飞桨对众多类型计算资源的支持,并在运算性能上优于其他的主流框架
飞桨在各行业的应用案例
飞桨在各行业的广泛应用,不但让人们的日常生活变得更加简单和便捷,对企业而言,飞桨还助力产品研发过程更加科学,极大提升了产品性能,节约了大量的人工耗时成本。
飞桨联手百度地图,出行时间智能预估准确率从81%提升到86%
在百度,搜索、信息流、输入法、地图等移动互联网产品中大量使用飞桨做深度学习任务。在百度地图,应用飞桨后提升了产品的部署和预测性能,支撑天级别的百亿次调用。完成了天级别的百亿级数据训练,用户出行时间预估的准确率从81%提升到86%,如 图7 所示。
图7:百度地图出行时间智能预估应用
飞桨联手南方电网,电力巡检迈向“无人时代”
飞桨与南方电网合作,采用机器人代替人工进行变电站仪表的巡检任务,如 图8 所示。由于南方电网的变电站数量众多,日常巡检常态化,而人工巡检工作内容单调,人力投入大,巡检效率低。集成了基于飞桨研发的视觉识别能力的机器人,识别表数值的准确率高达99.01%。在本次合作中,飞桨提供了端到端的开发套件支撑需求的快速实现,降低了企业对人工智能领域人才的依赖。
图8:南方电网电力智能巡检应用
说明:
数据为内部测试结果,实际结果可能受环境影响而在一定范围内变化,仅供参考。
飞桨快速安装
进入实践之前,请先安装飞桨。飞桨提供了图形化的安装指导,操作简单,详细步骤请参考 飞桨官网 -> 快速安装。
进入页面后,可按照提示进行安装,如 图9 所示。举例来说,笔者选择在笔记本电脑上安装飞桨,那么选择(windows系统+pip+Python3+CPU版本)的配置组合。其中windows系统和CPU版本是个人笔记本的软硬件配置;Python3是需要事先安装好的Python版本(Python有2和3两个主流版本,两者的API接口不兼容);pip是命令行安装的指令。
图9:飞桨的安装页面示意图
- 飞桨GitHub: https://github.com/paddlepaddle
作业1-5
- 在AI studio上注册用户,查阅本课程的案例库,找到房价预测的案例。
- 在飞桨官网上查看安装手册,在本机或服务器上安装PaddlePaddle库,并在github上将本课程的案例库下载到本地PC或服务器。
运行环境要求:
本地已经安装python、paddlepaddle、jupyter。