首页 >教育

科学家描画大数据未来百度深度学习领跑

2019-05-14 20:24:39 | 来源: 教育

2013年11月,百度亮相全球软件开发大会QCon上海2013。在会上,百度 IDL首席科学家张潼发表了大数据及深度机器学习的演讲,展现了百度IDL(深度学习研究院)取得的成绩,引起了全球软件开发人员的浓厚兴趣。

百度 IDL首席科学家张潼亮相 揭露深度学习四大成功条件

作为机器学习领域的知名学者,百度 IDL首席科学家张潼的亮相引起了专业观众的关注。张潼1999年获得美国斯坦福大学计算机系博士学位,曾任职于美国IBM研究院及雅虎研究院,在机器学习、数据挖掘、自然语言处理、优化算法,及统计学等领域发表多篇论文,曾担负国际上主要机器学习机构NIPS、ICML的Area Chair和COLT主席。

会上,张潼回顾了大数据处理技术的发展和变革,指出大数据分析的主要工具,机器学习的方法也在不断创新,如深度学习技术,就在近些年取得了许多使人振奋的成果并在多个国际大型项目中运用,如2012年6月谷歌大脑项目、2012年11月微软智能同声传译项目、2013年9月facebook用户数据和社交关系发掘项目。

张潼认为,近年来深度学习的成功条件可以归纳为大数据+大规模计算能力+复杂模型+高效算法,近年来,深度学习的训练数据每年成倍增长,图像达到数千万训练样本、语音达到数百亿训练样本、广告到达数千亿训练样本;而与此同时,多机GPU/CPU分布式计算能力也得到显著加强,模型上则由大型线性模型演进到树模型,可把特征发到不同机器;在算法上,则运用了深度神经络等分布式算法。

百度机器学习成就:错误率下降30%,准确率升100%

百度在2012年夏季开展了深度学习方面的工作。2013年,百度IDL(深度学习研究院)成立,面向全球延揽学术人材,人材布局日益完全,在深度学习上也取得了巨大成功,如用GPU提升计算效率,处理海量训练数据,语音识别,OCR辨认,人脸辨认,图像搜索水平得到巨大提升,到目前为止,已经有超过8项深度学习技术在百度产品上线。

图片 百度与谷歌相似图片检索结果对比

深度学习对百度的影响深远,如语音,错误率相对降低%;OCR,错误率相对降低30%;人脸辨认,LFW测试,世界上全人脸搜索引擎;全类似图像搜索,效果显著超越国际搜索引擎同类产品;全流量上线广告CTR预估,提升CTR3.7%;基于深度学习的色情图象识别准确率超过传统方法100%,用于贴吧图搜黄反做弊。

百度机器学习发展路径:理论创新+应用实践

在深度学习方面,百度已经在学术理论、工程实现、产品应用等多方位取得了显著的进展,已成为业界推动大数据驱动的人工智能的之一,提交国家专利22项。在第30届国际机器学习大会(International Conference on Machine Learning, ICML 2013)上,百度IDL常务副院长余凯博士与美国佐治亚理工学院学者合作的有关深度学习的论文Smooth Sparse Coding via Marginal Regression for Learning Sparse Representations获得大会论文奖银奖;基于深度学习人脸识别技术的PK大咖取得2013艾菲奖大中华区金奖。

在图像技术运用中,传统的从图像到语义的转换是极具挑战性的课题,业界称其为语义鸿沟。百度深度学习算法构造出一个多层非线性层叠式神经元络,能够很好地模拟视觉信号从视膜开始逐层处理传递,直至大脑深处的整个过程。这样的学习模式能够以更高的精度和更快的速度跨越语义鸿沟,让机器快速对对图像中可能蕴含的成千上万种语义概念进行有效地识别,进而肯定图片的主题。

在人脸识别方面,困难的是识别照片中的人是谁或通过照片寻觅相似的人。百度在深度学习的基础上,借鉴认知学中的一些概念与方法,探索出了独特的相似度量学习方法来寻找图象的相似性和关联,能够做到举一反三。

在深度神经络训练方面,伴随着计算广告、文本、图像、语音等训练数据的快速增长,传统的基于单GPU的训练平台已经无法满足需求,为此,百度搭建了Paddle(Parallel Asynchronous Distributed Deep Learning)多机并行GPU训练平台。数据散布到不同的机器,通过Parameter Server协调各机器进行训练,多机训练使得大数据的模型训练成为可能。

在算法方面,单机多卡并行训练算法研发,难点在于通过并行提高计算速度一般会下降收敛速度。百度则研发了新算法,在不影响收敛速度的条件下计算速度图像提升至2.4倍,语音提升至1.4倍,这使得新算法在单机上收敛速度到达图像提升至12倍、语音提升至7倍的效果。相比Google的DistBelief系统用200台机器加速约7.3倍而言,百度的算法优势更加明显。

目前普遍认为深度学习是接近人脑的复杂模型,也是目前向人工智能走得近的方法,将会在百度得到越来越多的应用,同时,深度学习也将使得百度的智能性大为增强。以张潼等为代表的百度科学家群体,对深度学习的未来发展充满信心。而在足够的智力资源奠基优势下,百度IDL极有望成为像ATT-Bell labs,Xerox PARC这样的研究机构,在国际互联创新科技前沿领跑。

关于百度IDL

百度深度学习研究院(Institute of Deep Learning,IDL)是百度历史上正式成立的前瞻性研究机构,2013年成立,致力于让计算机像人脑一样智能的科学研究。除斯坦福大学等高校研究机构外,唯有百度、IBM、谷歌、微软4家企业设立了专门研究机构,位列深度学习研究的阵营。

百度深度学习研究院成立以来,就面向全球延揽学术人才。随着前Facebook科学家徐伟、美国新泽西州立大学统计系教授张潼、前AMD异构系统首席软件架构师吴韧等专家的陆续加盟,百度IDL的人材布局日益完整,并以其广阔的发展前景赢得越来越多技术人才的认可与青睐。

关于Qcon上海2013

QCon全球软件开发大会是由InfoQ主办、始于2007年的全球技术盛会。本次QCon上海2013秉持 促进软件开发领域知识与创新的传播的宗旨,吸引了传统制造、金融、电信、互联、航空航天等领域的架构师、项目经理、团队和高级开发人员参加,其中不乏Twitter、LinkedIn、Facebook、百度、新浪等全球互联公司代表。

产后感染原因有哪些
产后流血异常怎么办
产后流血正常情况

猜你喜欢