深度学习框架竟然这么简单?

新一代人工智能技术的发展 , 离不开芯片与深度学习框架两大基础 , 随着中国科研创新能力的提升 , 技术领域取得大量突破 。
当然 , 这也是一种技术封锁的倒逼 , 今年出现的华为芯片供应链被全面封锁 , 和工科神器MATLAB被禁事件 , 这两件事情加起来 , 迫使我国要从基础架构平台到应用系统等 , 全方位建设自主知识的优秀产品 。
01
发展
而深度学习作为人工智能的核心技术 , 近年来无论是学术、还是工业领域 , 均发挥着愈加重要的作用 。
过去十年 , 深度学习领域涌现了大量算法和应用 。在这些深度学习算法和应用涌现的背后 , 是各种各样的深度学习工具和框架 。它们是机器学习革命的脚手架:TensorFlow和PyTorch等深度学习框架的广泛使用 , 使得许多ML从业者能够使用适合的领域特定的编程语言和丰富的构建模块更容易地组装模型 。
深度学习框架竟然这么简单?
文章插图
回顾深度学习框架的演变 , 我们可以清楚地看到深度学习框架和深度学习算法之间的紧密耦合关系 。这种相互依赖的良性循环推动了深度学习框架和工具的快速发展 。
02
趋势
我们正在处于一场人工智能革命的黎明 , 人工智能领域的新研究和应用框架 , 正在以前所未有的速度涌现 。
八年前的AlexNet网络仅仅包含6000万个参数 , 最新的GPT-3网络包含1750亿参数 , 网络规模在8年内增加了3000倍 。但是人类的大脑包含100万亿个突触 , 也就相当于参数 。所以 , 神经网络要达到人类的智能水平还有很大的差距 。
这种难以接受的网络规模 , 对现有的模型训练和推理的硬件、软件计算效率都提出了很大的挑战 。未来的深度学习框架很可能是算法、高性能计算、硬件加速器和分布式系统的跨学科成果 。
03
挑战
然而 , 对于深度学习相关的初学者 , 还是对于已经从事相关工作的算法工程师来说 , 深度学习理论太难学 , 开发过程太复杂 , 又将许多人拒之于深度学习的门外 。
而大厂等一线企业在这方面的需求也是迫在眉睫 , 阿里云也正式开深 , 是业界首个面向NLP场景的深度迁移学习框架 。人才渴求之大 , 人才缺口一场严峻 。
04
机遇
那么 , 作为我们学习深度学习的时候 , 究竟是学哪个框架呢?是学PyTorch、还是学Tensorflow、再或者是学Keras呢?其实 , 对于这样的问题 , 基于现在的形势下 , 你就不要把着眼点放在这些工具的使用上了 , 重要的是要知道它的原理 。
来源:开课吧

深度学习框架竟然这么简单?
文章插图
原文标题:听起来难以置信 , 深度学习框架竟然这么简单!
【深度学习框架竟然这么简单?】文章出处:【微信公众号:FPGA开源工作室】欢迎添加关注!文章转载请注明出处 。
.dfma {position: relative;width: 1000px;margin: 0 auto;}.dfma a::after {position: absolute;left: 0;bottom: 0;width: 30px;line-height: 1.4;text-align: center;background-color: rgba(0, 0, 0, .5);color: #fff;font-size: 12px;content: "广告";}.dfma img {display: block;}
深度学习框架竟然这么简单?
文章插图

    推荐阅读