找回密码
 立即注册
查看: 666|回复: 1

AI框架简单概述

[复制链接]

1

主题

3

回帖

16

积分

新手上路

积分
16
发表于 2023-7-11 13:17:01 | 显示全部楼层 |阅读模式
1. AI框架(深度学习框架)的成长历程


  • 早期率先推出的深度学习框架,应该得算是theano和Caffe, 大体的时间点如下所示:



  • 此中框架的整合或封装有如下实现方式:

    • caffe/caffe2/pytorch主要由Facebook负责开发





    • 而早期的theano也基本转入形成tensorflow,并有Google主要负责开发:





    • 基于pytorch1.0进行高级封装诞生了FastAI,tensorflow进行封装成高级API则有了Keras;




  • 各大框架的用户占有率斗劲可知,仍主要以tensorflow和pytorch为主:

    • 当前在工业场景仍主要由tensorflow为主导,因其采用的是自底向上的设计思路,具有较好的计算速度
    • 在学术研究等场景则主要以pytorch为主导,因其采用自顶向下的设计理念,优先从易用性考虑,因此可发现近两年其用户数剧增

2. AI框架成长趋势



    • 随着深度学习中计算量急剧扩大,为缩短模型训练时间,各大框架则陆续对并行计算进行了撑持以提高训练速度,例如撑持单机多卡/多机多卡等训练方式
    • 为加速训练,另一个趋势则为对网络优化减枝以减小训练耗时的同时;提升底层计算硬件单元的计算能力也同等重要,为此英伟达则推出了各种型号的GPU(图像措置单元,针对深度学习网络中常见的计算机视觉训练任务效果提升显著)
    • 分析现有的AI框架,大部门框架都有两方面同步提高的趋势,如百度的paddel paddel深度学习平台与出产的硬件进行结合;在这方面而言,3月底华为推出的MindSpore做得更为到位一些,Mindspore具有自动并行(auto-parallel)的特性,并与自研的达芬奇计算芯片相结合(进行芯片底层运算优化,提高计算速度)。


参考文献:

2. https://www.jiqizhixin.com/articles/2020-04-01-10?from=synced&keyword=%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E6%A1%86%E6%9E%B6

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

0

主题

4

回帖

9

积分

新手上路

积分
9
发表于 2023-7-11 13:17:31 | 显示全部楼层
。。真的有够简单
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|T9AI - 深度人工智能平台 ( 沪ICP备2023010006号 )

GMT+8, 2024-11-21 23:53 , Processed in 0.054520 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表