
原标题:10月AI HPC--强化学习与GPU并行编程高档实操班
练习简介
跟着人工智能(AI)特别是深度学习(Deep Learning)近年来的飞速开展,在多个范畴的成功运用,已经成为当时学术界和各职业最炙手可热的研讨运用方向。不只广泛运用于搜索引擎、电子商务、交际网络等互联网服务,并且在核算视觉、自然言语处理、金融、生物医药等职业AI的研讨与运用也出现爆发式增加。学习深度学习首要需求对中心理论及算法有深化了解,在了解理论的根底上才干进行运用。GPU的价值百科不止体现在深度学习,在高功能核算、物联网、人工智能、生物信息、分子模仿、核算化学 、材料力学、系统仿真、流体力学、机械规划、生物制药、航空动力、地质勘探、气候模仿等范畴,算法越来越杂乱,需求处理的海量数据越来越巨大,高功能核算才能就显得尤为重要。现在,简直一切的深度学习(机器学习)研讨者都在运用GPU进行相关的研讨,NVIDIA针对深度学习的核算,有一套完好的解决计划,cuDNN已经成为干流深度学习结构调用的深度学习GPU函数库,包括完好的矩阵乘法和卷积核算的完成。为加强AI技能的立异开展和运用,培育社会急缺的深度学习专业人才,中科院核算所西部高档技能研讨院特别约请深度学习范畴的专家,举行“AI HPC--强化学习与GPU并行编程“高档练习班。
练习方针
在深度学习的根本概念和技能办法的根底上论述深度学习的根本思想和解决问题的根本思想形式,从理论到实践逐渐进步对深度学习技能办法的了解;从模型表达才能到核算杂乱度两个层次协助学员了解从数据推知数据包括的结构、解决问题的技巧。结合运用事例和开发结构构建学员从所学理论到实践解决问题的理论和工程相结合的才能。针对学员面临的实践问题展开讨论、计划主张。为学员装备由浅入深的参考书和深度学习开发教材,便于课后逐渐进步才能。
现有硬件资源最大化运用,供给多种并行优化计划组合战略,进步并行程序规划与开发水平,了解常见的并行核算形式,了解深度学习的干流GPU加快解决计划;实践体会高功能核算环境,可以应对干流的超算环境;供给契合本身特色的工程核算解决计划,了解高功能核算和深度学习运用场景
练习方针
院校核算机专业、网络通讯专业、电子工程专业、信息核算科学专业、统计学专业等对AI /深度学习技能及研制感兴趣的教师、研讨生等。相关从事大数据、数据发掘、机器学习、核算视觉、自然言语处理、人机交互等范畴研制的单位的技能部门、IT企业的工程师、研制负责人、算法工程师等。
从事高功能核算、GPU加快、并行核算、CUDA编程、openCV、石油、气候、化工、人工智能、深度学习、核算机视觉、人脸辨认、 图画处理、行人检测、自然言语处理等范畴相关的企事业单位技能骨干、科研院所研讨人员和大专院校相关专业教育人员及在校研讨生等相关技能人员;
练习方法
1、练习讲座 2、上机实操 3、专题小组研讨与事例解说剖析结合
时刻地址:可咨询:13932327338
2019年 10月25日 — 2019年10月 29日 重庆
练习内容
强化学习
第一节
Python与TensorFlow
解说器Python2.7/3.6与IDE:Anaconda/Pycharm
列表/元组/字典/类/文件
numpy/scipy/matplotlib/panda的介绍和典型运用
scikit-learn的介绍和典型运用
TensorFlow典型运用
Soble/Prewitt/Laplacian算子与卷积网络
代码和事例实践:
第二节
卷积神经网络CNN
神经网络结构,滤波器,卷积
池化,激活函数,反向传达
方针分类与辨认、方针检测与追寻
AlexNet、VGGNet、GoogleLeNet
Inception-V3/V4
ResNet、DenseNet
代码和事例实践:
数字图片分类
卷积核与特征提取
卷积神经网络调参经历同享
第三节
图画视频的定位与辨认
视频关键帧处理
物体检测与定位
RCNN,Fast-RCNN,Faster-RCNN,MaskRCNN
YOLO
FaceNet
代码和事例实践:
搬迁学习
人脸检测
第四节
循环神经网络RNN
RNN根本原理
LSTM、GRU
Attention
CNN+LSTM模型
Bi-LSTM双向循环神经网络结构
编码器与解码器结构
特征提取:word2vec
Seq2seq模型
代码和事例实践:
看图说话
视频了解
作诗机器人
循环神经网络调参经历同享
第五节
自然言语处理
言语模型Bi-Gram/Tri-Gram/N-Gram
分词
词性标示
依存句法剖析
语义联系抽取
词向量
文本分类
机器翻译
文本摘要
阅览了解
问答系统
情感剖析
代码和事例实践:
输入法规划
HMM分词
文本摘要的生成
智能对话系统和SeqSeq模型
阅览了解的完成与Attention
第六节
生成对立网络GAN
生成与判别
生成模型:贝叶斯、HMM到深度生成模型
GAN对立生成神经网络
DCGAN
Conditional GAN
InfoGan
Wasserstein GAN
代码和事例实践:
图片生成
看图说话
对立生成神经网络调参经历同享
第七节
强化学习RL
为何运用增强学习
马尔科夫决议计划进程
贝尔曼方程、最优战略
战略迭代、值迭代
Q Learning
SarsaLamda
DQN
A3C
ELF
代码和事例实践:
DQN
DDPG轿车驾驭游戏
HPC
第一节
同享内存编程
OpenMP根底:概念介绍、环境建立、根本用法、编程模型、功能剖析
OpenMP线程操作:线程同步、数据同步、多线程并发、并行循环核算详解
OpenMP使命和数据处理:数据同享形式、效果规模制导句子、task指令的运用
深化了解OpenMP的内存模型和硬件根底
Hello_world
根本指令的运用
积分法核算圆周率PI
第二节
CPU并行核算与编程根底
并行机系统组织与编程模型概述
① 同享存储结构
② 同享地址空间
③ 音讯传递
④ 数据并行
⑤ SMP与GPU集群
并行核算的模型与剖析
① 并行执行时刻点评模型
② 并行算法的功率特性
③ 并行核算拓展性剖析
MPI并行编程一
① MPI根本概念与界说
② MPI运转环境
③ MPI根底:MPI程序初始化与停止、进程设置与获取、音讯发送与接
④ 进程间的通讯:通讯形式、堵塞与非堵塞通讯
MPI并行编程二
① 调集通讯:数据播送、归约、分发、收集、all to all 通讯、归约操作
② MPI派生数据类型
混合并行编程:MPI+OpenMP
① 多线程编程与openMP概述
② openMP指令介绍
求解圆周率PI
向量点乘
矩阵向量乘法
矩阵乘法
第三节
GPU编程根底与优化进阶
CUDA根底:API、数据并行、线程模型、存储模型、操控、同步、并发和通讯、加快比;
CUDA开发环境建立和东西装备;
CUDA优化进阶:线程组织调度,分支句子,访存优化,数据传输,原子操作;
GPU并行核算形式及事例剖析:
剖析调试:parallel nsight,visual profiler,cuda-gdb;
CUDA生态系统和相关专业范畴软件介绍;
矩阵乘
直方图
卷积
规约
第四节
GPU深度学习
深度学习GPU解决计划:
根据GPU的交互式深度学习练习渠道:DIGITS;
深度学习结构的GPU加快:TensorFlow,Caffe等;
NVIDIA深度学习SDK:cuDNN,TensorRT,NCCL;
深度学习显卡挑选;
CUDA 10新特性
Pascal,Volta,Turing显卡新架构
Caffe-MPI
Horovod (Tensorflow-MPI)
授课讲师
主讲专家来自中科院及高校的深度学习高档专家,具有丰厚的科研及工程技能经历具有资深的技能底蕴和专业布景。
练习费用
A 类: ¥RMB:4300元/人,(包括报名费、练习费、资料费、证书费)
B 类: ¥RMB:4800元/人,(包括报名费、练习费、资料费、证书费)
食宿可统一组织,费用自理
学员经练习考试合格后可以获得:由 北京中科云畅运用技能研讨院 颁布的结业证书
练习完毕经查核合格,可获得由中国电子学会颁布全国电子信息人才干力进步工程专业技能证书,根据人力资源与社会保障部《国家级专业技能人员继续教育基地管理办法》(人社厅发〔2013〕53 号)的要求,本次学习状况,本次学习状况可计入继续教育学时并作为对专业技能人员查核点评、岗位聘任、职称评聘和执业注册的重要根据。须提交电子版彩色照片,身份证复印件。
主办单位: 中科院核算所西部高档技能研讨院
承办单位: 北京中科云畅运用技能研讨院
协办单位: 北京中科图云科技有限公司
责任编辑:
