Udemy
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
Development
Web Development Data Science Mobile Development Programming Languages Game Development Database Design & Development Software Testing Software Engineering Development Tools No-Code Development
Business
Entrepreneurship Communications Management Sales Business Strategy Operations Project Management Business Law Business Analytics & Intelligence Human Resources Industry E-Commerce Media Real Estate Other Business
Finance & Accounting
Accounting & Bookkeeping Compliance Cryptocurrency & Blockchain Economics Finance Finance Cert & Exam Prep Financial Modeling & Analysis Investing & Trading Money Management Tools Taxes Other Finance & Accounting
IT & Software
IT Certification Network & Security Hardware Operating Systems Other IT & Software
Office Productivity
Microsoft Apple Google SAP Oracle Other Office Productivity
Personal Development
Personal Transformation Personal Productivity Leadership Career Development Parenting & Relationships Happiness Esoteric Practices Religion & Spirituality Personal Brand Building Creativity Influence Self Esteem & Confidence Stress Management Memory & Study Skills Motivation Other Personal Development
Design
Web Design Graphic Design & Illustration Design Tools User Experience Design Game Design Design Thinking 3D & Animation Fashion Design Architectural Design Interior Design Other Design
Marketing
Digital Marketing Search Engine Optimization Social Media Marketing Branding Marketing Fundamentals Marketing Analytics & Automation Public Relations Advertising Video & Mobile Marketing Content Marketing Growth Hacking Affiliate Marketing Product Marketing Other Marketing
Lifestyle
Arts & Crafts Beauty & Makeup Esoteric Practices Food & Beverage Gaming Home Improvement Pet Care & Training Travel Other Lifestyle
Photography & Video
Digital Photography Photography Portrait Photography Photography Tools Commercial Photography Video Design Other Photography & Video
Health & Fitness
Fitness General Health Sports Nutrition Yoga Mental Health Dieting Self Defense Safety & First Aid Dance Meditation Other Health & Fitness
Music
Instruments Music Production Music Fundamentals Vocal Music Techniques Music Software Other Music
Teaching & Academics
Engineering Humanities Math Science Online Education Social Science Language Teacher Training Test Prep Other Teaching & Academics
AWS Certification Microsoft Certification AWS Certified Solutions Architect - Associate AWS Certified Cloud Practitioner CompTIA A+ Cisco CCNA Amazon AWS AWS Certified Developer - Associate CompTIA Security+
Photoshop Graphic Design Adobe Illustrator Drawing Digital Painting InDesign Character Design Canva Figure Drawing
Life Coach Training Neuro-Linguistic Programming Mindfulness Personal Development Personal Transformation Meditation Life Purpose Coaching Neuroscience
Web Development JavaScript React CSS Angular PHP WordPress Node.Js Python
Google Flutter Android Development iOS Development Swift React Native Dart Programming Language Mobile Development Kotlin SwiftUI
Digital Marketing Google Ads (Adwords) Social Media Marketing Google Ads (AdWords) Certification Marketing Strategy Internet Marketing YouTube Marketing Email Marketing Retargeting
SQL Microsoft Power BI Tableau Business Analysis Business Intelligence MySQL Data Analysis Data Modeling Big Data
Business Fundamentals Entrepreneurship Fundamentals Business Strategy Online Business Business Plan Startup Freelancing Blogging Home Business
Unity Game Development Fundamentals Unreal Engine C# 3D Game Development C++ 2D Game Development Unreal Engine Blueprints Blender
30-Day Money-Back Guarantee

This course includes:

  • 52 hours on-demand video
  • Full lifetime access
  • Access on mobile and TV
Development Data Science Machine Learning

解剖深度学习原理

从0编写深度学习库
Rating: 5.0 out of 55.0 (1 rating)
12 students
Created by hw dong
Last updated 9/2020
Simplified Chinese
30-Day Money-Back Guarantee

What you'll learn

  • 深度学习原理及如何从0 实现一个深度学习库

Course content

11 sections • 74 lectures • 51h 56m total length

  • Preview39:52
  • 课程介绍
    28:01

  • Preview39:07
  • Preview17:53
  • 1.1 Python3-函数
    44:09
  • Preview14:50
  • Preview33:11
  • 什么是张量
    20:30
  • 1.2-numpy-创建numpy张量
    01:05:16
  • 1.2-numpy-numpy张量的索引于切片
    21:40
  • 1.2-numpy-numpy张量的运算
    28:01

  • 函数、极限、连续性
    34:42
  • 导数
    22:17
  • 多变量函数、向量值函数、积分
    44:12
  • 概率
    33:42
  • 随机变量
    25:45
  • 期望、方差、协方差、协变矩阵
    32:01

  • 单调性、极值、极值的必要条件
    27:49
  • 梯度下降法
    37:13
  • 参数优化器
    31:06
  • 梯度验证
    19:20
  • 分离梯度下降算法与参数优化器
    09:35

  • 线性回归
    49:36
  • 多特征线性回归
    48:40
  • 数据规范化
    25:44
  • 模型的评估
    01:03:22
  • 正则化
    15:38
  • 逻辑回归
    56:21
  • softmax回归
    01:01:35
  • softmax回归的多分类交叉熵损失梯度
    59:30

  • 感知机、神经元、激活函数
    30:49
  • 神经网络
    26:01
  • 基于数值梯度训练神经网络
    37:51
  • 反向求导、2层神经网络的实现
    01:13:03
  • 任意层反向求导(列向量形式)
    31:56
  • 实现一个神经网络框架
    01:06:19
  • 通用神经网络框架
    55:02

  • 数据处理
    55:50
  • 参数调试
    33:36
  • 批规范化
    39:37
  • 正则化和Dropout
    31:55

  • 卷积
    01:26:32
  • 卷积神经网络
    01:21:59
  • 卷积的矩阵乘法
    01:05:33
  • 基于下标索引的快速卷积
    43:44
  • 典型的卷积神经网络结构
    44:53

  • 序列问题和模型
    01:04:27
  • 循环神经网络
    22:45
  • 传过时间的反向求导
    48:34
  • 序列数据的采样和RNN模型的训练与预测
    01:00:40
  • RNN语言模型和文本生成
    40:58
  • 长短期记忆网络LSTM
    59:22
  • 门控循环单元GRU
    13:52
  • 循环神经网络的类实现
    01:07:49
  • 多层循环神经网络
    41:39
  • 双向循环神经网络
    19:02
  • 序列到序列模型、字符级机器翻译
    34:24
  • 字符级Seq2Seq机器翻译
    44:02
  • 基于Word2Vec词量化的Seq2Seq机器翻译
    52:38
  • 基于词嵌入层的Seq2Seq机器翻译
    44:23
  • 注意力机制的解码器
    42:31

  • 生成模型
    26:54
  • 自编码器
    28:18
  • 变分自编码器
    37:29
  • 生成对抗网络
    39:29
  • 生成对抗网络的实例
    54:22
  • GAN损失函数和概率分布散度的关系
    36:34
  • 改进的损失函数:Wasserstein GAN(WGAN)
    37:01
  • 深度卷积对抗网络 DCGAN
    46:44

Requirements

  • 具有高中数学知识即可,最好懂点导数、概率、线性代数

Description

从底层由浅入深地介绍深度学习原理并结合实现说明原理是如何实现的。不仅包含全连接神经网络,还包含了卷积神经网络、循环神经网络、对抗生成网络等的原理与实现。通俗易懂的原理讲解、从底层打造深度学习库、完整的深度学习基础内容构成了课程的特色。

教学内容主要有

第一章: 编程和数学基础。包括Python快速入门、张量(包括向量、矩阵)和numpy、微积分基础(函数、极限、连续性、导数、多变量函数和向量值函数、积分)、概率(样本空间、概率、随机变量、期望、方差等)。

第二章: 梯度下降法。包括:函数单调性、极值的必要条件、梯度下降法、梯度下降法的参数优化策略、数值梯度和梯度验证、分离梯度下降和参数优化策略等。

第三章:线性回归、逻辑回归、softmax回归。包括:线性回归、逻辑回归、softmax回归、模型评估、数据规范化、过拟合和欠拟合、学习曲线、偏差与方差、正则化、交叉熵损失、批梯度下降和随机梯度下降等。

第四章:神经网络。包括:神经元、神经网络、损失函数(均方差、二分类和多分类交叉熵)、正向计算与反向求导、基于数值梯度的神经网络实现、基于反向求导的神经网络实现、面向全连接神经网络的深度学习框架。

第五章:改进神经⽹络性能的基本技巧。包括数据处理(数据增强、数据的规范化、特征工程)、参数调式(权重初始化、优化参数)、批规范化、正则化。

第六章:卷积神经网络CNN。包括卷积(池化)、卷积神经网络、卷积层的反向求导、快速卷积、典型的卷积神经网络架构。

第七章:循环神经网络。包括序列问题和模型、序列数据的顺序和随机采样、单层循环神经网络的原理与实现、RNN语言模型和文本生成、长短记忆网络LSTM 、门控循环单元GRU、多层和双向循环神经网络原理与实现、序列到序列模型、机器翻译、单词向量化、词嵌入、注意力机制等。

第八章:对抗生成网络。包括生成模型、自动编码器、变分自动编码器、生成对抗网络的原理与实现、生成对抗网络的例子、GAN损失函数和概率分布散度的关系、:Wasserstein GAN(WGAN)、深度卷积对抗网络的原理与实现、转置卷积等。

Who this course is for:

  • 对机器学习、深度学习、人工智能大的原理及实现感兴趣的大学生、研究生、研究和工程技术人员

Instructor

hw dong
hwdong
hw dong
  • 4.3 Instructor Rating
  • 2 Reviews
  • 32 Students
  • 2 Courses

计算机专业教师,有二十多年的计算机课程讲授经验,主讲过:数据结构、C++语言、计算机图形学、计算机网络、线性代数、概率统计等。

高考数学物理1个小时交卷(2个小时考试时间),超过清华录取分数线二十多分,国内C9基础数学和应用数学本科硕士,2001年获得博士学位。2008-2009德州农工大学访问学者,2016年休斯顿大学访问研究员。

2018年左右因为空虚无聊,开始从事在B站、youtube、腾讯课堂等平台教小白学编程的网上教学工作,录制的计算机编程等视频课程得到了网友的一致好评,使我觉得这是一个有意义的双赢的工作。

  • Udemy for Business
  • Teach on Udemy
  • Get the app
  • About us
  • Contact us
  • Careers
  • Blog
  • Help and Support
  • Affiliate
  • Terms
  • Privacy policy
  • Cookie settings
  • Sitemap
  • Featured courses
Udemy
© 2021 Udemy, Inc.