计算机视觉 Computer Vision Chaper6 深度学习基础

文章目录

  • 深度学习基础
    • 与传统神经网络的区别
    • 目标函数
    • 改进的梯度下降
    • 避免过拟合
  • CNN初步介绍
    • CNN基本组件
    • 池化层误差反向传播
    • 卷积层误差反向传播

深度学习基础

与传统神经网络的区别

在这里插入图片描述

目标函数

在这里插入图片描述
crossentropy收敛性更好
在这里插入图片描述
在这里插入图片描述
softmax：软最大

改进的梯度下降

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
梯度下降的方式：
在这里插入图片描述
在这里插入图片描述
如果前后梯度方向一致，加速学习。如果不一致，可以冲过最低点，避免马鞍点。如果是真正的谷底，可以将点带回最低点。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
delta是一个极小数，防止除0错误。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

避免过拟合

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
Early Stopping
在这里插入图片描述
Weight Decay
在这里插入图片描述
Dropout
在这里插入图片描述
在这里插入图片描述

CNN初步介绍

CNN基本组件

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

池化层误差反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

卷积层误差反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述


http://www.niftyadmin.cn/n/1207863.html

相关文章

MFC出现 error RC2108: expected numerical dialog constant错误解决办法

MFC出现 error RC2108: expected numerical dialog constant错误解决办法

MFC在使用picture console控件之后往往会弹出这个错误：error RC2108: expected numerical dialog constant。 此时，双击这个错误，会跳到提示错误的那一行，在那一行中的一串地址前插入："Static", SS_BITMAP,
阅读更多...
WebUploader 大文件上传下载解决方案

WebUploader 大文件上传下载解决方案

一、概述 所谓断点续传，其实只是指下载，也就是要从文件已经下载的地方开始继续下载。在以前版本的HTTP协议是不支持断点的，HTTP/1.1开始就支持了。一般断点下载时才用到Range和Content-Range实体头。HTTP协议本身不支持断点上传，需…
阅读更多...
剑指offer 刷题 四 查找算法（03 53-I 53-II）

剑指offer 刷题 四 查找算法（03 53-I 53-II）

剑指 Offer 03. 数组中重复的数字 找出数组中重复的数字。 在一个长度为 n 的数组 nums 里的所有数字都在 0～n-1 的范围内。数组中某些数字是重复的，但不知道有几个数字重复了，也不知道每个数字重复了几次。请找出数组中任意一个重复的数字。…
阅读更多...
Web上传大文件的三种解决方案

Web上传大文件的三种解决方案

前言：因自己负责的项目(jetty内嵌启动的SpringMvc)中需要实现文件上传，而自己对java文件上传这一块未接触过，且对 Http 协议较模糊，故这次采用渐进的方式来学习文件上传的原理与实践。该博客重在实践。 一. Http协议原理简介 HTT…
阅读更多...
poj2823 Sliding Window

poj2823 Sliding Window

http://poj.org/problem?id2823 单调队列&#xff1a; 1 #include <cstdio>2 #include <cstring>3 #include <algorithm>4 using namespace std;5 const int maxn 1e6 10;6 int a[maxn];7 int n, k;8 int mqx[maxn], idx[maxn], frontx, rearx;//monotone…
阅读更多...
计算机视觉 Computer Vision Chaper7 图像分类

计算机视觉 Computer Vision Chaper7 图像分类

文章目录常见CNNAlexnetVGGGoogLeNetResNetResNeXtCNN设计准则常见CNN Alexnet 11的卷积&#xff0c;说明只考虑单一的像素点的多通道&#xff0c;33是考虑了周边的像素点。k是控制升维或者降维的。 VGG GoogLeNet Filter Concatenation 是层数的堆叠&#xff0c;不同于Resnet…
阅读更多...
JSP上传大文件的三种解决方案

JSP上传大文件的三种解决方案

在Web应用系统开发中&#xff0c;文件上传和下载功能是非常常用的功能&#xff0c;今天来讲一下JavaWeb中的文件上传和下载功能的实现。 先说下要求&#xff1a; PC端全平台支持&#xff0c;要求支持Windows,Mac,Linux 支持所有浏览器。 支持文件批量上传 支持文件夹上传&…
阅读更多...
学习Butterknife的一点心得（系列）二

学习Butterknife的一点心得（系列）二

2019独角兽企业重金招聘Python工程师标准>>> Android Butterknife 是一款不错的注解框架&#xff0c;和我们在运行期处理注解的思想不同&#xff0c;它是在编译期的时候收集注解信息。在系列一中我们讲解了编译注解的原理&#xff0c;ButterKnife的原理和那个例子差…
阅读更多...
最新文章

Copyright @ 2022~2023