일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 | 31 |
Tags
- restnet
- #cudnn
- Lagrange Multiplier
- Rust설치
- 전체내용
- 3D convolution
- 듀얼부트
- Git branch 보이기
- Xpad설치
- #python gpu
- twolay
- #cuda
- VGGNet
- canon mf416dw
- DenseNet
- 치환 기능
- 포트번호 변경
- #ubuntu 14.04(LTS)
- weight histogram
- ubuntu 원격
- 학습성공
- Hidden layer output
- 리눅스 비밀번호
- Ubuntu 설치
- Ubuntu동글
- log파일
- tensorboard
- stepsize
- #enviroment variable
- 화면확대고정
Archives
- Today
- Total
목록DenseNet (1)
save the world
2주차
Step Size Step size를 N/2회까지는 alpha로 하고 0.75N까지는 alpha/10로하고 N까지는 alpha/100으로 한다. 이렇게 step size를 유동적으로 만들면 처음에 Stochastic Gradient Descent의 랜덤성으로 인한 효과로 대략적인 수렴구간을 찾게되고 이후 값이 진동하는 것을 막기위해 step size를 줄인다. for j in range(100): for i in range(100): sess.run(train_op, feed_dict={learning_rate: stepSize, p_keep_conv: 0.8, p_keep_hidden: 0.5}) if (i+1)*(j+1) == 10000 / 2: stepSize = 0.1 * stepSize elif..
Deep Learning Diary
2018. 1. 22. 14:10