| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 |
Tags
- 3D convolution
- stepsize
- Hidden layer output
- VGGNet
- 리눅스 비밀번호
- #cudnn
- twolay
- log파일
- #cuda
- 포트번호 변경
- 전체내용
- Xpad설치
- ubuntu 원격
- Ubuntu 설치
- Ubuntu동글
- 화면확대고정
- Rust설치
- 듀얼부트
- canon mf416dw
- 학습성공
- DenseNet
- tensorboard
- 치환 기능
- #ubuntu 14.04(LTS)
- Lagrange Multiplier
- restnet
- weight histogram
- Git branch 보이기
- #enviroment variable
- #python gpu
Archives
- Today
- Total
목록DenseNet (1)
save the world
2주차
Step Size Step size를 N/2회까지는 alpha로 하고 0.75N까지는 alpha/10로하고 N까지는 alpha/100으로 한다. 이렇게 step size를 유동적으로 만들면 처음에 Stochastic Gradient Descent의 랜덤성으로 인한 효과로 대략적인 수렴구간을 찾게되고 이후 값이 진동하는 것을 막기위해 step size를 줄인다. for j in range(100): for i in range(100): sess.run(train_op, feed_dict={learning_rate: stepSize, p_keep_conv: 0.8, p_keep_hidden: 0.5}) if (i+1)*(j+1) == 10000 / 2: stepSize = 0.1 * stepSize elif..
Deep Learning Diary
2018. 1. 22. 14:10