| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | ||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 |
Tags
- #python gpu
- 화면확대고정
- canon mf416dw
- twolay
- 치환 기능
- VGGNet
- #enviroment variable
- Git branch 보이기
- Hidden layer output
- #ubuntu 14.04(LTS)
- Rust설치
- 학습성공
- ubuntu 원격
- Xpad설치
- stepsize
- 듀얼부트
- 3D convolution
- DenseNet
- tensorboard
- 전체내용
- Lagrange Multiplier
- 리눅스 비밀번호
- Ubuntu 설치
- log파일
- #cuda
- 포트번호 변경
- weight histogram
- Ubuntu동글
- #cudnn
- restnet
Archives
- Today
- Total
목록stepsize (1)
save the world
2주차
Step Size Step size를 N/2회까지는 alpha로 하고 0.75N까지는 alpha/10로하고 N까지는 alpha/100으로 한다. 이렇게 step size를 유동적으로 만들면 처음에 Stochastic Gradient Descent의 랜덤성으로 인한 효과로 대략적인 수렴구간을 찾게되고 이후 값이 진동하는 것을 막기위해 step size를 줄인다. for j in range(100): for i in range(100): sess.run(train_op, feed_dict={learning_rate: stepSize, p_keep_conv: 0.8, p_keep_hidden: 0.5}) if (i+1)*(j+1) == 10000 / 2: stepSize = 0.1 * stepSize elif..
Deep Learning Diary
2018. 1. 22. 14:10