Skip to content

Commit

Permalink
update CNN and image
Browse files Browse the repository at this point in the history
  • Loading branch information
leejaymin committed Feb 5, 2017
1 parent 9fb2ce5 commit 678b1dc
Show file tree
Hide file tree
Showing 2 changed files with 16 additions and 14 deletions.
30 changes: 16 additions & 14 deletions 5.CNN/CNNforMNIST.ipynb
Original file line number Diff line number Diff line change
Expand Up @@ -14,22 +14,15 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"<img src = 'Cnn_layer.png'>\n",
"(출처: http://ufldl.stanford.edu/tutorial/images/Cnn_layer.png)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"<img src = 'big_cnn.png'>\n",
"(출처: https://qph.is.quoracdn.net/main-qimg-cf89aa517e5b641dc8e41e7a57bafc2c?convert_to_webp=true)\n",
"\n",
"이번에는 간단한 구조를 가진 CNN을 구현하고 방금전에 사용했던 MNIST 데이터를 학습시켜 보고, MLP와의 성능 차이를 비교해본다.\n",
"이번에는 간단한 구조를 가진 CNN을 구현한다.\n",
"MNIST 데이터를 이용하여 학습하고 테스팅 해본다. \n",
"\n",
"아래의 코드를 보면 MLP와 전체 구조는 매우 유사한데, 중간에 conv2d나 max-pool을 비롯해 처음 보는 여러 연산들이 추가 된 것을 알 수 있다. 또한 CNN을 효과적으로 학습하기 위해서는 Weight의 초기화를 0으로 하는 것이 아니라, 랜덤으로 해주어야하는데, 여기서는 가우시안을 이용하여 초기화 하였다. 그밖에 dropout과 relu, Adam 등이 추가로 사용되었다.\n",
"사용된 기술\n",
"\n",
"각 함수와 연산들의 자세한 설명은 아래 코드를 보면서 하나하나 분석해보자."
"- conv2d\n",
"- max-pool\n",
"- weight 초기화: truncated normal dist.\n",
"- RMSProp optimizer"
]
},
{
Expand Down Expand Up @@ -68,6 +61,15 @@
"training_epochs = 20"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"**구현 하는 Network**\n",
"<img src = 'mycnn.JPG'>\n",
"(출처: 직접 그림)"
]
},
{
"cell_type": "code",
"execution_count": 65,
Expand Down
Binary file added 5.CNN/mycnn.JPG
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.

0 comments on commit 678b1dc

Please sign in to comment.