안녕, 세상!

손글씨 숫자 분류의 신경망 구조를 코드로 표현하려고 합니다. 이번엔 이미 학습된 매개변수를 사용해서 가중치 학습 과정은 생략하고, 추론 과정만 구현할 것입니다. 이 추론 과정을 신경망의 순전파(forward propagation) 라고도 합니다. 이 예에서 사용하는 데이터셋은 MNIST라는 손글씨 숫자 이미지 집합입니다. MNIST는 기계학습 분야에서 유명한 데이터셋으로, 간단한 실험부터 논문으로 발표되는 연구까지 다양한 곳에서 이용하고 있습니다. 손글씨 숫자의 훈련 이미지가 60000장, 시험이미지가 10000장 준비되어 있고 MNIST의 이미지 데이터는 28X28 크기의 이미지입니다. 이미지의 각 픽셀은 0에서 255까지 값을 취합니다. 각 이미지에는 그 이미지가 실제 의미하는 숫자가 레이블로 붙어 ..

퍼셉트론은 복잡한 함수를 표현할 수 있지만 가중치 값을 적절히 정하는 작업은 수동적으로 이뤄진다는 한계가 있습니다. 이를 보완하기 위한 것은 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 능력을 갖추게 하는 시스템을 가진 신경망입니다. (1) 신경망의 구조 신경망은 입력층, 은닉층, 출력층으로 구성되어 있습니다. 입력층과 출력층은 단어 그대로 입력값이 들어가고, 출력값이 나오는 층이고, 은닉층은 입력층이나 출력층과 달리 사람눈에 보이지 않는 층을 말합니다. 이 그림에서 0층이 입력층, 1층이 은닉층, 2층이 출력층이 됩니다. 층 번호를 0층부터 시작하는 이유는 파이썬 배열의 인덱스도 0부터 시작하므로, 나중에 구현할 때 연관시키 편하기 때문입니다. 신경망의 구조(틀)는 퍼셉트론과 다름이 없..

1. 퍼셉트론의 정의 '인공뉴런' 혹은 '단순 퍼셉트론'으로 불리며 다수의 신호를 입력으로 받아 하나의 신호를 출력합니다. X1, X2는 입력신호, Y는 출력신호, W1,W2(Weight) 가중치, 세타는 임계값, 원은 뉴런 혹은 노드라고 부릅니다. 2. 단순 논리 회로 퍼셉트론 구현 (1) AND 게이트 X1 X2 Y 0 0 0 0 1 0 1 0 0 1 1 1 입력인 X1,X2 두개 모두가 1일 경우에만 출력인 Y가 1입니다. 입력이 2개이고 출력이 1개인 퍼셉트론 형태로 AND 게이트를 코딩하면 다음과 같습니다. 편향 도입 기존의 식에서 임계값인 세타를 -b로 치환하면서 퍼셉트론의 동작이 다음과 같은 식으로 될 수 있습니다. 여기서 b부분을 편향이라고 합니다. 이제 편향을 도입하여 AND게이트를 다시..

넘파이와 matplotlib 등 의 유용한 라이브러리를 사용하기 위해서 아나콘다 배포판을 설치한 후 윈도우 검색기에 anaconda prmopt로 코딩을 하면 됩니다. 아나콘다 배포판 설치는 python 설치부분에 설명되어 있습니다. 앞으로 사용할 python은 버젼 3 을 사용할 것이기 때문에 아나콘다 배포판도 버젼 3을 다운받아서 사용해야 합니다. 1.넘파이 (1) 불러오기 배열이나 행렬 계산과 관련된 편리한 메서드들이 넘파이의 배열 클래스인 numpy.array에 있습니다. 넘파이는 외부 라이브러리라서 넘파이를 import 함수로 불러야 합니다. np.array() 넘파이 배열을 만들 때는 np.array() 메서드를 사용합니다. 파이썬의 리스트를 인수로 받아 넘파이 라이브러리가 제공하는 특수한 형..