안녕, 세상!

(1) 신경망의 특징 신경망의 특징은 데이터를 보고 학습할 수 있다는 점입니다. 가중치 매개변수의 값을 데이터를 보고 자동으로 결정할 수 있습니다. 사람의 개입을 최소화하고 수집한 데이터로부터 패턴을 찾습니다. 신경망은 데이터를 '있는 그대로' 학습합니다. 따라서 기계를 학습시킬려면 데이터가 반드시 필요합니다. (2) 훈련데이터와 시험데이터 기계학습 문제는 데이터를 훈련데이터와 시험 데이터로 나눠 학습과 실험을 수행합니다. 훈련데이터와 시험 데이터를 나누는 이유는 범용적을 할 수 있는 모델을 얻기 위해서 입니다. 범용 능력은 아직 보지 못한 데이터로도 문제를 올바르게 풀어내는 능력입니다. 만들고자 하는 신경망은 특정 데이터만을 판단하는 것이 아니라 임의의 데이터를 판단하고 분류하는 것입니다. 그래서 데이..

손글씨 숫자 분류의 신경망 구조를 코드로 표현하려고 합니다. 이번엔 이미 학습된 매개변수를 사용해서 가중치 학습 과정은 생략하고, 추론 과정만 구현할 것입니다. 이 추론 과정을 신경망의 순전파(forward propagation) 라고도 합니다. 이 예에서 사용하는 데이터셋은 MNIST라는 손글씨 숫자 이미지 집합입니다. MNIST는 기계학습 분야에서 유명한 데이터셋으로, 간단한 실험부터 논문으로 발표되는 연구까지 다양한 곳에서 이용하고 있습니다. 손글씨 숫자의 훈련 이미지가 60000장, 시험이미지가 10000장 준비되어 있고 MNIST의 이미지 데이터는 28X28 크기의 이미지입니다. 이미지의 각 픽셀은 0에서 255까지 값을 취합니다. 각 이미지에는 그 이미지가 실제 의미하는 숫자가 레이블로 붙어 ..

퍼셉트론은 복잡한 함수를 표현할 수 있지만 가중치 값을 적절히 정하는 작업은 수동적으로 이뤄진다는 한계가 있습니다. 이를 보완하기 위한 것은 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 능력을 갖추게 하는 시스템을 가진 신경망입니다. (1) 신경망의 구조 신경망은 입력층, 은닉층, 출력층으로 구성되어 있습니다. 입력층과 출력층은 단어 그대로 입력값이 들어가고, 출력값이 나오는 층이고, 은닉층은 입력층이나 출력층과 달리 사람눈에 보이지 않는 층을 말합니다. 이 그림에서 0층이 입력층, 1층이 은닉층, 2층이 출력층이 됩니다. 층 번호를 0층부터 시작하는 이유는 파이썬 배열의 인덱스도 0부터 시작하므로, 나중에 구현할 때 연관시키 편하기 때문입니다. 신경망의 구조(틀)는 퍼셉트론과 다름이 없..

1. 퍼셉트론의 정의 '인공뉴런' 혹은 '단순 퍼셉트론'으로 불리며 다수의 신호를 입력으로 받아 하나의 신호를 출력합니다. X1, X2는 입력신호, Y는 출력신호, W1,W2(Weight) 가중치, 세타는 임계값, 원은 뉴런 혹은 노드라고 부릅니다. 2. 단순 논리 회로 퍼셉트론 구현 (1) AND 게이트 X1 X2 Y 0 0 0 0 1 0 1 0 0 1 1 1 입력인 X1,X2 두개 모두가 1일 경우에만 출력인 Y가 1입니다. 입력이 2개이고 출력이 1개인 퍼셉트론 형태로 AND 게이트를 코딩하면 다음과 같습니다. 편향 도입 기존의 식에서 임계값인 세타를 -b로 치환하면서 퍼셉트론의 동작이 다음과 같은 식으로 될 수 있습니다. 여기서 b부분을 편향이라고 합니다. 이제 편향을 도입하여 AND게이트를 다시..