쳉지로그

7.1 전체 구조 합성곱 신경망(Convolutional neural network, CNN) 이미지 인식과 음성 인식 등 다양한 곳에서 사용 이미지 인식 분야에서 딥러닝을 활용한 기법은 거의 CNN을 기초로 함 새로 등장하는 계층: 합성곱 계층(convolutional layer), 풀링 계층(pooling layer) Affine 계층과 CNN 비교 Affine 계층: 인접하는 계층의 모든 뉴런과 결합: 완전연결(fully-connected) Affine-ReLU 연결 CNN: 합성곱 계층과 풀링 계층이 추가됨 Conv-ReLU-(Pooling) 흐름 출력에 가까운 층에서는 'Affine-ReLU' 구성 사용 가능 마지막 출력 계층에서는 'Affine-Softmax' 조합을 그대로 사용 7.2 합성곱..

4.3 수치 미분 4.3.1 미분 미분: 한순간의 변화량을 표시 (참고) 수치미분: 아주 작은 차분으로 미분하느 것 해석적 미분: 수식을 전개해 미분하는 것. 오차를 포함하지 않는 진정한 미분 값을 구해줌 함수를 미분하는 계산 구현 4.3.2 수치 미분의 예 4.3.3 편미분 편미분(Partial Derivative): 변수가 여럿인 함수에 대한 미분 변수가 여럿인 함수에 대한 미분 편미분 예시 편미분은 변수가 하나인 미분과 마찬가지로 특정 장소의 기울기를 구함 단, 여러 변수 중 목표 변수 하나에 초점을 맞추고 다른 변수는 값을 고정 4.4 기울기 기울기(gradient): 모든 변수의 편미분을 벡터로 정리한 것 기울기가 가리키는 쪽은 각 장소에서 함수의 출력 값을 가장 크게 줄이는 방향 기울기 구현 ..

4.1 데이터에서 학습한다! 4.1.1 데이터 주도 학습 딥러닝을 **종단간 기계학습(end-to-end machine learning)**이라고도 함 4.1.2 훈련 데이터와 시험 데이터 훈련 데이터(training data) : 학습하면서 최적의 매개변수를 찾음 시험 데이터(test data) : 앞서 훈련한 모델의 실력을 평가 훈련 데이터와 시험 데이터를 나누는 이유 • 우리가 원하는 것은 범용적으로 사용할 수 있는 모델이기 때문 • 범용 능력을 제대로 평가하기 위해 훈련 데이터와 시험 데이터를 분리하는 것 오버피팅(overfitting) • 한 데이터셋에만 지나치게 최적화된 상태. • 오버피팅 피하기는 기계학습의 중요한 과제임 4.2 손실 함수 손실 함수(loss function) : 신경망 학습..

3.1 퍼셉트론에서 신경망으로 3.1.1 신경망의 예 신경망 : 입력층(input layer), 은닉층(hidden layer), 출력층(output layer)으로 구성 입력층, 출력층의 뉴런은 눈에 보이는 층 은닉층의 뉴런은 눈에 보이지 않는 층 층 번호는 0부터 시작 3.1.2 퍼셉트론 복습 퍼셉트론 : 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 알고리즘 𝑏 : 편향을 나타내는 매개변수 (뉴런이 얼마나 쉽게 활성화되느냐를 제어) 𝑤1, 𝑤2 : 가중치를 나타내는 매개변수 (각 신호의 영향력을 제어) 편향을 명시한 퍼셉트론: 가중치가 𝑏이고, 입력이 1인 뉴런이 추가 3.1.3 활성화 함수의 등장 활성화 함수(activation function) : 입력 신호의 총합을 출력 신호로 변환하는 ..

2.1 퍼셉트론이란? 퍼셉트론 : 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 알고리즘 퍼셉트론 신호는 '1 또는 0'의 두 가지 값을 가질 수 있다. 입력 신호가 뉴런에 보내질 때에는 각각 고유한 가중치가 곱해진다. 뉴런에서 보내온 신호의 총합이 정해진 한계(임계값)을 넘어설 때만 1을 출력, 즉 뉴런이 활성화된다. 2.2 단순한 논리 회로 2.2.1 AND 게이트