쳉지로그

7.1 전체 구조 합성곱 신경망(Convolutional neural network, CNN) 이미지 인식과 음성 인식 등 다양한 곳에서 사용 이미지 인식 분야에서 딥러닝을 활용한 기법은 거의 CNN을 기초로 함 새로 등장하는 계층: 합성곱 계층(convolutional layer), 풀링 계층(pooling layer) Affine 계층과 CNN 비교 Affine 계층: 인접하는 계층의 모든 뉴런과 결합: 완전연결(fully-connected) Affine-ReLU 연결 CNN: 합성곱 계층과 풀링 계층이 추가됨 Conv-ReLU-(Pooling) 흐름 출력에 가까운 층에서는 'Affine-ReLU' 구성 사용 가능 마지막 출력 계층에서는 'Affine-Softmax' 조합을 그대로 사용 7.2 합성곱..

5.1 계산 그래프 5.1.1 계산 그래프로 풀다 계산 그래프: 계산 과정을 그래프로 나타낸 것 - 복수의 노드(node)와 에지(edge)로 표현 순전파(forward propagation): 그래프에서 계산을 왼쪽에서 오른쪽으로 진행하는 단계 억전파(backward propagation): 순전파의 반대 방향의 전파. 미분을 계산할 때 중요한 역할 5.1.2 국소적 계산 계산 그래프의 특징(이점) - '국소적 계산'을 전파함으로써 최종 결과를 얻음 국소적 계산은 전체에서 어떤 일이 벌어지든 상관없이 자신과 관계된 정보만으로 결과를 출력할 수 있다는 것 (참고) 국소적이란 '자신과 직접 관계된 작은 범위'라는 뜻 5.1.3 왜 계산 그래프로 푸는가? 전체가 아무리 복잡해도 각 노드에서는 단순한 계산에 ..

4.3 수치 미분 4.3.1 미분 미분: 한순간의 변화량을 표시 (참고) 수치미분: 아주 작은 차분으로 미분하느 것 해석적 미분: 수식을 전개해 미분하는 것. 오차를 포함하지 않는 진정한 미분 값을 구해줌 함수를 미분하는 계산 구현 4.3.2 수치 미분의 예 4.3.3 편미분 편미분(Partial Derivative): 변수가 여럿인 함수에 대한 미분 변수가 여럿인 함수에 대한 미분 편미분 예시 편미분은 변수가 하나인 미분과 마찬가지로 특정 장소의 기울기를 구함 단, 여러 변수 중 목표 변수 하나에 초점을 맞추고 다른 변수는 값을 고정 4.4 기울기 기울기(gradient): 모든 변수의 편미분을 벡터로 정리한 것 기울기가 가리키는 쪽은 각 장소에서 함수의 출력 값을 가장 크게 줄이는 방향 기울기 구현 ..

4.1 데이터에서 학습한다! 4.1.1 데이터 주도 학습 딥러닝을 **종단간 기계학습(end-to-end machine learning)**이라고도 함 4.1.2 훈련 데이터와 시험 데이터 훈련 데이터(training data) : 학습하면서 최적의 매개변수를 찾음 시험 데이터(test data) : 앞서 훈련한 모델의 실력을 평가 훈련 데이터와 시험 데이터를 나누는 이유 • 우리가 원하는 것은 범용적으로 사용할 수 있는 모델이기 때문 • 범용 능력을 제대로 평가하기 위해 훈련 데이터와 시험 데이터를 분리하는 것 오버피팅(overfitting) • 한 데이터셋에만 지나치게 최적화된 상태. • 오버피팅 피하기는 기계학습의 중요한 과제임 4.2 손실 함수 손실 함수(loss function) : 신경망 학습..

3.1 퍼셉트론에서 신경망으로 3.1.1 신경망의 예 신경망 : 입력층(input layer), 은닉층(hidden layer), 출력층(output layer)으로 구성 입력층, 출력층의 뉴런은 눈에 보이는 층 은닉층의 뉴런은 눈에 보이지 않는 층 층 번호는 0부터 시작 3.1.2 퍼셉트론 복습 퍼셉트론 : 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 알고리즘 𝑏 : 편향을 나타내는 매개변수 (뉴런이 얼마나 쉽게 활성화되느냐를 제어) 𝑤1, 𝑤2 : 가중치를 나타내는 매개변수 (각 신호의 영향력을 제어) 편향을 명시한 퍼셉트론: 가중치가 𝑏이고, 입력이 1인 뉴런이 추가 3.1.3 활성화 함수의 등장 활성화 함수(activation function) : 입력 신호의 총합을 출력 신호로 변환하는 ..

2.1 퍼셉트론이란? 퍼셉트론 : 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 알고리즘 퍼셉트론 신호는 '1 또는 0'의 두 가지 값을 가질 수 있다. 입력 신호가 뉴런에 보내질 때에는 각각 고유한 가중치가 곱해진다. 뉴런에서 보내온 신호의 총합이 정해진 한계(임계값)을 넘어설 때만 1을 출력, 즉 뉴런이 활성화된다. 2.2 단순한 논리 회로 2.2.1 AND 게이트

1.2 Python 설치하기 설치 링크 (https://www.python.org/downloads/) 라이브러리(numpy, matplotlib) 설치 pip install numpy pip install matplotlib 1.3 Python 인터프리터 파이썬 인터프리터는 '대화 모드'라 하여, 개발자와 파이썬이 대화하듯 프로그래밍할 수 있다. 1.3.1 산술 연산 1.3.2 자료형 1.3.3 변수 1.3.4 리스트 1.3.5 딕셔너리