간단한 분류/ 알고리즘 훈련!

목차

 

 

 

머신러닝 알고리즘 직관적 이해
pandas, numpy, matplotlib으로 읽기, 처리, 시각화
python으로 선형 분류 알고리즘 구현

 

인공뉴런 - 초기 머닝러신

신경 구조의 기본인 뉴런

신경세포의 방식을 모방하여 이진 출력을 내는 논리 회로로 구성하는게 머신러닝의 초기 단계라고 할수 있다.

 

 

인공 뉴런의 수학적 정의

퍼셉트론 함수

퍼셉트론의 결정함수와 결정 경계

 

퍼셉트론 학습 규칙

퍼셉트론의 모델은 환원주의(복잡하고 추상적인 개념을 더 단순한 요소로 정의 할 수 있다.)의 접근 법이라고 한다.

즉, 출력을 내거나 내지 않는 두가지(0,1)경우만 있다.

학습규칙은 다음과 같다.

1. 가중치를 0또는 랜덤한 작은 값으로 초기화 한다.
2. 각 훈련 샘플 x(i)에서 다음 작업을 한다.(i는 i번째 훈련샘플)
    a. 출력값 y(i)를 계산한다.
    b. 가중치를 업데이트 한다.

 

개별 가중치 업데이트

가중치 계산

η 학습률, i는 i번째 훈련샘플의 진짜 클래스 레이블, y^는 예측 클래스 레이블

여기서 가중치 벡터의 모든 가중치를 동시에 업데이트 하는게 중요하다!

모든 가중치 Δwj를 업데이트하기 전에 ŷ(i)를 다시 계산하지 않는다.

2차원 데이터셋 업데이트

올바르게 예측했을때

가중치 업데이트는 곱셈 계수인 Xj 에 비례한다.

퍼셉트론은 두 클래스가 선형적으로 구분되고 학습률이 충분히 작을 때만 수렴이 보장된다.

두 클래스를 선형 결정 경계로 나눌 수 없다면 훈련 데이터 셋을 반복할 최대 횟수(에포크(epoch)를 지정하고 분류 허용 오차를 지정할수 있다.

 

선형에 따른 데이터셋

 

끝!