퍼셉트론 계산기

1958년 로젠블랫이 만든 가장 단순한 선형 분류기입니다. 가중치 벡터로 판별값 w·(1,x,y)를 계산해 부호로 클래스를 정하고, 틀리게 예측한 점을 만날 때마다 그 점 쪽으로 가중치를 조금씩 옮기는 규칙만으로 두 클래스를 가르는 직선을 찾습니다.

점 (x,y)의 실제 라벨과 예측이 다르면 w ← w + η·label·(1,x,y)로 갱신합니다. 이 갱신 한 번으로 그 점에서의 판별값이 라벨 방향으로 정확히 늘어나, 다음번엔 그 점을 맞게 예측할 가능성이 커집니다.

데이터가 선형분리 가능(어떤 직선으로 두 클래스를 완전히 나눌 수 있음)하면 퍼셉트론 수렴 정리(Novikoff, 1962)에 따라 유한 번의 갱신 안에 반드시 수렴합니다. 선형분리가 안 되는 데이터에는 아무리 반복해도 수렴하지 않습니다.

XOR의 두 클래스((0,0)·(1,1)이 한 클래스, (0,1)·(1,0)이 다른 클래스)는 각각 정사각형의 대각선 위에 있는데, 이 두 대각선이 정중앙 (0.5, 0.5)에서 서로 교차합니다. 두 클래스의 영역이 겹치는 점이 있으면 어떤 직선으로도 완전히 분리할 수 없습니다 — 이것이 1969년 민스키와 페퍼트가 지적한 단층 퍼셉트론의 한계입니다.

퍼셉트론은 계단함수로 딱 잘라 ±1을 예측하고 오분류한 점만 갱신에 씁니다. 로지스틱 회귀는 시그모이드로 확률을 내고 모든 점의 손실(오차)을 반영해 경사하강법으로 갱신한다는 점이 다릅니다. 같은 데이터를 넣어 두 방식의 갱신 궤적이 어떻게 다른지 견줘 볼 수 있습니다.

전송되지 않습니다. 모든 계산은 브라우저 안에서 이뤄지고, 입력값은 이 기기에만 남습니다.