도구스학업·수학

로지스틱 회귀 계산기

1차원 특징과 0/1 라벨에 시그모이드를 씌운 로지스틱 회귀를 경사하강법으로 맞춥니다. 반복마다 계수·교차엔트로피 손실이 어떻게 바뀌는지, 최종 결정 경계가 어디에 생기는지 보여줍니다.

쉼표·탭·공백 아무거나 구분자로 씁니다. #로 시작하는 줄은 주석입니다.

학습된 계수

w=0.6657, b=-0.2423

결정 경계 x* = 0.364 · 정확도 80%

최종 손실(교차엔트로피)0.43412
초기 손실(w=b=0이면 항상 ln2)0.69315
반복이 101회라 표로 다 보여주는 대신 처음·마지막만 요약합니다 — 시작 손실 0.69315 → 최종 손실 0.43412.

점별 예측

x=-4 (실제 y=0)p=0.052 → 예측 0
x=-3 (실제 y=0)p=0.096 → 예측 0
x=-2 (실제 y=0)p=0.172 → 예측 0
x=-1 (실제 y=1)p=0.287 → 예측 0
x=0 (실제 y=0)p=0.44 → 예측 0
x=1 (실제 y=1)p=0.604 → 예측 1
x=2 (실제 y=0)p=0.748 → 예측 1
x=3 (실제 y=1)p=0.853 → 예측 1
x=4 (실제 y=1)p=0.918 → 예측 1
x=5 (실제 y=1)p=0.956 → 예측 1
시그모이드가 확률을 만듭니다. p(x) = σ(wx+b), σ(z)=1/(1+e⁻ᶻ) 로, wx+b가 클수록 p는 1에, 작을수록 0에 가까워집니다. wx+b=0이 되는 지점(x*=−b/w)이 정확히 p=0.5인 결정 경계입니다.
손실은 교차엔트로피입니다. L = −(1/N)Σ[y·log(p) + (1−y)·log(1−p)] 로, 확실히 틀린 예측(라벨은 1인데 p→0)일수록 벌점이 폭발적으로 커집니다. 이 손실은 w, b에 대해 볼록해서, 학습률이 적절하면 경사하강법이 지역최솟값에 갇히지 않고 전역최솟값으로 수렴합니다.
그래디언트는 놀랍도록 단순합니다 — ∂L/∂w = 평균((p−y)·x), ∂L/∂b = 평균(p−y)로, 선형회귀의 최소제곱 그래디언트와 같은 «예측과 정답의 차이(잔차)» 꼴입니다. 시그모이드·로그의 복잡한 미분이 서로 상쇄되어 사라지기 때문입니다.

계산 방법

  1. 1점 목록을 한 줄에 x, y씩 넣습니다(y는 0 또는 1).
  2. 2시작 계수(w, b)와 학습률·반복 횟수를 정합니다.
  3. 3반복마다 손실이 줄어드는 과정과 최종 결정 경계를 확인합니다.

자주 묻는 질문

입력 x에 wx+b를 계산한 뒤 시그모이드 함수 σ(z)=1/(1+e⁻ᶻ)를 씌워 0과 1 사이의 값(1일 확률)으로 바꾸는 모형입니다. 이 확률이 0.5보다 크면 1, 작으면 0으로 예측합니다.

edu/curve-fitting은 연속값 y를 곡선에 맞추는 회귀라 손실함수가 제곱오차입니다. 이 도구는 0/1 분류를 위한 확률 모형이라 손실함수가 교차엔트로피(cross-entropy)로 다릅니다 — 확실히 틀린 예측일수록 벌점이 훨씬 커지는 구조입니다.

wx+b=0이 되는 지점, 즉 x*=−b/w입니다. 이보다 x가 크면 1로, 작으면 0으로 예측이 갈립니다 — 1차원에서는 이 경계가 점 하나뿐입니다.

교차엔트로피 손실은 계수(w, b)에 대해 볼록함수라 지역최솟값에 갇히지 않고, 학습률이 충분히 작으면 경사하강법의 매 단계 손실이 감소하거나 그대로입니다. 학습률을 너무 크게 두면 이 성질이 깨져 손실이 진동하거나 발산할 수 있습니다.

네. 두 라벨이 x축에서 완전히 갈리지 않고 겹치는 데이터라면, 아무리 반복해도 모든 점을 맞히는 경계는 존재하지 않습니다. 그럴 때는 손실이 줄어들며 최선의 경계로 수렴하되 정확도가 100% 밑에서 멈춥니다.

알아두면 좋은 점

  • 1차원 특징(입력 변수 하나)만 다룹니다. 실무의 로지스틱 회귀는 대개 여러 특징을 함께 씁니다.
  • 학습률을 너무 크게 두면 손실이 줄지 않고 진동·발산할 수 있습니다 — 그럴 때는 학습률을 낮춰 보세요.

함께 보면 좋은 도구

경사하강법이차함수 f(x)=ax²+bx+c에서 x_(n+1)=x_n-η·f'(x_n)을 반복해 최솟값을 찾는 경사하강법 과정을 단계별로 보여줍니다.곡선 적합점 목록에 직선·2차·지수·거듭제곱·로그 곡선을 최소제곱으로 맞추고 R²로 비교합니다.죄수와 상자죄수 수와 열 수 있는 상자 수를 넣으면 아무 상자나 여는 전략과 사이클을 따라가는 전략의 전원 성공 확률을 각각 구합니다.15퍼즐 판정슬라이딩 퍼즐 배치를 넣으면 아무리 밀어도 맞출 수 있는 배치인지 판정합니다.열전도 유한차분막대의 온도 분포를 외재적 유한차분으로 시간에 따라 계산합니다.

마지막 검증: 2026년 9월 3일 · 결과는 참고용 추정치입니다.