L1, L2 정규화와 스파시티(Sparcity)
정규화 항의 역할정규화(Regularization)는 모델의 과적합(overfitting)을 방지하고 일반화 성능을 향상시키기 위해 사용됩니다. 정규화 항은 모델의 손실 함수에 추가되어 가중치의 크기를 제어합니다. 이를 통해 복잡한 모델이 데이터를 과하게 학습하지 않도록 합니다.정규화 항에 대한 자세한 설명정규화 항은 손실 함수에 추가되며, 모델의 가중치를 제어하여 복잡성을 줄입니다. 주로 사용되는 정규화 항은 L1 정규화와 L2 정규화입니다.L1 정규화 (( q = 1 ))[ \frac{\lambda}{2} \sum_{j=1}^M |w_j| ]목적: 가중치 벡터의 절대값의 합을 최소화.효과: 많은 가중치가 0이 되도록 유도. 즉, 모델이 필요하지 않은 변수들의 가중치를 0으로 만들어 변수 선택 기능을 ..
정규화항
정규화(Regularization) 항은 모델이 과적합(overfitting)되는 것을 방지하기 위해 사용됩니다. 모델이 학습 데이터를 너무 잘 맞추려 하다 보면, 데이터의 노이즈까지 학습하게 되어 일반화 성능이 떨어질 수 있습니다. 정규화 항을 추가함으로써 모델의 복잡도를 제어하고, 과적합을 방지할 수 있습니다.위 이미지에서 보이는 식은 정규화 항을 포함한 손실 함수(loss function)를 나타냅니다. 이 식의 각 부분을 차례로 풀이하겠습니다.첫 번째 식: ( E_D(\mathbf{w}) + \lambda E_W(\mathbf{w}) )( E_D(\mathbf{w}) ): 데이터 오차(data error) 또는 데이터 손실을 나타냅니다.( \lambda ): 정규화 파라미터로, 데이터 오차와 정규..
순차학습
순차 학습에 대한 설명과 주어진 식의 풀이를 해드리겠습니다.순차 학습 (Online Learning)순차 학습은 학습 데이터를 하나씩 또는 작은 배치 단위로 순차적으로 학습하는 방법입니다. 이는 대규모 데이터를 처리할 때 메모리 사용을 최소화하고, 점진적으로 모델을 업데이트할 수 있는 장점이 있습니다.주어진 식 설명주어진 식은 순차 학습에서 가중치를 업데이트하는 공식을 나타냅니다. 각 단계에서 가중치 ( w )가 목표 값 ( t_n )과 예측 값의 차이를 기반으로 업데이트됩니다.식은 다음과 같습니다:[ w^{(\tau+1)} = w^{\tau} - \mu \nabla E_n ][ w^{(\tau+1)} = w^{\tau} - \mu (t_n - w^{(\tau)T} \phi_n) \phi_n ]여기서:(..
편향
기본 아이디어최종 식에서 ( w_0 )는 모델이 얼마나 편향되어 있는지(즉, 예측이 목표 값과 얼마나 다른지)를 보정해주는 역할을 합니다.식 다시 보기[ w_0 = \frac{1}{N} \sum_{n=1}^{N} t_n - \frac{1}{N} \sum_{j=1}^{M-1} w_j \phi_j ]이 식은 두 부분으로 나눌 수 있습니다:목표 값의 평균: (\frac{1}{N} \sum_{n=1}^{N} t_n)가중치와 함수의 조합의 평균: (\frac{1}{N} \sum_{j=1}^{M-1} w_j \phi_j)1. 목표 값의 평균 ((\frac{1}{N} \sum_{n=1}^{N} t_n))훈련 데이터에서 목표 값 ( t )를 모두 더한 후, 데이터의 개수 ( N )으로 나눈 것입니다. 쉽게 말해, 훈련..
가우시안 분포
가우시안 분포(정규 분포)의 공식은 다음과 같습니다:[ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right) ]여기서,( \mu )는 평균 (mean)입니다.( \sigma )는 표준 편차 (standard deviation)입니다.( \sigma^2 )는 분산 (variance)입니다.( \exp )는 자연 상수 ( e )의 지수 함수입니다.( \pi )는 원주율입니다.이 공식은 정규 분포의 확률 밀도 함수를 나타내며, 이 분포는 평균이 ( \mu )이고 분산이 ( \sigma^2 )인 형태를 가집니다.
제곱합오류함수(SSE) 미분 식
이 식은 선형 회귀 모델의 정상 방정식(Normal Equation) 중 하나로 보입니다. 이를 설명해 드리겠습니다.식:[ \beta \sum_{n=1}^{N} {t_n - \mathbf{w}^T \boldsymbol{\phi}(\mathbf{x}_n)} \boldsymbol{\phi}(\mathbf{x}_n)^T = 0 ]여기서 사용된 기호들의 의미는 다음과 같습니다:(\beta): 학습률 또는 가중치를 조절하는 스칼라 값.(\sum_{n=1}^{N}): n번째 데이터 포인트에 대해 합산.(t_n): n번째 데이터 포인트의 실제 출력 값.(\mathbf{w}): 가중치 벡터.(\mathbf{x}_n): n번째 입력 데이터 포인트.(\boldsymbol{\phi}(\mathbf{x}_n)): 입력 데이터..
구글 타이머 PC, 구글 타이머 프로그램 다운로드! (구글 타이머,time timer, google timer)
서론안녕하세요 직장인 조모씨 입니다.혹시 타임 타이머를 아시나요?구글 타이머, 뽀모도로 타이머 등등의 이름으로 불려지기도 합니다.이 타이머는 남은 시간을 시각적으로 확인하기 유리해서 업무와 공부의 집중 효율을 올릴 수 있습니다 :) 가끔 타임 타이머를 사용하고 싶을 때가 있는데요.특히 회사에서 업무를 할 때 집중을 하기 위해 '타임 타이머가 있었으면 좋겠다...'라고 생각하곤 했죠. 근데 정품의 경우에는 해외 배송 + 만만치 않은 가격 (약 40달러 선)에 구입을 망설이곤 했어요.휴대폰 어플도 있지만, 계속 화면을 켜 두어야 한다는 점이 마음에 걸렸고,컴퓨터 프로그램 중에서는 마음에 드는 디자인이 없었어요. 최대한 필요한 기능만 넣고, 간결한 디자인의 타임 타이머가 있었으면 좋겠다고 생각해서직접 만들어봤..
[Folder Tree] 폴더 구조를 엑셀로 변환하는 방법 (2024년 최신 업데이트)
안녕하세요 조모씨입니다.이번 글은 Folder Tree 프로그램의 일부 업데이트가 있어 작성해봅니다.예전에 휘뚜루 마뚜루 만들었던 프로그램인지라 새로 고치려고 하니 제 코드인데도 낯설더군요.더 좋은 코드를 작성할 수 있도록 정진해야겠습니다.... Folder Tree 프로그램을 아마도 처음 접하실 수도 있습니다. 간단한 설명은 아래 글을 참고해주세요. Folder Tree 설명 2022.04.17 - [사이드 프로젝트/폴더 트리를 엑셀로 관리하자 🌳] - [Folder Tree] 폴더 구조를 엑셀로 변환하는 프로그램 (최종) [Folder Tree] 폴더 구조를 엑셀로 변환하는 프로그램 (최종)간단 설명 프로그램의 이름은 Folder_Tree입니다. 폴더 리스트를 한눈에 보기 쉽게 엑셀로 변경해주는 프..
비모드형 대화상자 (모달리스, Modaless)만들기
클래스 포인터 변수로 선언하여 힙 영역에 할당하여 showwindow함수로 호출하는 형식과 (비모드형 대화상자) 클래스 변수로 선언해서 바로 .domodal함수로 호출하는 방식이 있다. (모드형 대화상자) 두가지의 차이가 뭘까? 2018.08.10 정차장님께서 설명해주셨다. Modal / Modeless 방식의 차이라고 하신다. 모드형 / 비모드형 대화상자 Modal은 다이얼로그가 생성될 때마다 새로운 다이얼로그를 보여주는 것이다. 다이얼로그 자체의 형식은 같지만, 윈도우에서 새 폴더를 만드는 것처럼 매번 새로운 객체를 생성 후 띄우는 것이다. +다이얼로그를 닫거나 취소시키기 전까지는 다른 작업이 불가능하다. +이 말은 즉 modal 다이얼로그가 화면에 띄어져 있으면 다른 곳 터치가 불가능 하다는 말이다..
아주 간편한 이미지 크롭 프로그램 다운로드. 여러 장을 한꺼번에 자르자 (Simple Image Crop)
SimpleImageCrop GitHub - xpile98/SimpleImageCrop: A simple tool to crop multiple images with same option A simple tool to crop multiple images with same option - GitHub - xpile98/SimpleImageCrop: A simple tool to crop multiple images with same option github.com 간단한 이미지 크롭 프로그램을 개발했어요. 폴더를 불러와서 폴더 안에 있는 이미지들을 같은 크기로 자를 수 있어요. 자르는 영역을 쉽게 확인할 수 있고 한번에 여러 이미지들을 처리할 수 있다는 것이 장점입니다! 다운로드 https://githu..