728x90
    반응형

    0️⃣ 논문 메타 정보 (시작 세팅)

    논문

    • Semi-Supervised Domain Adaptation via Minimax Entropy
    • CVPR 2019

    Obsidian 액션

    • 아직 노트 생성 ❌
    • PDF 열어둔 상태

    1️⃣ GPT 한 줄 요약 (워밍업)

    한 줄 요약
    소량의 타깃 라벨과 다량의 비라벨 데이터를 활용해,
    엔트로피에 대한 minimax 학습으로 도메인 간 분포 차이를 줄이는 SSDA 방법을 제안한다.

    📌 이 문장은 곧 Paper 노트의 “한 줄 요약”이 됨


    2️⃣ 1회독: 구조 훑기

    (Title → Abstract → Figure 1 → Conclusion)

    이 단계에서 파악할 것

    • 문제 설정이 뭔가?
    • 기존 DA랑 뭐가 다른가?
    • Figure 1이 말하려는 구조는?

    핵심 파악 결과 (요약)

    문제 설정

    • Source: 라벨 충분
    • Target: 소량의 라벨 + 많은 비라벨
    • 기존 UDA / SSL 모두 애매하게 안 맞음

    Figure 1의 핵심

    • Classifier ↔ Feature Extractor 사이에 minimax 게임
    • 엔트로피를 중심으로 양쪽 목적이 반대

    ✅ Obsidian 액션: Paper 노트 생성

    위치

    02_PAPERS/2019_SSDA_MinimaxEntropy.md

    지금 단계에서 작성하는 내용

    # Semi-Supervised Domain Adaptation via Minimax Entropy (2019)
    
    ## 한 줄 요약
    소량의 타깃 라벨과 다량의 비라벨 데이터를 활용해,
    엔트로피에 대한 minimax 학습으로 도메인 간 분포 차이를 줄이는 SSDA 방법을 제안한다.
    
    ---
    
    ## 문제의식
    - 실제 환경에서는 타깃 도메인에 소량의 라벨만 존재
    - 기존 UDA는 타깃 라벨을 사용하지 못함
    - 기존 SSL은 도메인 차이를 고려하지 않음
    
    ---
    
    ## 핵심 아이디어 (초안)
    - 타깃 비라벨 데이터의 예측 엔트로피를 중심으로 minimax 학습 구성
    - 분류기와 특징 추출기의 목적을 반대로 설정

    📌 아직 완벽할 필요 없음
    📌 “방향성”만 있으면 OK


    3️⃣ 2회독: 그림 중심 읽기

    Figure를 보며 드는 생각

    • classifier는 entropy를 최대화하지?
    • feature extractor는 entropy를 최소화하지?
    • decision boundary를 움직이려는 의도?

    여기서 등장하는 “개념 후보”

    이제 Paper 노트에 개념 후보만 표시합니다.

    ## 핵심 개념 후보
    - [[Semi-Supervised Domain Adaptation]]
    - [[Entropy]]
    - [[Minimax Optimization]]
    - [[Decision Boundary]]
    - [[Feature Alignment]] ?

    📌 아직 Concept 노트 안 만들어도 됩니다
    📌 물음표 붙여도 괜찮음


    4️⃣ 3회독: 수식 의미 파악

    이 단계의 핵심 질문

    • 이 수식이 뭘 조절하려는 수식인가
    • 왜 entropy인가?
    • pseudo-label이랑 뭐가 다른가?

    핵심 이해 포인트

    • Entropy ↓ → confident prediction
    • Classifier:
      • entropy ↑ → decision boundary를 타깃 데이터 쪽으로 밀어냄
    • Feature Extractor:
      • entropy ↓ → 타깃 데이터가 클래스 중심으로 모이게 함

    👉 “경계 이동 + 군집”을 동시에 유도


    ✅ Obsidian 액션: Concept 노트 생성 시작

    이제 Concept를 만들 타이밍입니다.

    우선 3개부터 만듭니다:

    • Entropy
    • Minimax Optimization
    • Semi-Supervised Domain Adaptation

    Paper 노트에는 이렇게 연결만 남깁니다.

    - 엔트로피 기반 목적 함수로 [[Minimax Optimization]] 수행
    - 타깃 비라벨 데이터에 대해 [[Entropy]]를 학습 신호로 사용

    5️⃣ 4회독: 기존 방법과 비교

    논문이 강조하는 비교 구도

    • 기존 SSDA:
      • pseudo-label 의존
      • 오류 전파 문제
    • MME:
      • 확률 분포 자체(Entropy)에 집중
      • 라벨 오류 없이 학습 가능

    Obsidian에 남길 비교 정리

    ## 기존 방법과의 차이
    - 기존 SSDA: pseudo-label 기반
    - 본 논문: [[Entropy]] 기반 minimax 학습
    - decision boundary를 직접 제어

    👉 여기서 pseudo-label도 Concept 후보로 자연스럽게 등장


    6️⃣ 읽고 나서: A4 1장 요약 → Obsidian 분리

    (1) Summary 노트

    위치

    06_SUMMARIES/MME_SSDA_요약.md

    내용:

    • 문제 정의
    • 핵심 아이디어
    • Figure 1 구조 설명 (글로)
    • 언제 쓰면 좋은 방법인지

    (2) Project / 활용 아이디어

    Paper 노트 하단에만 간단히:

    ## 활용 아이디어
    - Source-free DA로 확장 가능?
    - Prototype 기반 방법과 결합?

    👉 나중에 Project로 승격 가능

    728x90
    반응형
    • 네이버 블러그 공유하기
    • 네이버 밴드에 공유하기
    • 페이스북 공유하기
    • 카카오스토리 공유하기