딥러닝 학습 시 모델 불균형

[1901.05555] Class-Balanced Loss Based on Effective Number of Samples (arxiv.org) Class-Balanced Loss Based on Effective Number of Samples With the rapid increase of large-scale, real-world datasets, it becomes critical to address the problem of long-tailed data distribution (i.e., a few classes account for most of the data, while most classes are under-represented). Existing solutions typica ar..

  • format_list_bulleted 프로그래밍/참고자료
  • · 2022. 6. 8.
  • textsms
CoAtNet 정리 자료 모음

CoAtNet 정리 자료 모음

아래 자료를 바탕으로 내가 정리한 게시물 https://haystar.tistory.com/79 [논문정리] CoAtNet : Marrying Convolution and Attention for All Data Sizes 논문정보 CoAtNet : Marrying Convolution and Attention for All Data Sizes 논문정리 Abstract 트랜스포머로 인해 컴퓨터 비전에 대한 관심이 높아졌지만, SOTA 컨볼루션망에 비해서는 뒤쳐지고 있다. 이 연구에서는 haystar.tistory.com --------------------------------------------------------------------------------------------------------..

  • format_list_bulleted 프로그래밍/참고자료
  • · 2022. 5. 4.
  • textsms
Attention is all you need 논문 정리

Attention is all you need 논문 정리

Transformer 논문리뷰 (Attention Is All You Need, NIPS 2017) (velog.io) Transformer 논문리뷰 (Attention Is All You Need, NIPS 2017) 본 논문 Attention Is All You Need의 Training과 Result를 제외한 나머지 부분을 모두 정리(번역..?)했습니다.오류 지적이나 질문 너무너무 환영입니다 :) velog.io ==> Training , result 제외하고 번역 ATTENTION IS ALL YOU NEED 논문 리뷰 (tistory.com) ATTENTION IS ALL YOU NEED 논문 리뷰 RNN이나 CNN이 아닌 새로운 구조를 개척한 Attention Is All You Need을 리..

  • format_list_bulleted 프로그래밍/참고자료
  • · 2022. 4. 15.
  • textsms
[tensorflow] ResNet50에 GradCAM 적용하기 / 코드해설 o

[tensorflow] ResNet50에 GradCAM 적용하기 / 코드해설 o

📌GradCAM 원리 $c$라고 표시된 노드에서 출력 $o_c$가 나오는데, $o_c$는 특징맵 F에 따라 값이 변한다. F에는 8*8*4=256개의 화소가 있는데 각 화소는 $o_c$에 영향을 미친다. 즉, $k$번째 특징 맵의 $i$번째 행의 $j$번째 열에 있는 화소 $f_{ij}^k$의 값이 바뀌면 $o_c$도 바뀜 이 변화량은 그림에서 볼 수 있듯이 그레디언트 요소 $\frac{\partial o_c}{\partial f_{ij}^k}$로 정의됨 (이 값은 텐서플로가 제공하는 함수를 사용하여 계산) GradCAM은 F를 구성하는 특징맵의 화소 각각에 대해 $\frac{\partial o_c}{\partial f_{ij}^k}$를 계산한 다음, 식 1을 사용해 $k$번째 특징 맵의 그레디언트에 전..

  • format_list_bulleted 프로그래밍/파이썬 Python
  • · 2022. 3. 17.
  • textsms
[python] 결정트리의 학습과 예측

[python] 결정트리의 학습과 예측

📑 사이킷 런 라이브러리에서 제공하는 유방암 데이터셋 사용 전체 코드 from sklearn.datasets import load_breast_cancer from sklearn import tree import pydotplus wdbc = load_breast_cancer() decision_tree = tree.DecisionTreeClassifier(max_depth = 4, random_state = 1) dt = decision_tree.fit(wdbc.data, wdbc.target) res = dt.predict(wdbc.data) print("결정 트리의 정확률 = ",sum(res==wdbc.target)/len(res)) dot=tree.export_graphviz(dt, out_fi..

  • format_list_bulleted 프로그래밍/파이썬 Python
  • · 2022. 3. 12.
  • textsms
Context Encoders 논문 정리

Context Encoders 논문 정리

[고문서복원]Context Encoder 논문리딩 - LAB CONTEXT [고문서복원]Context Encoder 논문리딩 Intro labcontext.github.io Context Encoders를 활용한 배경 채우기(1) - Forte (hyungjobyun.github.io) Context Encoders를 활용한 배경 채우기(1) 동기 hyungjobyun.github.io 논문 리뷰 - Context Encoders: Feature Learning by Inpainting - SHA Computing (shacoding.com) 논문 리뷰 - Context Encoders: Feature Learning by Inpainting - SHA Computing 가톨릭대학교 CVMI LAB에서 ..

  • format_list_bulleted 프로그래밍/참고자료
  • · 2022. 3. 12.
  • textsms