본문 바로가기

Papers & Research Notes8

[CNN] Convolution으로 Accuracy 높이기 (Fashion MNIST, TensorFlow) Fashion MNIST는 70,000개의 28x28의 greyscale 이미지로 구성이 되어 있습니다. Fashion MNIST Dataset를 활용해 Convolution가 없을 때와 있을 때를 비교하고 모델에 살짝씩 변화를 주며 파라미터, 레이어가 어떤 역할을 하는지 알아봤습니다. Fashion MNIST Dataset를 활용해 Convolution으로 Accuracy 높이기 먼저 Convolution이 없는 DNN(Deep Neural Network)로 accuracy를 확인해봅니다. import tensorflow as tf mnist = tf.keras.datasets.fashion_mnist (training_images, training_labels), (test_images, test_l.. 2021. 3. 28.
[논문 리뷰] StyleGAN: A Style-Based Generator Architecture for GANs 이번에 소개해 드릴 논문은 A Style-Based Generator Architecture for Generative Adversarial Networks으로 StyleGAN으로 자연스러운 고해상도 이미지를 만들면서 많이 알려지게 된 논문입니다. 해당 논문은 NVDIA 팀이 CVPR 2019에서 발표한 논문입니다. 이 글은 나동빈 님의 유튜브 영상과 루닛의 블로그 글을 참고하여 작성했습니다. Introduction 최근 GAN을 기반으로 한 이미지 합성 기술은 PGGAN 등을 포함하여 지속적으로 발전하고 있습니다. 그러나 Generator를 통한 이미지 합성 과정은 여전히 block box로 여겨지며, 이로 인해 합성되는 이미지의 attribute (성별, 연령, 헤어스타일 등) 을 조절하기가 매우 어.. 2021. 3. 25.
[논문 리뷰] Multiple-Clothing Detection and Fashion Landmark Estimation Using a Single-Stage Detector 안녕하세요. 이번에 리뷰할 논문은 중앙대팀에서 IEEE Access 2021에 publish한 Multiple-Clothing Detection and Fashion Landmark Estimation Using a Single-Stage Detector입니다. IDENX INTRODUCTION PROPOSED METHOD EXPERIMENTS RESULTS CONCLUSION INTRODUCTION Fashion dataset에 대한 기존 model들을 High computational requirements이 필요했습니다. 그러나 본 논문에서 제안 제안한 모델은 아래와 같은 contribution을 가지고 있습니다. Contribution (1) low-power devices에 적합하도록 accur.. 2021. 3. 13.
[논문 리뷰] EfficientDet: Scalable and Efficient Object Detection Review 안녕하세요! 오늘은 랩미팅 중 교수님께서 추천해주신 모델인 EfficientDet 을 리뷰해볼려고 합니다. Google Brain팀에서 publish한 논문이며, Code도 사용할 수 있도록 GitHub에 올려있습니다. Introduction EfficientDet은 이름만큼이나 현재 DataseObject Detection on COCO minival dataset에서 Extra Traning data 없이 성능 측정한 모델 중 1위를 차지할 정도로 적은 연산량(FLOPS)과 정확도를 모두 잡은 Efficient한 Network인데요. 위 single-model single-scale로 진행한 성능 비교 실험에서도 1위 mAP를 달성하며 SOTA 를 갱신했다고 합니다. Challenges Challen.. 2021. 3. 6.
[논문 읽기 TIP] ML분야에서 Albation Study란? EfficientDet 논문을 읽다가 Albation Study라는 섹션이 있어 무엇을 뜻하는지 알아보았습니다. Albation Study란? Dataset의 feature나 model components를 제거함으로써 성능에 미치는 영향을 알아보기 위한 실험 Albation Study는 의학, 심리학, 신경과학에서 처음 사용되었지만 Machine Learning 분야에서는 machine learning system의 building blocks을 제거해서 전체 성능에 미치는 효과에 대한 insight를 얻기 위한 과학적 실험이라고합니다. Dataset의 feature나 model components을 building blocks이라고 하는데, 더보기 Sources https://www.quora.com.. 2021. 3. 5.
[대학원 TIP] 논문 리뷰/평가 방법 오늘은 두통으로 인해 조금은 스트레스가 덜한 작업인 논문 읽기의 날로 정했어요. 쌓아두었던 논문을 읽기 전에 "행복한 대학원생 되기 - 8편: 논문 리뷰"이라는 포스팅이 생각나서 이를 참고하여 앞으로 논문 읽기의 방향을 조금은 잡아보려고 합니다. 논문 리뷰는 크게 아래와 같이 리뷰를 진행한다고 합니다. 요약 → 평가 → (수정)제안 요약 1. 무엇을 했는지를 중심으로 3-4줄로 간단하게 요약한다. 2. Abstract를 보고 이해되지 않는다면 Related work를 보고 이해한 뒤 진행3 (presentatoin이 좋지 않아 읽기 어려울 경우 어차피 reject될 논문이니 굳이 읽을 필요 없다.) 평가 1. 논문이 합격되어야 할 좋은 점(Points in favor) 찾기 - Novel idea: 아무.. 2021. 3. 1.
[논문 리뷰] CVPR 2020 Meta-Transfer Learning for Zero-Shot Super-Resolution (feat. 딥러닝 논문 읽기 모임) 딥러닝논문읽기모임에서 처음으로 발표를 하게된 논문을 오늘 소개하려고 합니다. 발표영상은 YouTube에서 확인이 가능합니다! 해당 논문은 Super Resolution 즉 해상도 복원 분야의 논문으로 Meta-Transfer Learning for Zero-Shot Super-Resolution입니다. 해당 논문은 2020년CVPR에서 발표한 논문입니다. Index Introduction Previous Methods Proposed Methods Experiments Discussion Conclusion Introduction 간략하게 논문 내용을 말씀드리면 기존 CNN 기반의 방법은 제한된 condition에서만 높은 성능을 냈었는데 flexibility 개선하고 Meta-transfer learn.. 2021. 2. 28.
리뷰 논문(review paper)이란? 내가 대학원에 들어왔을 때 알았더라면 좋았을 연구 노하우 SlideShare를 보고 새로운 연구 주제에 처음 입문하는 법으로 최근 리뷰 논문을 몇 개 골라서 읽어라는 조언을 봤다. 지금 인공지능을 연구하는 대학원생 친구도 리뷰 논문으로 시작하라는 말을 했던 기억이 있어 연구 논문(research paper)과 리뷰(review paper) 논문의 차이를 알아보았다. 리뷰논문(review paper)이란? - 리뷰 논문은 특정 주제에 대한 여러 최신 연구 결과들에 대해 정리한 논문이다. - 대부분 그 분야의 대가 혹은 rising star들이 그 논문을 쓴다. - 길이가 길고 reference들이 아주 많다. 실험 논문과 달리 리뷰 논문은 실험 없이 다른 논문을 바탁으로 실험 결과를 종합하여 정리하거나 연.. 2020. 10. 1.