전체 글
-
#3. 거의 1년만에 쓰는 일상글log 2020. 8. 7. 11:57
참... 어느 곳에서나 일관성 있게 꾸준한 나인 듯 싶다ㅋㅋ 1년동안 굉장히 많은 일들이 있었다. 졸작은 이미 끝나서 논문도 다 쓰고, 올 8월에 졸업하고, 또 9월부터는 석사로 또 공부하게 되었고... 학부연구생으로 연구실에 들어온지 이제 1년 남짓이 되어가고, 공모전도 나가고, 자격증 시험도 보고(재수확정), 국내 학회이지만 논문도 써서 내보고! 아직 얼마 안됐지만 배워보고 싶었던 야구라던지, 체중 감량이라던지, 구구 절절 다 쓰면 정말 길어질 정도로 많은 일들이 있었다. 아직 많이 부족하고, 또 해 나가야 할 일들이 산더미 같지만 1년 전의 나로써는 정말 상상도 못할 정도로 많이 성장한 것 같다. 또 하루하루 어제보다 나아지는게 보이니까 신기하다. 단적인 예로, 올해 정보과학회 논문 쓸 때 참고했던..
-
[논문] End-to-end Neural Coreference Resolution연구실 2020. 7. 1. 16:00
0. 용어 소개 •coreference resolution(상호 참조 해결): 임의의 개체(entity)에 대해 다른 표현으로 사용되는 단어들을 찾아 서로 같은 개체로 연결해주는 자연어처리 문제 •span: 한 개 이상의 단어로 이뤄진 명사구가 될 수 있는 단어들의 집합 •mention: 상호참조해결의 대상이 되는 모든 명사구(갓 볶은 원두로, 갓 볶은 원두로 만든 커피) •head(중심어): mention에서 해당 구의 실질적인 의미를 나타내는 단어(갓 볶은 원두로 만든 커피) •coreference(상호참조): 같은 개체를 가리키는 mention들(갓 볶은 원두로 만든 커피, 카페인, 그것) 1. Introduction 최초의 end-to-end neural coreference resolution ..
-
[논문] Item2Vec: Neural Item Embedding for Collaborative Filtering(2016)연구실 2020. 3. 11. 16:49
Abstract 대부분의 CF 알고리즘들은 아이템과 아이템간의 관계를 분석해 아이템 similarity를 생산해내는 아이템 기반 기법 Collaborative Filtering(CF): 많은 사용자로부터 얻은 기호 정보에 따라 user들의 관심사를 자동으로 예측하게 해주는 기법 Skip-gram with Negative Sampling(SGNS), 흔히 word2vec이라고 불리는 기법이 등장하면서 NLP 분야에서 sota 결과를 얻고 있음 item 기반 CF에 워드 임베딩 프레임워크(SGNS)를 도입 각 아이템 별 임베딩을 생성해내는 iiten-based CF 기법인 item2vec에 대해 소개 유저 정보를 사용할 수 없는 상황에서도 아이템과 아이템 간 관계 추론이 가능 1. Introduction a..
-
#26. "Deep Learning Cookbook" - 9. 이미 훈련된 이미지 인식 신경망 재사용하기연구실 2019. 11. 8. 02:02
- 케라스가 제공하는 5개의 사전 신경망을 로드 - 신경망에 이미지를 입력하기 전 전처리 하는 방법 - 전이 학습(transfer learning): 사전 훈련된 신경망을 이용해 부분적으로 변경한 뒤 새로운 데이터를 학습해 새로운 작업을 할 수 있게 하는 방식 9.1 사전 훈련된 신경망 로드하기 model = VGG16(weights='imagenet', include_top=True) model.summary() - 케라스는 다양한 신경망 모듈을 가지고 있으며, 다운로드 시 파일을 ~/.keras/models에 저장한다. - VGG16, VGG19, ResNet50, Inception v3, Xception을 지원한다. - VGG16은 16개 레이어만 사용해 분석이 쉽다. - Inception v3은 ..
-
#25. YOLO v3 with PyTorch연구실 2019. 11. 7. 14:10
참고: https://github.com/eriklindernoren/PyTorch-YOLOv3.git eriklindernoren/PyTorch-YOLOv3 Minimal PyTorch implementation of YOLOv3. Contribute to eriklindernoren/PyTorch-YOLOv3 development by creating an account on GitHub. github.com 1. 설치 git clone https://github.com/eriklindernoren/PyTorch-YOLOv3.git cd PyTorch-YOLOv3/ sudo pip3 install -r requirements.txt - 왜인진 모르겠는데 gpu 서버에서는 requirements 설치하..
-
#24. Neural Machine Translation연구실 2019. 10. 28. 16:02
* Translating human-readable dates into machine-readable dates - the 29th of August 1958, 03/30/1968, 24 JUNE 1987 등의 format으로 input으로 주어지면, 그것을 1958-08-29의 포맷으로 바꿔주는 모델을 만들어보자. (1) Dataset - 그런 다음 이런 데이터들을 index value로 매핑시켜 전처리를 하고, maximum length와 output의 길이도 정해준다. * Neural machine translation with attention (1) Attention mechanism - 두 종류의 LSTM을 사용한다. 아래에 있는 것은 Bi-directional LSTM으로 attention ..
-
#23. Emojify연구실 2019. 10. 28. 00:32
* Baseline model: Emojifier-V1 (1) Dataset EMOJISET - X: 127 sentences / Y: a integer between 0~4 corresponding to an emoji for each sentence (2) Overview of the Emojifier-V1 (3) Implementing Emojifier-V1 # GRADED FUNCTION: sentence_to_avg def sentence_to_avg(sentence, word_to_vec_map): """ Converts a sentence (string) into a list of words (strings). Extracts the GloVe representation of each wor..