Day2의 Topic Modeling 강의를 듣고 정리한 내용의 포스팅입니다. Topic Modeling은 Text Mining 기법 중에서 가장 많이 활용되고 있음. Topic Modeling은 Unsupervised Learning 기반 방법 중 하나로 말 그대로 여러 문서들에서 주제를 찾아내는 데에 사용하는 알고리즘 중 하나임. 아주 많은 문서의 주제들을 추출할 수 있고, 시간별로 이 방법을 적용하여 대중의 트렌드를 파악하는 등 다양하게 활용되고 있음. 1. Bag-of-Words Encoding of Text Documents - Bag-of-words vector 텍스트 데이터나 이미지 데이터는 비정형 데이터! 이를 정형 데이터(환자 정보인 나이,성별,몸무게 등이 테이블 형태로 되어있는 데이터)..

NLP [DAY1]에서 NLP Intro와 Bag-of-Words강의까지 같이 있어서 분리해서 포스팅함. 1. Word Embedding - 벡터가 어떻게 의미를 가지게 되는가 구분 백워브워즈 가정 언어 모델 분포 가정 내용 어떤 단어가 (많이) 쓰였는가 단어가 어떤 순서로 쓰였는가 어떤 단어가 같이 쓰였는가 대표 통계량 TF-IDF - PMI 대표 모델 Deep Averaging Network ELMo, GPT Word2Vec 임베딩을 만드는 세 가지 철학 - 백오브워즈 가정 : 저자의 의도가 단어 사용 여부나 그 빈도에서 드러난다고 보는 가정. TF-IDF(Term Frequency-Inverse Document Frequency) : 어떤 단어의 주제 에측 능력이 강할수록 가중치가 커지고, 그 반대..

NLP(Natural Language Processing) : 컴퓨터가 사람의 언어를 처리하는 것을 말함. NLP Apllications Text Classfication : ex. Spam Detection, Sentiment Analysis, ... Question Answering, Search Engine Machine Translation : ex. 파파고, 구글번역기 Chatbot : ex. 채널톡 Personal Assistant : ex. Siri Text Summarization Academic Disciplines related to NLP Major Conferences : ACL, EMNLP, NAACL 등의 학회 Low-level parsing Tokenization : 주어진 문..

책의 2부에서 처음으로 등장하는 구현에 대해 공부하는 시간이다. 1. 구현 - 구현 : 머릿속에 있는 알고리즘을 소스코드로 바꾸는 과정 - 특징 알고리즘은 간단한데 코드가 지나칠 만큼 길어지는 문제 특정 소수점 자리까지 출력해야하는 문제 문자열이 입력으로 주어졌을 때 한 문자 단위로 끊어서 리스트에 넣어야 하는(파싱을 해야하는) 문제 라이브러리 사용 경험이 많다면 유리(ex. 순열 문제의 경우 itertools로 쉽게 짜기 가능) 완전탐색 : 모든 경우의 수를 주저 없이 다 계산하는 해결 방법 시뮬레이션 : 문제에서 제시한 알고리즘을 한 단계씩 차례대로 직접 수행해야하는 문제 유형 - 메모리 제약 사항 고려하기!(with Python) 대체로 코딩 테스트에서는 128 ~ 512 MB로 메모리 제한 BUT..