====== WORD2VEC ======
* description : WORD2VEC
* author : 오션
* email : shlim@repia.com
* lastupdate : 2020-11-09
===== WORD2VEC =====
* Word to Vector [워드 투 벡터]
===== 개념 =====
* "자연어 처리(NLP)" 방식 중 하나로 수식을 통해 단어를 다차원 공간에 매칭하고, 벡터(숫자)로 표현해주는 머신러닝 알고리즘
* 같은 문맥에서 많이 등장하는 단어들은 기본적으로 비숫한 의미를 지닌다고 가정
* 또한 주위에 등장하는 단어들을 가지고 같이 나타날 수 있는 단어를 컴퓨터가 스스로 유추하고 학습하게 하는 알고리즘(비지도학습)
===== 특징 =====
* 인공지능은 이 단어들을 벡터(숫자)로 변환하여 좌표값을 통해 단어간 거리 계산 가능
* 거리가 가까워질수록 단어 간 유사도가 높아지면, 멀어질수록 유사도가 낮아짐
* 단어가 벡터(숫자)로 표현되었기 때문에 각 단어들의 벡터값을 통해 덧셈, 뺄셈, 평균 등 연산이 가능
* 이를 통해 단어 추론, 연관어 계산, 복잡한 개념 등의 표현이 가능함
===== 의미 =====
* 텍스트 기반의 모델 만들기는 텍스트를 숫자로 변경하여 알고리즘에 넣고 계산을 한 후 결과값을 낼 수 있다.\\
* 그 일환으로 텍스트를 숫자로 바꾸는 것으로 단어를 벡터로 바꾸는 것이다.\\
* 이때 벡터에 단어의 의미를 추가하여 단어와 단어간의 관계를알아내기 위함이다. \\
* 단어를 벡터로 바꾸는 모델을 단어 임베딩 모델(word embedding model)이라고 하며, word2vec는 단어 임베딩 모델들 중 대표적인 모델이다.\\
===== skip-gram모델 =====
* WORD2VEC을 학습시키는 방법
* 주어진 단어 하나를 가지고 주위에 나타날 수 있는 단어들의 등장 여부를 유추하는 방식
* 데이터 양과 반복학습횟수가 증가할수록 벡터값이 정확해짐
* 같은 문맥 내 비슷한 빈도로 등장하는 단어들은 벡터값이 비슷하여 연관성도 높음
* center단어를 활용, 가까이 위치한 단어들일수록 관련성이 높다고 판단하여 더 높은 확률로 연관 키워드로 채택하는 방법을 사용
===== Ref =====
[[https://dreamgonfly.github.io/machine/learning,/natural/language/processing/2017/08/16/word2vec_explained.html|쉽게 씌어진 word2vec]]\\
\\
[[https://wikidocs.net/22660|딥 러닝을 이용한 자연어 처리 입문]]\\
\\
[[https://www.youtube.com/watch?v=sY4YyacSsLc | youtube word2vec]]
{{tag>오션 WORD2VEC 워드투벡터}}