[Embedding Projector] 임베딩 벡터 시각화(Embedding Visualization)

본 글은 유원준님의 "딥 러닝을 이용한 자연어 처리 입문"의 '임베딩 벡터의 시각화(Embedding Visualization)' 파트를 참고하여 작성하였습니다.

워드 임베딩(Word Embedding)과 워드투벡터(Word2Vec)에 대한 설명은 해당 링크에서 확인하실 수 있습니다.

또한, gensim을 활용한 Word2Vec 데이터 학습 방법은 아래 링크들에서 확인할 수 있습니다.

• 영어/한국어 Word2Vec 실습
• https://oneonlee.tistory.com/31

---

임베딩 프로젝터(embedding projector)는 구글이 지원하는 데이터 시각화 도구입니다.
- 링크 : https://projector.tensorflow.org/

Embedding projector - visualization of high-dimensional data

 

구글의 임베딩 프로젝터를 사용해서 워드 임베딩 모델을 시각하기 위해선, 워드 임베딩 모델로부터 2개의 .tsv 파일을 생성하여야 합니다.

워드 임베딩 모델의 이름은 kr_w2v이라고 가정하겠습니다.

터미널 혹은 명령 프롬프트 창에 아래의 명령어를 입력해줍니다.

python -m gensim.scripts.word2vec2tensor --input 모델이름 --output 모델이름

 

커맨드를 수행하면 명령어가 실행되었던 기본 base 경로에, 기존에 있던 kr_w2v 이외에 두 개의 파일이 생깁니다.

새로 생긴 kr_w2v_metadata.tsv 파일과 kr_w2v_tensor.tsv 파일, 두 개의 파일이 임베딩 벡터 시각화를 위해 사용할 파일입니다.

---

이제 임베딩 프로젝터(embedding projector)에 접속해봅니다.

좌측 상단을 보면 Load라는 버튼이 있습니다.

 

 

Load라는 버튼을 누르면 아래와 같은 창이 뜨는데 총 두 개의 Choose file 버튼이 있습니다.

 

위에 있는 Choose file 버튼을 누르고 kr_w2v_tensor.tsv 파일을 업로드하고, 아래에 있는 Choose file 버튼을 누르고 kr_w2v_metadata.tsv 파일을 업로드합니다.

 

두 파일을 업로드하면 임베딩 프로젝터에 학습했던 워드 임베딩 모델이 시각화됩니다.

 

그 후에는 임베딩 프로젝터의 다양한 기능을 사용할 수 있습니다. 예를 들어 임베딩 프로젝터는 복잡한 데이터를 차원을 축소하여 시각화 할 수 있도록 도와주는 PCA, t-SNE 등을 제공합니다. 

---

참고 논문: Embedding Projector: Interactive Visualization and Interpretation of Embeddings
https://arxiv.org/pdf/1611.05469v1.pdf