벡터 · 제6회

단어의 뜻을 벡터로컴퓨터가 ‘왕−남자+여자=여왕’을 계산한다고?

벡터방의 마지막 — 벡터로 언어의 의미를 담아요. 각 단어를 숫자 목록(벡터)으로 바꾸면, 뜻이 비슷한 단어는 벡터도 가까이 모이고, 의미의 관계가 덧셈·뺄셈으로 드러나요. 이게 단어 임베딩입니다.


01뜻을 숫자로 담다

컴퓨터는 ‘왕’이 무슨 뜻인지 몰라요. 그런데 각 단어를 벡터로 바꾸니, ‘왕’에서 ‘남자다움’을 빼고 ‘여자다움’을 더하면 놀랍게도 ‘여왕’이 나와요. 어떻게?

의미의 방향(성별·왕족 등)이 벡터로 새겨졌기 때문이에요. 아래에서 직접 계산해 봐요.

02직접 해보기 — 단어 산수

가로축은 성별(왼쪽 남 → 오른쪽 여), 세로축은 왕족 정도예요. 유추 버튼을 누르면 벡터 연산이 그려지고 가장 가까운 단어를 찾아요.

버튼을 눌러 단어 산수를 해보세요.

왕 − 남자 + 여자 ≈ 여왕! ‘남자→여자’의 방향이 모든 단어쌍에 똑같이 새겨져 있어서예요. 진짜 임베딩은 수백 차원이라 성별·시제·나라–수도 같은 수많은 관계를 담아요 — LLM이 언어를 이해하는 출발점이에요.

03의미 = 벡터 공간의 위치

벡터(왕) − 벡터(남자) + 벡터(여자) ≈ 벡터(여왕)

단어를 벡터로 두면 의미의 유사도 = 벡터의 가까움(내적·코사인)이 되고, 관계는 방향으로 나타나요. word2vec·GloVe·트랜스포머 임베딩이 이렇게 만들어지고, 검색·번역·챗봇·추천의 바탕이 돼요.

04스스로 점검하기

점수 0 / 0

05더 깊이 — 세 개의 수심

고교단어 벡터·유사도·유추단어를 벡터로, 가까우면 비슷한 뜻, 관계는 벡터 덧뺄셈.
학부word2vec·코사인 유사도·차원분포가설, 스킵그램·CBOW, 코사인 유사도, 고차원 임베딩.
대학원문맥 임베딩·트랜스포머·표현학습BERT·GPT의 문맥 벡터, 어텐션, 표현학습과 의미기하.

벡터 6부작 완주! — 화살표부터 단어 임베딩까지, 방향과 의미의 수학을 훑었어요. 더 궁금하면 인공지능수학 방으로! 🎉

『수요를 따라가는 수학 · 벡터』 제6회. 단어 임베딩 유추 시뮬레이터 + 자동채점. · 벡터방으로