そもそも"ベクトル"って何？

項目	ざっくり説明
スカラー	1 つの数字（温度 23℃ など）
ベクトル	方向と大きさを持つ数字のセット（「北東へ 3 km」など）

単語 → ベクトル化 3 ステップ

• 語彙を用意
  例：{king, queen, man, woman, apple, orange …}
• コンテキストを集める
  「king は king of England のように man, queen と一緒に出現」
  大量テキストから共起（一緒に出る）パターンを数える
• 統計を圧縮して座標化
  Word2Vec / GloVe などのアルゴリズムが
  "似たコンテキストなら近い座標" になるように学習

具体例：Word2Vec のしくみ

工程	何をしている？
Skip-gram	1 単語 → 周囲の単語を予測（例：king → queen, royal）
CBOW	周囲の単語 → 中央の単語を予測（例：the ___ and → king）

ベクトルだからこそ出来る"意味の計算"

• ➕ 足し算・引き算が通用
  king - man + woman ≈ queen
  "男性的要素" を引いて "女性的要素" を足すと queen に近づく
• 📏 近さ = 類似度
  コサイン類似度 1.0 は同じ向き、0 は無関係
  apple と orange は 0.85、apple と keyboard は 0.1 など
• 🔍 クラスタリング
  動物／食べ物／感情… 自然にグループ化できる

最新の流れ：文脈ベクトルへ

世代	代表技術	特徴
第1世代	Word2Vec, GloVe	単語ごとに固定ベクトル
第2世代	FastText	未知語をサブワードで表現
第3世代	BERT, GPT	文脈依存：同じ "bank" でも「川岸」か「銀行」かを区別

どこで使われている？

• 🔍 検索エンジン：クエリと文書の意味的近さで順位付け
• 🤖 チャットボット：ユーザ入力をベクトル化 → 意図を推定
• 🛒 レコメンド：商品説明やレビューをベクトルにして類似アイテム抽出
• 🌐 機械翻訳：意味距離を保ったまま別言語に写像

まとめ

1. 単語をベクトルにすると、計算で意味操作 が可能に
2. 学習は "共起パターンを似せる" ことで自然言語の統計を圧縮
3. 現在は 文脈依存ベクトル で、同じ単語でも使い方に応じた座標を取得