ML_LinearAlgebra

線形代数 行列とベクトル 行列の定義 行列の要素 スカラー 実数 ベクトルの定義 行列の次元 要素の位置 行数と列数 複素数 行列の種類 ベクトルの要素 正方行列 対角行列 単位行列 零行列 スカラー 行と列が等しい 対角要素 単位元 全ての要素が0 ベクトルの次元 要素の位置 次元数 ベクトルの種類 単位ベクトル 零ベクトル 標準基底 長さ1 全ての要素が0 基底ベクトル 行列とベクトル 定義や意味 行列とは、数や式を長方形の形に配列したものを指し、行と列によって構成される。 行列は通常、アルファベットの大文字で表される。具体的には、m × n行列はm行n 列からなる。 行列は次のように表される： A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ​ ⋮ am2 ​ ​ ​ ​ ⋮ am1 a1n a2n ​ ⋱ ⋮ ⋯ amn ​ ​ ​ ベクトルとは、数や式を一列に並べたものを指し、通常は小文字のアルファベットで 表される。特に1次元の行列とも言える。 列ベクトルと行ベクトルがあり、列ベクトルは以下のように表される： v1 v2 v= ​ ​ ​ ​ ⋮ vn ​ ​ 行ベクトルは以下のように表される： v = [v1 ​ ​ v2 ​ ​ ⋯ vn ] ​ ​ ​

嚙み砕いた説明 行列は、データや数値を整理してまとめるための表形式のツール。例えば、エクセル のスプレッドシートを思い浮かべるとわかりやすい。行は横の並び、列は縦の並び。 ベクトルは、数やデータを一列に並べたもので、方向や大きさを表すことができる。 ベクトルは、矢印として視覚化することもでき、空間内での位置を示すことができ る。例えば、風の向きと強さを示すのに使われる。 行列は、複雑な計算をシンプルに整理し、ベクトルはその計算の基本的な単位として 機能する。 実際の応用例 行列は、コンピュータグラフィックスで3Dオブジェクトを回転・移動させるための変 換行列として使われる。また、データサイエンスではデータセットの管理や操作に用 いられる。 ベクトルは、機械学習で特徴ベクトルとしてデータの特性を数値化するために使われ る。例えば、テキスト分類では文書をベクトル化し、機械学習モデルが扱いやすい形 式に変換する。 物理学では、力や速度を表現するためにベクトルが用いられ、方向と大きさを持つ量 を扱うのに適している。 行列の定義 定義や意味 行列とは、数や式を長方形の形に並べたもので、数の塊を表現するために使用される 行列は通常、m × nの形で表され、mは行の数、nは列の数を示す 行列要素は、通常大文字で表される行列記号（例えばA）の下付きに行と列の番号を 付けた形で示される。例えば、Aij は行列Aのi行j 列にある要素 ​ m × n行列Aは次の形で表される： A= a11 a21 a12 a22 ​ ​ ​ … … ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ … amn ​ ​ ​

嚙み砕いた説明 行列は、数字や数式を整理し、計算を効率的に行うための表のようなもの 行と列の組み合わせで構成され、一つ一つの交差点に数値（要素）が入る スプレッドシートのセルに似ており、各セルに値が入ると考えると理解しやすい 実際の応用例 行列は物理、工学、コンピュータサイエンスなどの多くの分野で使用される コンピュータグラフィックスでは、画像の変換や回転などに行列が用いられる 機械学習においては、データの操作やモデルの計算に行列が頻繁に利用される 経済学では、投入産出分析やその他のデータ分析に行列が使われる ベクトルの定義 定義や意味 ベクトルとは、空間内の方向と大きさを持つ量のことを指す。数学的には、ベクトル は数値の有序リストとして表現されることが一般的である。例えば、3次元空間にお けるベクトルは、3つの成分を持ち、それぞれが空間内の基底に沿ったスカラー量と して表される。 ベクトル v の一般的な表記は (v1 , v2 , … , vn ) であり、ここで vi はベクトルの各成 分を表す。 ​ ​ ​ ​ ベクトルはしばしば行ベクトルまたは列ベクトルとして表現される。行ベクトルは横 に成分を並べた形式で (v1 , v2 , … , vn )、列ベクトルは縦に成分を並べた形式で ​ ​ ​ v1 v2 ​ ​ ​ ⋮ vn ​ ​ ​ で表される。 嚙み砕いた説明 ベクトルは、矢印のように考えると理解しやすい。例えば、紙の上で矢印を描くと、 その矢印の長さがベクトルの大きさで、矢印が指している方向がベクトルの方向に対

応する。 ベクトルは数の集まりとしても見ることができ、これらの数がベクトルの成分とな る。2次元のベクトルは、（横、縦）のように2つの数で表され、3次元のベクトルは （横、縦、奥行き）のように3つの数で表される。 実際の応用例 ベクトルは物理学において、力の大きさと方向を表現するために使われる。例えば、 重力は地球の中心に向かって引っ張る力としてベクトルで表される。 コンピュータグラフィックスにおいて、ベクトルはオブジェクトの位置、方向、速度 を計算するために用いられる。これにより、3Dモデルを画面上で動かすことが可能に なる。 機械学習において、データポイントは特徴ベクトルとして表現され、各成分がデータ の属性を表す。この特徴ベクトルは、モデルに入力するための基本単位となる。 行列の要素 定義や意味 行列（Matrix）は、数値や記号を長方形状に配置したもので、数値の集合を表現する ために用いられる。その中で、各数値や記号を行列の要素（Element of a Matrix）と 呼ぶ 行列は通常、行と列を持ち、行の数をm、列の数をnとすると、行列はm × nのサイ ズを持つ 行列の各要素は、行番号と列番号を用いて指定される。例えば、行列Aのi行j 列の要 素はaij で表され、これは行列Aの(i, j)成分と呼ばれる ​ 行列Aを以下のように表すことができる A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ amn ​ ​ ​ 嚙み砕いた説明 行列の要素は、縦（行）と横（列）の交差点にある数値や記号のことを指す。例え ば、Excelのスプレッドシートで言うと、セルの中にある内容が行列の要素にあたる

行番号と列番号を使って、行列の中の特定の要素を見つけることができる。例えば、 3行目の2列目にある要素を考えた場合、それは3行2列の位置にある数値や記号を指す 行列のサイズ（例えば3 × 2行列）は、それが3つの行と2つの列を持っていることを 示す 実際の応用例 行列の要素は、科学計算、物理シミュレーション、画像処理、機械学習アルゴリズム などさまざまな分野で利用される 例えば、機械学習におけるニューラルネットワークの重みは行列として表現されるこ とが多く、各要素がモデルのパラメータを示す 画像処理では、画像のピクセル値を行列の要素として扱い、行列演算を通じてフィル タリングや変換を行う 行列の次元 定義や意味 行列の次元とは、行列が持つ行（横の要素）と列（縦の要素）の数を示す。行列は通 常、行数を m、列数を n として m × n 行列と表記する。例えば、行列 A が 3 行 2 列の行列である場合、A の次元は 3 × 2 となる。 行列 A の一般的な形は以下の通り： A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ amn ​ ​ ​ ここで、aij は i 行 j 列の要素を表す。 ​ 嚙み砕いた説明 行列の次元は、行列がどれだけの行と列を持っているかを示す。これはまさに行列の 「サイズ」を表すもので、横の長さと縦の長さの組み合わせと言える。例えば、エク セルの表を考えると、表の中にいくつの横行と縦列があるかを数えるのと同じイメー ジ。

行列の次元が 3 × 2 と言えば、これは3段の横に2つの縦の数値が並んでいるというこ と。 実際の応用例 行列の次元は、線形代数や統計学、機械学習において重要な役割を果たす。例えば、 データを行列として表現する場合、各行が異なるサンプルを表し、各列が異なる特徴 量を表すことが一般的。そのため、次元はデータセットのサイズや構造を理解する上 で基本となる。 機械学習のアルゴリズムでは、入力データや重み行列の次元が一致することが必要で あり、次元の不一致は計算のエラーを引き起こす可能性があるため、次元の管理は非 常に重要。 行列の種類 定義や意味 行列とは、数や数式を長方形状に配列したもので、線形代数の基礎的な概念 行列の種類は、その形状や特定の性質に基づいて分類される 主な行列の種類には以下が含まれる 正方行列: 行と列の数が等しい行列。n × n行列として表される 零行列: すべての要素が0である行列 単位行列: 対角要素が1であり、他の要素が0である正方行列。In で表される ​ 対角行列: 対角以外の要素がすべて0である行列。対角要素のみが非0 対称行列: 転置行列が元の行列と等しい行列。すなわち、A = AT 反対称行列: 転置行列が元の行列の負である行列。すなわち、A = −AT 行列の階数（ランク）: 最大の非ゼロ小行列の階数 直交行列: 転置行列が逆行列に等しい行列。すなわち、AT A = I 嚙み砕いた説明 行列は数字を並べた表のようなもので、数学やプログラムでよく使われる 正方行列は縦と横が同じサイズの表、零行列は全部0の表、単位行列は斜めが1で他が 0の表

対称行列は左右対称な表、反対称行列は左右と上下をひっくり返したら元の表のマイ ナスになるもの 直交行列は掛け算したら単位行列になる特別な表 ランクはどれだけ情報を持っているかの指標、つまり行列の独立な行の数を示す 実際の応用例 正方行列は線形方程式の解法や固有値問題で重要な役割を果たす 単位行列は行列の演算における「1」の役割を果たし、逆行列の計算に使用される 対称行列は物理学や工学の多くの分野、特に力学や振動の解析で利用される 直交行列は信号処理や3Dグラフィックにおける回転変換で使われる 行列のランクはデータ解析において次元削減や特徴選択に応用される ベクトルの要素 定義や意味 ベクトルは、数学や物理において大きさと方向を持つ量を表すための基本的な概念で ある。通常、ベクトルは矢印で表され、その長さが大きさ、矢印の方向が方向を示 す。 ベクトルは数値の集合として表現されることが多く、その集合の各要素を「ベクトル の要素」と呼ぶ。ベクトルの要素は通常、数値（スカラー）であり、例えば、n次元 のベクトル v は次のように表される： v = (v1 , v2 , … , vn ) ​ ​ ​ ここで、各vi はベクトルのi番目の要素である。 ​ ベクトルの要素は、しばしば行列の行や列としても扱われ、線形代数における基本的 な運算において重要な役割を果たす。 嚙み砕いた説明 ベクトルというのは、何かを表すために複数の数値をまとめて一つの塊にしたもの。 例えば、位置を表すときに、横の位置と縦の位置の2つの数値を使う。これが二次元 のベクトルで、(x, y)のように書く。

それぞれの数値(x, y)がベクトルの要素で、例えばxは横の位置、y は縦の位置を表し ている。これを使うと、いろんな方向や大きさを表現できる。 要は、ベクトルの要素はベクトルの中身一つ一つの数値で、これを使っていろんな計 算や操作ができる。 実際の応用例 コンピュータグラフィックスでは、ベクトルの要素を使って3Dオブジェクトの位置や 方向、スケールを表現する。 機械学習では、特徴ベクトルとしてデータの属性を数値で表し、これを使ってモデル の学習や予測を行う。 物理学では、力や速度などの物理量をベクトルで表し、運動の方程式を解く際に使用 する。 ベクトルの次元 定義や意味 ベクトルの次元とは、ベクトルが持つ成分の数を指す。これはベクトルがどの空間に 属するかを示す情報であり、ベクトルが表現できる空間の「自由度」を決定する。 数学的には、次元はベクトル空間の基底の数とも一致する。 例えば、3次元空間におけるベクトルは通常 (x, y, z) のように3つの成分を持ち、3次 元空間に属すると言う。 嚙み砕いた説明 ベクトルの次元は、ベクトルがどれだけの要素を持っているかを示す。これは、ベク トルが「何次元の空間に存在しているか」を教えてくれる。 例えば、2次元の紙の上に描かれたベクトルは2つの成分（横方向と縦方向）を持つ。 これに対して、3次元の空間を表すベクトルは3つの成分（横、縦、奥行き）を持つ。 実際の応用例 コンピュータグラフィックスでは、3次元のベクトルがオブジェクトの位置や動きを 表現するのに使われる。 機械学習では、高次元のベクトルが特徴量を表現するために使われる。例えば、画像 データは各ピクセルの値を成分とする高次元ベクトルとして扱われることがある。

物理学では、ベクトルの次元は力や速度のような物理量の方向と大きさを表現するの に利用される。 ベクトルの種類 定義や意味 ベクトルとは、空間における大きさと方向を持つ量のことを指す。ベクトルは通常、 矢印や座標の形で表現される。 ベクトルは、次元に応じていくつかの種類に分類される。例えば、2次元ベクトル、3 次元ベクトル、n次元ベクトルなど。 ベクトルは、行ベクトルと列ベクトルという形態でも分類される。行ベクトルは1行n 列の行列で表され、列ベクトルはn行1列の行列で表される。 行ベクトルの例: v = [v1 列ベクトルの例: v = v2 ​ ​ v1 v2 ⋯ vn ] ​ ​ ​ ​ ​ ​ ⋮ vn ​ ​ ​ ​ ​ 嚙み砕いた説明 ベクトルは、数学や物理でよく使われる概念で、「どの方向にどれくらいの大きさで 動くか」を示すもの。 例えば、風の吹く方向と風速を考えると、風の方向がベクトルの方向、大きさがベク トルの大きさになる。 ベクトルには、1つの数字だけでなく複数の成分が含まれていて、それぞれの成分が 空間の各次元に対応する。 行ベクトルは横に並んだ形で、列ベクトルは縦に並んだ形で表される。 実際の応用例 機械学習では、データをベクトルとして扱うことが一般的。各データポイントは、多 次元空間の点として表現される。 物理学では、力や速度などの物理量をベクトルで表し、解析する。 コンピューターグラフィックスでは、画像や3Dモデルの変換や操作にベクトルを使用 する。例えば、物体の移動や回転をベクトルを用いて表現する。

スカラー 定義や意味 スカラーは、数値のみで表される大きさのある物理量を指す。ベクトルやテンソルと 異なり、方向を持たない。 スカラーは通常、実数または複素数として表される。 スカラー場という概念もあり、これは空間内の各点にスカラー値を割り当てたものを 指す。 数学的に、スカラーは任意の実数 a ∈ R または複素数 a ∈ C として表される。 嚙み砕いた説明 スカラーは単なる「数」であり、方向を持たない。温度、質量、エネルギーなどがス カラーの具体例。 例えば、気温が30°Cであると言ったとき、これはスカラー量であり、方向は関与しな い。 スカラーは、ベクトルや行列の要素としても使われる。 実際の応用例 スカラーは物理学や工学で広く応用され、温度やエネルギー、圧力などを表す。 機械学習では、損失関数の値としてスカラーが使われる。モデルのパフォーマンスを 評価するための単一の数値結果を提供。 統計学では、平均や分散などの統計量もスカラーであり、データセットの特性を単一 の数値で示す。 要素の位置 定義や意味 要素の位置は、通常はベクトルや行列内の特定の要素のインデックスを指す ベクトルの場合、位置は1次元のインデックスで表され、例えばベクトル v = [v1 , v2 , … , vn ] の要素 vi はベクトルの i 番目の位置にある ​ ​ ​ ​ 行列の場合、位置は2次元のインデックスで表され、例えば行列 A の i 行 j 列の要素 は aij と記述される ​

位置はデータ構造内の要素アクセスや操作において重要な役割を果たす 嚙み砕いた説明 要素の位置とは、データの特定の場所を示すための番号のこと ベクトルでは、まるで本のページ番号のように、どの要素がどの場所にあるかを示す 行列では、座席表のように、行と列の交差点として位置が決まる 実際の応用例 データ分析や統計で、特定のデータポイントを抽出するときに位置情報を使用 機械学習において、特徴ベクトル内の特定の特徴を参照する際に位置を利用 プログラミングでの配列操作やデータベース管理で、特定の要素やデータフィールド へのアクセスに使用される 正方行列 定義や意味 正方行列とは、行と列の数が等しい行列を指す。すなわち、n × nの形式を持つ行列 であり、例えば2次正方行列や3次正方行列などがある。具体的には、行列Aが次のよ うな形で表されるとき、Aは正方行列である: A= a11 a21 ​ ​ a12 a22 ⋯ ⋯ ​ ​ ​ ​ ⋮ ⋮ an1 an2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ ann ​ ​ ​ 正方行列は対角線が定義できる。この対角線は、左上から右下に伸びる要素の集合で あり、これを主対角線という。 嚙み砕いた説明 正方行列とは、縦と横が同じ数の箱に数が詰まったものと考えることができる。例え ば3つの行と3つの列を持つ行列は、3次正方行列と呼ばれる。正方行列の面白い特徴 は、主対角線があることで、この線上の要素が特別な意味を持つことがある。 数字の表（行列）が横にも縦にも同じ長さの場合、その表は正方形の形をしている。 これが正方行列のイメージ。

実際の応用例 正方行列は、線形代数において非常に重要な役割を果たす。特に、行列の行列式の計 算や固有値問題の解決において頻繁に使用される。 グラフ理論における隣接行列は、正方行列として表現され、これによりグラフの性質 を解析することができる。 機械学習においては、行列分解法（例：固有値分解や特異値分解）に正方行列の性質 が利用され、データの次元削減や特徴抽出に役立つ。 対角行列 定義や意味 対角行列とは、正方行列で主対角線上の成分以外がすべてゼロである行列のことを指 す。主対角線上の成分だけが任意の値を取ることができる。 n × nの対角行列は次のような形式を持つ： d1 0 ​ 0 d2 ​ ​ ⋯ ⋯ ​ 0 0 ​ ⋮ 0 ​ ⋮ 0 ​ ⋱ ⋮ ⋯ dn ​ ​ ここで、d1 , d2 , … , dn は対角成分であり、その他の位置はすべてゼロである。 ​ ​ ​ 行列の記号で表すと、対角行列D は次のように表せる： D = diag(d1 , d2 , … , dn ) ​ ​ ​ 嚙み砕いた説明 対角行列は、行列の中で特に簡単な形式を持っている。行と列が一致する部分（これ を対角線という）にのみ値があり、それ以外はすべてゼロ。 例えば、3 × 3の対角行列は次のようになる： 5 0 0 0 −3 0 0 0 2 ​ ​ ​ ​ ​ ここでは、5, −3, 2が対角成分で、他の部分はすべて0。この性質のため、対角行列は計算が 非常に簡単になる。

対角行列を他の行列と掛けるときの計算が簡単で、主に対角成分だけを使って計算す ることができる。 実際の応用例 対角行列は、線形代数や行列計算において非常に重要であり、特に行列の対角化にお いて中心的な役割を果たす。 対角行列は、システムの固有値問題や線形変換の解析において頻繁に現れる。特に、 固有値分解を行うときに出てくる対角行列は、そのシステムや変換の特性を理解する ために非常に有用。 機械学習においては、対角行列を用いることで計算効率を上げたり、大規模なデータ セットの処理を簡単にしたりすることができる。特に、主成分分析（PCA）や特異値 分解（SVD）では、対角行列が重要な役割を果たす。 単位行列 定義や意味 単位行列とは、正方行列の一種であり、主対角線上の要素がすべて1で、それ以外の 要素がすべて0である行列を指す 単位行列は、行列の乗法において、乗算の単位元として機能する すなわち、任意の行列 A に対して、単位行列 I を用いると AI = A および IA = A が成り立つ n × n の単位行列は通常 In で表記される ​ 例えば、3次の単位行列は次のようになる： I3 = ​ 1 0 0 0 1 0 0 0 1 ​ ​ ​ ​ ​ 嚙み砕いた説明 単位行列は、行列計算における「1」のような存在。行列と単位行列を掛けると元の 行列がそのまま返ってくる 行列を変えずにそのままにする役割があるため、「変化させない行列」とも言える 数字で例えると、数字の1を掛けても元の数字が変わらないのと同じようなイメージ

実際の応用例 単位行列は、線形代数において逆行列の概念を導入する際に重要な役割を果たす 機械学習の分野では、線形回帰や主成分分析の計算において、行列の演算を簡素化す るために利用される また、線形変換において、単位行列を掛けることでベクトルや行列の状態をそのまま 保持することができる 零行列 定義や意味 零行列とは、すべての要素が0である行列を指す。零行列は任意のサイズの行列で表 現でき、通常 0m×n で表される。ここで m は行数、n は列数である。 ​ 行列 A が零行列であることを示す場合、次のように表現する: 0 0 0 0 A= ​ ​ ⋯ ⋯ ​ 0 0 ​ ​ ​ ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 0 例えば、2 × 3 の零行列は次の通り: 02×3 = ( ​ 0 0 0 ) 0 0 0 ​ ​ ​ 嚙み砕いた説明 零行列は、何もない状態を表す行列。すべての要素が0であるため、他の行列と演算 を行ってもその行列を変化させない特性を持つ。 例えば、ある数をゼロで割り算すると何も変わらないのと同じで、行列においても零 行列と足し算をしても元の行列は変わらない。 実際の応用例 零行列は線形代数で重要な役割を果たす。特に行列の加法の単位元として機能する。 機械学習や数値解析の分野でも、初期化や特定の計算の簡略化のために零行列を利用 することがある。

零行列は行列微分の際に、ある関数の勾配がゼロであることを示すために用いられる ことがある。これは特に最適化問題で重要となる。 単位ベクトル 定義や意味 単位ベクトルとは、長さ（ノルム）が1のベクトルのことを指す 任意のベクトル v が与えられたとき、その単位ベクトル u は v をそのノルムで割る ことで求められる ベクトル v = (v1 , v2 , … , vn ) のノルム（ユークリッドノルム、あるいは2ノルム） ​ ​ ​ は次式で表される ∥v∥ = v12 + v22 + ⋯ + vn2 ​ ​ ​ ​ 単位ベクトル u は次式で求められる u= v ∥v∥ ​ 単位ベクトルは方向を示すために用いられ、大きさは1であるため、特定の方向を示 す純粋なベクトルとして扱われる 嚙み砕いた説明 単位ベクトルは、矢印の長さを1にしたベクトル 方向を保ちながら、長さだけを1に調整したもの 例えば、位置を示す矢印を考えるとき、その矢印が指す方向だけを知りたい場合に単 位ベクトルが使われる 実際の応用例 コンピュータグラフィックスでの方向の計算。光の反射やカメラの向きなどを計算す るときに使用 機械学習の正規化や標準化の一部として、データの方向を揃えるために使われる 物理学における力の方向の表現。例えば、重力の方向を示すときや電場の方向を示す ときに単位ベクトルを使用

零ベクトル 定義や意味 零ベクトルとは、全ての成分が0であるベクトルのことを指す ベクトル空間における加法の単位元であり、ベクトルの空間において非常に重要な役 割を持つ 通常、零ベクトルは 0 で表される n次元ベクトル空間における零ベクトルは以下のように表される 0= 0 0 ​ ​ ​ ⋮ 0 嚙み砕いた説明 零ベクトルは、すべての要素が0であるベクトル ベクトルの「ゼロ」に相当し、他のベクトルを加えてもそのベクトルを変化させない 例えば、3次元空間の零ベクトルは (0, 0, 0) となる 実際の応用例 ベクトル空間の基礎的な操作において、零ベクトルは重要な役割を果たす 機械学習や統計におけるベクトル加算やスカラー積の計算時に用いられる 線形代数の理論では、零ベクトルは線形独立性の概念や基底の定義などに関連してい る 標準基底 定義や意味 標準基底とは、ベクトル空間における最も基本的な基底の一つであり、各次元におい て1つの要素だけが1で他は0であるベクトルの集合を指す n次元のベクトル空間 Rn において、標準基底は次のように表される：

1 0 0 0 1 0 e1 = 0 , e2 = 0 , … , en = 0 ​ ​ ​ ​ ​ ⋮ 0 ​ ​ ​ ⋮ 0 ​ ​ ​ ⋮ 1 標準基底は、任意のベクトルを一意に表現するための基礎となる集合である 嚙み砕いた説明 標準基底は、各次元がそれ自身を表すための基本的な単位ベクトルのことを指す 各ベクトルは1つの要素だけが1であり、他の要素はすべて0である たとえば、3次元空間では、標準基底は (1, 0, 0)、(0, 1, 0)、(0, 0, 1) の3つのベクト ルからなる これらの基底を使って、任意のベクトルを簡単に表現することができる 実際の応用例 線形代数におけるベクトル表現や行列計算での基礎的な役割 コンピュータグラフィックスでの空間の座標変換 機械学習における特徴ベクトルの表現や次元削減技術（例えば、主成分分析）におい て基底の概念を用いることがある 行数と列数 定義や意味 行数と列数は、行列（マトリックス）のサイズを特徴付ける基本的な属性 行列は、数値や変数を長方形に並べた二次元の配列であり、行列の行数はその行列に 含まれる行（横方向の数値列）の数を示し、列数は列（縦方向の数値列）の数を示す 行列 A が m × n のサイズを持つ場合、m は行数、n は列数を表す 例えば、以下の行列 A は行数が 2、列数が 3 の 2 × 3 行列である a A = [ 11 a21 ​ ​ ​ a12 a22 ​ ​ a13 ] a23 ​ ​ ​ ​

嚙み砕いた説明 行数と列数は、行列の「高さ」と「幅」を表す 行数は行列を上から下に見たときの行の数で、列数は左から右に見たときの列の数 例えば、表のようなデータを考えると、行は各エントリーやデータポイントを表し、 列はそれぞれの特徴や変数を表す 行数が多い場合はデータポイントが多く、列数が多い場合は特徴量が多いことを意味 する 実際の応用例 行列の行数と列数は、データ解析や機械学習においてデータセットのサイズを把握す るために用いられる 例えば、画像認識では、画像データを行列として表現し、行数と列数がそれぞれ画像 の縦横のピクセル数となる 行列のサイズに応じて、データの処理方法や必要なコンピュータリソースが異なるた め、行数と列数の把握は重要 また、行列の積などの線形代数の演算においても、行数と列数は適切な演算を行うた めに必要な情報となる 次元数 定義や意味 次元数とは、数学における空間やベクトルの要素を表す尺度のことである 一般的には、次元数はある空間における独立した方向の数として理解される 例えば、3次元のユークリッド空間では、次元数は3であり、これは三つの独立した方 向（通常、x, y, z軸）を持つことを意味する ベクトル空間において、次元数はその基底の要素数として定義される すなわち、線形独立なベクトルの最大集合の数である dim(V ) = n ここで、V はベクトル空間であり、nはその次元数を表す

嚙み砕いた説明 次元数は、空間の「広がり」や「自由度」を表す指標 1次元は線、2次元は平面、3次元は立体といった形で、次元が増えると表現できる広 がりが増える 例として、紙の上で動ける方向が縦と横の2つしかないので2次元、部屋の中で動ける 方向が縦、横、奥行きの3つあるので3次元と考えるとイメージしやすい 実際の応用例 コンピュータグラフィックスにおける3Dモデリングでは、物体を3次元空間で表現す るため、次元数は3である データ解析や機械学習では、高次元のデータを処理することが多く、次元削減技術 （例えばPCA: 主成分分析）が用いられる 物理学における理論モデルでは、次元数を増やすことでより複雑な現象を表現するこ とが可能になる（例: 弦理論では10次元が用いられることがある） 実数 定義や意味 実数は、数直線上のすべての点に対応する数の集合であり、無限小数で表現できる数 も含む。実数は有理数と無理数の両方を含む。ここで、有理数は分数で表せる数であ り、無理数は分数で表せない数である。 実数の集合は R で表される。実数には、負の数、ゼロ、正の数が含まれる。例え ば、−2, 0, 1.5, 2, π などが実数である。 ​ 実数は順序体であり、加法、乗法、順序の演算が定義されている。任意の実数 a, b ∈ R に対して、以下が成り立つ： i. 加法に関する閉性：a + b ∈ R ii. 乗法に関する閉性：a ⋅ b ∈ R iii. 順序に関する性質：a < b または a = b または a > b 嚙み砕いた説明 実数とは、数直線上で見つけることができるすべての数のこと。これには、整数、小 数、分数、無理数（例えば円周率や平方根など）が含まれる。基本的には、数として 考えられるほとんどのものが実数である。

例えば、3.14159 や −5 、0 、 3 などが実数に含まれる。数直線上でどこかに位置 ​ 付けられる数はすべて実数。 実際の応用例 実数は、物理学や工学の多くの計算において用いられる。例えば、長さ、温度、時間 など、連続的な量を表すために実数が使用される。 コンピュータプログラミングでは、実数は浮動小数点数として表現され、多くの科学 技術計算において重要な役割を果たす。 経済学では、実数を用いて価格や利率を表現する。これにより、経済データの分析や 予測が行われる。 複素数 定義や意味 複素数は実数の拡張であり、実数では表現できない数を取り扱うための数の体系 複素数は実部と虚部から構成され、通常 z = a + bi という形で表される ここで a, b は実数で、i は虚数単位と呼ばれ、i2 = −1 という性質を持つ 複素数の集合は C で表され、実数の集合 R を包含する 複素数間の基本的な演算には、加算、減算、乗算、除算が含まれる 嚙み砕いた説明 複素数は、実数だけでは計算できない問題を解決するために導入される 例えば、負の数の平方根を考えたときに、実数の範囲では解が存在しないが、複素数 を用いることで解が得られる 複素数は平面上で考えることができる。実部を x 軸、虚部を y 軸にとって、複素数 を点として表現することができる。この平面を複素平面と呼ぶ 実際の応用例 電気工学では、交流電流の解析において複素数が広く用いられている 量子力学では、状態ベクトルの表現に複素数が不可欠である 信号処理において、フーリエ変換は複素数を利用して信号を周波数成分に分解する 制御理論では、システムの安定性解析に複素数が用いられることがある

正方行列 定義や意味 正方行列とは、行数と列数が等しい行列のことを指す。すなわち、n × nの形を持つ 行列を正方行列という。 正方行列は一般に次のように表される： A= a11 a21 ​ ​ a12 a22 ⋯ ⋯ ​ ​ ​ ​ ⋮ ⋮ an1 an2 a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ ann ​ ​ ​ ​ 対角成分、すなわちaii (1 ≤ i ≤ n) を特に重要視することが多い ​ 嚙み砕いた説明 正方行列は、縦と横の長さが同じ行列のこと。例えば、3つの行と3つの列を持つ行列 は3×3の正方行列 正方形のように、縦横の長さが同じであるため、「正方行列」と呼ばれる 対角成分とは、左上から右下に向かって斜めに並ぶ要素のこと 実際の応用例 正方行列は、行列式や逆行列の計算、固有値問題などで重要な役割を果たす 特に、物理学や工学の分野でシステムの状態やバランスを表現するのに用いることが 多い 機械学習においても、共分散行列は正方行列であり、データの変動を表現するのに使 われる 対角要素 定義や意味 対角要素とは、行列の対角線上に位置する要素を指す。具体的には、行列 A = (aij ) ​ の対角要素は、i = j のときの aij のことをいう。すなわち、A が n × n の正方行 ​ 列であるとき、対角要素は a11 , a22 , … , ann である。 ​ ​ ​

例えば、行列 A が以下のような 3 × 3 の正方行列であるとする。 a11 a21 a31 A= ​ ​ ​ ​ ​ a12 a22 a32 ​ ​ ​ ​ a13 a23 a33 ​ ​ ​ ​ ​ このとき、対角要素は a11 , a22 , a33 である。 ​ ​ ​ 嚙み砕いた説明 対角要素とは、行列の左上から右下に向かって斜めに並んでいる要素のこと。行と列 の番号が同じ位置にある要素と考えればわかりやすい。 例えば、3x3の表があるとき、対角要素は「1行1列目」「2行2列目」「3行3列目」の 要素というイメージ。 実際の応用例 対角要素は、行列の固有値や行列式を計算する際に重要な役割を果たす。例えば、対 角行列という特殊な行列では、対角要素が行列の固有値そのものである。 対角要素は、線形代数の分野だけでなく、例えば物理学や統計学においても重要であ る。物理学では慣性モーメントの計算に、統計学では共分散行列の分散要素の計算に 用いられる。 単位元 定義や意味 単位元とは、集合と二項演算が与えられた代数系において、その演算に関して特定の 性質を持つ元のことをいう 具体的には、ある集合 S に対して、二項演算 ∗ が定義されているとき、S の任意の 元 a に対して e ∗ a = a ∗ e = a を満たす元 e が存在する場合、この元 e を S にお ける ∗ に関する単位元という 単位元は一意であることが証明できる 嚙み砕いた説明 単位元は、ある演算を行っても元の値を変えない特別な数のこと

例えば、加法における単位元は0で、どんな数に0を足してもその数自身になる。この 場合、a + 0 = a である また、乗法における単位元は1で、どんな数に1を掛けてもその数自身になる。この場 合、a × 1 = a である 実際の応用例 単位元は、数学の基礎的な構造である群や環、体といった代数的構造を理解する上で 重要 コンピュータアルゴリズムにおいても、初期値設定や累積演算の際に単位元が用いら れることがある また、機械学習の最適化処理における初期化処理や正規化のステップで単位元の概念 が応用されることがある 全ての要素が0 定義や意味 数学において、全ての要素が0であるとは、ある集合やベクトル、行列などのすべて の構成要素が0であることを指す。この状態は特に「ゼロベクトル」や「ゼロ行列」 として知られる。 ゼロベクトルの場合、ベクトル v = (v1 , v2 , … , vn ) のすべての成分が0であること ​ ​ ​ を意味する。すなわち、vi = 0 for all i。 ​ ゼロ行列の場合、行列 A = [aij ] のすべての要素が0であることを意味する。すなわ ​ ち、aij = 0 for all i, j 。 ​ 嚙み砕いた説明 全ての要素が0であるということは、例えばベクトルの場合、方向も大きさもないと いうこと。これは、ベクトルが原点にあることを示し、動かない状態を表している。 行列で全ての要素が0である場合、その行列はどんなベクトルを掛けてもゼロベクト ルを返す。これは行列の作用が何も変化を加えないことを意味する。 実際の応用例 ゼロベクトルやゼロ行列は線形代数学の基礎であり、特にベクトル空間の零元（加法 に関する単位元）として重要。これにより、ベクトルや行列の加法においてゼロベク トルやゼロ行列が中立的な役割を果たす。

機械学習においては、ゼロベクトルは重みを初期化する戦略の一つとして用いられる ことがある。特に、ニューロンのバイアスや重みが学習の初期段階で0から始まるこ とがある。 ゼロ行列は、数値計算や物理的なシミュレーションにおいて、特定の条件下で変数を リセットするのに使われることがある。 長さ1 定義や意味 ベクトルの長さ1とは、そのベクトルが単位ベクトルであることを意味する。単位ベ クトルはノルム（もしくは長さ）が1であるベクトルを指す。通常、ユークリッド空 間においてベクトル v のノルムは次の式で定義される： ∥v∥ = v12 + v22 + ⋯ + vn2 ​ ​ ​ ​ ここで、v = (v1 , v2 , … , vn ) であり、各 vi はベクトル v の成分。 ​ ​ ​ ​ ベクトル v が長さ1であるとは、∥v∥ = 1 であることを意味する。 嚙み砕いた説明 長さ1というのは、ベクトルが1単位の長さを持っているということ。平面上で考える と、原点から出発して1の距離を持つ点を指す。例えば、2次元ベクトル (1, 0) や (0, 1) はそれぞれ x軸と y軸に沿った単位ベクトルである。 ベクトルを長さ1にすることを「正規化」と呼び、与えられたベクトル v をそのノル ムで割ることで行う。正規化されたベクトルは同じ方向を指しつつ、ちょうど長さ1 になる。 実際の応用例 機械学習やデータサイエンスにおいて、データの正規化として用いることがある。特 に、特徴量が異なるスケールを持つ場合、計算の安定性や結果の解釈を容易にするた めに、各特徴量を単位ベクトルにスケーリングすることが一般的。 コンピュータビジョンや3Dグラフィックスでは、法線ベクトルを扱う際にその長さを 1にすることが多い。これにより、法線ベクトルがオブジェクトの表面に対してどの 方向を指しているのかを正確に表現できる。

物理学では、方向を示すために単位ベクトルを用いることが多い。例えば、力の方向 や速度の方向を指定する際に使われる。 全ての要素が0 定義や意味 ベクトルや行列において、「全ての要素が0」とは、ベクトルの全ての成分や行列の 全ての要素が0であることを指す。 例えば、n次元のゼロベクトルは 0 = (0, 0, … , 0) と表され、m × nのゼロ行列は 次のように表される: 0m×n = ​ 0 0 0 0 ​ ​ ⋯ ⋯ 0 0 ​ ​ ​ ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 0 嚙み砕いた説明 全ての要素が0であるベクトルや行列は、数学的には「ゼロベクトル」や「ゼロ行 列」と呼ばれる。これらは、他のベクトルや行列と加算しても元の形を変えない特別 なベクトルや行列である。例えば、ベクトルにゼロベクトルを加えても元のベクトル は変わらない。 ゼロベクトルやゼロ行列は、数学や物理において「何も変わらない状態」や「無の状 態」を表すために使われる。 実際の応用例 数値計算やデータ分析において、ゼロベクトルやゼロ行列は初期化や基準点として使 われることが多い。特に、機械学習のアルゴリズムでは、重みの初期化や誤差の計算 においてゼロベクトルやゼロ行列が活用される。 グラフ理論では、隣接行列がゼロ行列である場合、グラフに辺が存在しないことを示 す。

基底ベクトル 定義や意味 線形代数において、ベクトル空間の基底とは、その空間を生成するベクトルの集合の ことを指す 基底ベクトルの集合は、線形独立であり、その空間の任意のベクトルをその基底の線 形結合として一意に表現することが可能 具体的に、V をベクトル空間とし、{b1 , b2 , … , bn }がV の基底であるとすると、任 ​ ​ ​ 意のベクトルv ∈ V は、次のように表現できる v = c 1 b1 + c 2 b2 + … + c n bn ​ ​ ​ ​ ​ ​ ここで、c1 , c2 , … , cn はスカラーである ​ ​ ​ 嚙み砕いた説明 ベクトル空間を作るための「材料」と考えると分かりやすい 例えば、三次元空間におけるx, y, z 軸に沿った単位ベクトルi, j, kは基底ベクトルで ある。これらを使って任意の三次元ベクトルを表現できる 基底ベクトルはその空間で他のすべてのベクトルを作り出すために必要な最小限の 「部品」とも言える 実際の応用例 コンピュータグラフィックスでは、基底ベクトルを用いてオブジェクトの位置や形状 を表現する 機械学習では、特徴空間の次元削減（例：主成分分析）において、基底を選び直すこ とでデータの最も重要な特徴を抽出する 物理学では、基底ベクトルを用いて力や運動の解析を行う際に便利である。特に、異 なる座標系への変換を行う際に重要となる

線形代数 行列 行列の種類 正方行列 固有値分解 固有値 固有ベクトル 特性方程式 線形独立 対称行列 行列の対角化 スペクトル定理 対角行列 特異値 対角化可能 特異値の計算 行列の演算 行列のランク ランク-欠損定理 長方行列 行列の乗算 行列の転置 特異値分解 行列の積 行列の共役転置 左特異ベクトル 右特異ベクトル 線形代数 定義や意味 線形代数は数学の一分野であり、ベクトル、ベクトル空間、線形変換、行列を主に扱 う ベクトルは、数値の組み合わせであり、通常は矢印で視覚化される ベクトル空間は、ベクトルが加法とスカラー乗法に関して閉じている集合 行列は、数値や変数を長方形に配列したもので、線形変換を表現するために使われる 行列 A とベクトル v の積は、線形方程式系の解を見つけるために用いられる。例え ば、次のように表現される： Av = b ここで、A は行列、v は未知のベクトル、b は既知のベクトル 嚙み砕いた説明 線形代数は、ベクトルと行列を使って問題を解く数学のツール ベクトルは、2次元や3次元の空間で点を示す矢印として考えることができる 行列は、複数のベクトルを表にまとめたもので、数学の計算を簡単にする 線形代数では、行列を使って、複雑な方程式を解いたり、データを変換したりするこ とができる

実際の応用例 機械学習：データを表現するための行列や、データの変換に線形代数を使用 コンピュータグラフィックス：3Dモデルの回転やスケーリングに行列を使う 経済学：線形代数は経済モデルの構築や解析に使用される ネットワーク解析：グラフ理論における隣接行列の解析に利用 行列 定義や意味 行列とは、数や式を長方形の形に並べたものを指し、特に縦と横の並びによって構成 される数値の集合を指す。行列は通常、m × nの形式で表され、mが行の数、nが列 の数を示す。行列Aは以下のように表される： A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ amn ​ ​ ​ 各要素aij は行列の第i行、第j 列に位置する要素を指す。 ​ 行列の基本的な操作には、加法、減法、スカラー倍、行列積などがある。行列の積 は、特に重要で、2つの行列AとB の積C = AB は、行列Aの行と行列B の列を用い た内積として計算される。 嚙み砕いた説明 行列は、たくさんの数値やデータを整理して扱うための便利なツールで、縦と横のグ リッドにデータが配置されている。例えば、スプレッドシートの表のようなもの。 行列のサイズは、行と列の数で決まる。例えば、3行2列の行列は、3つの横の並び （行）と2つの縦の並び（列）で構成される。 行列の足し算や引き算は、それぞれの位置の数字を足したり引いたりするだけ。掛け 算は少し特別で、ある行の数字とある列の数字を組み合わせて新しい数字を作る。 実際の応用例 行列は、コンピュータグラフィックスにおける画像処理や3D変換で頻繁に利用され る。例えば、3Dモデルを回転させたり、拡大縮小したりする操作は、行列を用いて表

現される。 機械学習では、データの特徴やモデルのパラメータを行列として扱う。特に、ニュー ラルネットワークの重みやバイアスは行列として表され、行列の積を用いて入力デー タを処理する。 経済学や物理学においても、複雑なシステムのシミュレーションや解析に行列が多用 される。例えば、経済モデルの方程式を行列形式で表し、解を求めることでシステム の挙動を予測する。 行列の種類 定義や意味 行列は数や変数を長方形状に並べたもので、行と列の数によって分類される 行列は一般にA ∈ Rm×n と表され、mは行の数、nは列の数を示す 行列には以下のような特定の種類が存在する 正方行列 正方行列は行数と列数が同じ行列。すなわち、m = nである 例えば、A = ( a b )は2 × 2の正方行列 c d ​ ​ 対称行列 対称行列は転置行列が自身と等しい行列。すなわち、A = AT 例えば、A = ( a b )は対称行列 b c ​ ​ 斜対称行列 斜対称行列は転置行列が自身の負である行列。すなわち、A = −AT 例えば、A = ( 0 a )は斜対称行列 −a 0 ​ ​ 対角行列 対角行列は対角成分以外がすべてゼロの行列。すなわち、aij = 0 for i = j ​

例えば、A = ( a 0 )は対角行列 0 d ​ ​ 単位行列 単位行列は対角成分が1で他の成分が0の対角行列 例えば、I = ( 1 0 )は2 × 2の単位行列 0 1 ​ ​ 零行列 零行列はすべての成分が0である行列 例えば、O = ( 0 0 )は2 × 2の零行列 0 0 ​ ​ 嚙み砕いた説明 行列は数字を表のように並べたもので、横の並びを「行」、縦の並びを「列」と呼ぶ 正方行列は縦と横の長さが同じ。正方形の形をしている 対称行列は、行列を折りたたんだときに左右が一致するもの。鏡写しのように見える 斜対称行列は、対角線を中心に上下が反転しているもの。鏡に映したようになる 対角行列は、対角線上に数字が並んでいて、他はすべて0である 単位行列は、対角線上が1で他が0の特別な対角行列。計算上の「1」に似ている 零行列は、すべての要素が0の行列。計算上の「0」に似ている 実際の応用例 正方行列は、線形代数の理論や、物理学での回転行列などに応用される 対称行列は、物理学のテンソル、最適化問題、統計学の共分散行列などで使用される 斜対称行列は、物理学における角運動量や、微分方程式の解に現れることがある 対角行列は、行列の対角化や、システムの独立した状態の表現に便利 単位行列は、行列の逆行列を求める際や、行列の積において単位元として用いられる 零行列は、行列の差分や、線形システムの解がない場合の表現に使われる

正方行列 定義や意味 正方行列は、行数と列数が等しい行列を指す。すなわち、n × nの形を持つ行列であ り、行と列の数が同じである。 正方行列は次のように一般的に表される： A= a11 a21 a12 a22 ​ ​ ⋯ ⋯ ​ ​ ​ ​ ⋮ ⋮ an1 an2 a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ ann ​ ​ ​ ​ 特に、2 × 2や3 × 3などの小さな正方行列はしばしば具体例として用いられる。 嚙み砕いた説明 正方行列は、縦と横の長さが同じ形をした行列のこと。例えば、チェス盤のように 8×8のマス目を持つものをイメージするとわかりやすい。 2 × 2の正方行列の具体例としては、次のようなものがある： ( 1 2 ) 3 4 ​ ​ 実際の応用例 正方行列は線形代数の基礎であり、行列式や逆行列の計算において重要な役割を果た す。 コンピュータビジョンでは、画像の変換や回転などの操作において、変換行列として 正方行列が用いられる。 グラフ理論において、隣接行列が正方行列として表され、グラフの解析に利用され る。 固有値分解 定義や意味 固有値分解（Eigenvalue Decomposition）は、正方行列をその特性に基づいて分解す る手法の一つで、線形代数における基本的な概念の一つ。具体的には、ある正方行列

A に対し、A の固有値と固有ベクトルを用いて A を次のように表現することを指 す： A = VΛV−1 ここで、V は A の固有ベクトルを列に持つ行列、Λ は対角行列で、その対角成分が A の固有値である。V−1 は V の逆行列。 固有値 λ と固有ベクトル v は以下の条件を満たす： Av = λv ここで、λ はスカラーであり、v はゼロベクトルでない。 嚙み砕いた説明 固有値分解とは、行列という数の集まりを特定の方法でバラバラに分解すること。こ れにより、その行列の性質を簡単に理解したり、計算したりできるようになる。行列 は変換を表すもので、固有ベクトルはその行列によって変化しない特別な方向を指 し、固有値はその変化しない方向に沿った伸縮率を示す。 例えば、2次元の正方行列を考えると、固有ベクトルはその行列をかけたときに方向 が変わらないベクトルで、固有値はそのベクトルの長さがどれだけ伸びるかを示す。 実際の応用例 固有値分解は多くの科学技術分野で応用されている。例えば、物理学では量子力学の ハミルトニアン行列の解析、安定性解析、振動解析などに使われる。 コンピュータビジョンや機械学習では、主成分分析（PCA）において次元削減のため に固有値分解が利用される。データの分散が最も大きい方向に沿った新たな座標系を 見つける際に、データの共分散行列の固有値と固有ベクトルを用いる。 経済学や社会科学では、株価の動きやその他のシステムのダイナミクスの解析に用い られる。

固有値 定義や意味 固有値（Eigenvalue）とは、線形代数において特定の線形変換に対して不変な方向を 持つベクトル（固有ベクトル）に対応するスカラーのことを指す。具体的には、線形 変換を表す行列 A に対して、ベクトル v が次の条件を満たすとき、スカラー λ が固 有値となる： Av = λv ここで、v はゼロベクトルでない。この方程式は、行列 A の固有値 λ を求めるため の特性方程式を導く。 特性方程式は、行列 A − λI の行列式をゼロとすることで得られる。ここ で、I は単位行列である： det(A − λI) = 0 この方程式の解が行列 A の固有値となる。 嚙み砕いた説明 固有値は、ある行列（または線形変換）が特定の方向にどのように作用するかを示す 指標。例えば、ある行列によって変換されたベクトルが、方向を変えずに伸び縮みす るような場合、その伸び縮みの比率が固有値となる。 ベクトルが行列によって変換されると、通常はベクトルの方向も変わる。しかし、特 定の方向のベクトル（固有ベクトル）は方向を変えることなく、単にそのベクトルの 長さが変わるだけである。この変化の比率が固有値。 実際の応用例 固有値は、システムの安定性や振動特性を分析するために、制御理論や物理学で使用 される。 機械学習においては、主成分分析（PCA）でデータの次元を削減するために用いら れ、データの分散を説明する主要な成分を見つける。 経済学では、マルコフ連鎖の定常分布を求める際に固有値が利用される。

特性方程式 定義や意味 特性方程式とは、行列の固有値を求めるための多項式方程式のことを指す。具体的に は、n × nの正方行列Aに対して、固有値λを求めるために次のような行列方程式を 考える。 det(A − λI) = 0 ここで、I はn × nの単位行列であり、detは行列式を意味する。この方程式は、λの 多項式となり、その根が行列Aの固有値となる。 嚙み砕いた説明 特性方程式は、行列の特別な数である固有値を見つけるための手段。行列を変形して 「特性多項式」と呼ばれるものを作り、その多項式の解を探すことで固有値がわか る。たとえば、行列が何らかの変換を表しているとき、その変換の影響を表す重要な 数値が固有値であり、その数値を求めるために特性方程式を用いる。 実際の応用例 特性方程式は、機械学習やデータ分析における主成分分析（PCA）において重要な役 割を果たす。PCAは高次元データを低次元に圧縮する手法であり、その過程でデータ の共分散行列の固有値と固有ベクトルを計算する。このとき、特性方程式を解くこと で固有値を求め、データの分散を最大限に保持する方向（主成分）を特定する。さら に、物理学やエンジニアリングにおける振動分析や量子力学の分野でも、特性方程式 は頻繁に使用される。 固有ベクトル 定義や意味 固有ベクトルは、線形代数において重要な概念であり、線形変換によって方向が変わ らないベクトルのことを指す 具体的には、線形変換を表す行列 A とベクトル v に対して、スカラー λ が存在し、 次の方程式を満たすとき、v を行列 A の固有ベクトルと呼び、λ を対応する固有値 と呼ぶ

Av = λv ここで、v は零ベクトルであってはならない 固有ベクトルは、固有値の計算の結果、線形代数の多くの問題において解の性質を理 解するのに役立つ 嚙み砕いた説明 固有ベクトルとは、ある変換（行列）がかかっても、その方向が変わらず、長さだけ が変わるような特別なベクトル 例えば、ある行列が地図の操作を表しているとすると、固有ベクトルはその操作によ って方向が変わらない道路のようなもの 固有値はそのベクトルの長さがどれだけ変わるかを示すスケール 実際の応用例 固有ベクトルは機械学習やデータ分析において、主成分分析（PCA）の計算や、デー タの次元削減に用いられる コンピュータビジョンでは、画像の特徴抽出や顔認識アルゴリズムにおいて、画像デ ータを効率的に処理するために利用される 物理学においては、振動系の解析や、量子力学におけるシュレーディンガー方程式の 解に応用される 線形独立 定義や意味 線形独立とは、ベクトル集合に対する性質の一つである。具体的には、ベクトル集合 {v1 , v2 , … , vn } が線形独立であるとは、以下の条件を満たすことをいう：任意の スカラー a1 , a2 , … , an に対して、次の等式が成り立つとき ​ ​ ​ ​ ​ ​ a1 v 1 + a2 v 2 + ⋯ + an v n = 0 ​ ​ ​ ​ ​ ​ すべてのスカラーが a1 = a2 = ⋯ = an = 0 である。 ​ ​ ​ つまり、零ベクトルを得るためには、各ベクトルに0を掛けるしかない場合、そのベ クトル集合は線形独立であるとされる。

嚙み砕いた説明 ベクトルが線形独立であるということは、あるベクトルが他のベクトルの組み合わせ で表現できないことを意味する。例えば、直交する2つのベクトルは線形独立であ る。なぜなら、どちらのベクトルも他のベクトルの何倍かで表すことができないから である。 もしあるベクトルが他のベクトルの線形結合で表現できるなら、その集合は線形従属 であると呼ばれる。 実際の応用例 線形独立は線形代数学の基礎概念であり、多くの応用がある。例えば、機械学習や統 計学における特徴選択では、特徴ベクトルが線形独立であることが望ましい。これ は、冗長な情報を避け、モデルの性能を向上させるためである。 また、物理学やエンジニアリングでは、線形独立なベクトルは状態空間の基底を形成 し、システムの特性を解析する際に有用である。 対称行列 定義や意味 対称行列とは、正方行列でその転置行列が元の行列と等しい行列を指す 数式で表現すると、行列 A が対称行列であるとは、任意の i, j に対して aij = aji が成り立つことを意味する ​ ​ これは行列 A の転置行列 AT が元の行列 A と等しいことを表す: A = AT 例えば、以下の行列は対称行列である A= 1 2 3 2 4 5 3 5 6 ​ ​ ​ ​ ​ 嚙み砕いた説明 対称行列は、行列の要素が対角線を境に鏡のように配置されている行列 例えば、行列の左上の要素が a12 なら、右下の対応する位置の要素 a21 も同じ値であ ​ る 対称行列は視覚的に見ても左右対称となっている ​

実際の応用例 対称行列は線形代数や統計学、物理学などで広く利用されている 特に、共分散行列は対称行列であり、統計や機械学習においてデータの分布や相関を 理解するために用いられる また、物理学では慣性テンソルや応力テンソルなども対称行列として表現されること があり、これらは物体の回転や力の分布を記述するのに用いられる スペクトル定理 定義や意味 スペクトル定理は、線形代数学における基本的な定理の一つで、特に正方行列に関す るものである。スペクトル定理は、任意の自己随伴行列（エルミート行列、すなわち 複素数体上の行列であってその随伴行列と等しい行列）が対角化可能であることを主 張する。 より具体的には、自己随伴行列 A に対して、正規直交基底を形成する固有ベクトル の集合および対応する固有値の集合が存在し、行列 A は次の形で表現できる： A = QΛQ∗ ここで、Q はユニタリ行列（Q∗ Q = I ）、Λ は対角行列（対角成分が A の固有 値）、Q∗ は Q の随伴行列を表す。 実数体上では、自己随伴行列とは対称行列であり、この場合も同様に直交行列を用い て対角化できる。 嚙み砕いた説明 スペクトル定理は、ある種の行列（自己随伴行列）が特定の「簡単な形」（対角行 列）に変形できることを保証する。これは、行列をある基底に変換することで、計算 が非常に容易になることを意味する。 例えば、自己随伴行列を対角化することで、行列のべき乗や指数関数、対数を計算す るのが容易になる。なぜなら、対角行列に対するこれらの操作は、対角成分に対して 行うだけで済むからである。 簡単な例として、2x2の対称行列を考えると、スペクトル定理により、この行列は直 交行列を用いて対角化できることがわかる。

実際の応用例 スペクトル定理は、量子力学や振動解析、画像処理など、さまざまな分野で応用され る。例えば、量子力学では、観測可能量はエルミート演算子によって表現されるた め、スペクトル定理を用いてその固有値（観測可能な値）と固有ベクトル（量子状 態）を解析する。 また、機械学習においては、主成分分析（PCA）などの次元削減手法で、データの共 分散行列を対角化し、データの分散を最大化する方向（主成分）を見つけるために利 用される。 信号処理では、スペクトル解析により信号の周波数成分を解析する際に、スペクトル 定理が基礎となる。 長方行列 定義や意味 長方行列とは、行と列の数が異なる行列のことを指す。一般に、行列は行数をm、列 数をnとして表される。長方行列はm =  nの場合に該当し、特にm > nの場合を縦 長行列、m < nの場合を横長行列と呼ぶことがある。 長方行列は次のように表現できる。 A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ​ ⋮ am1 am2 ​ ​ ​ ⋮ ​ a1n a2n ⋱ ⋮ ⋯ amn ​ ​ ​ ​ ここで、Aはm × nの長方行列である。 嚙み砕いた説明 行列とは、数や式などを長方形に配置したもので、行（横）と列（縦）から成る。長 方行列は、行と列の数が異なるものを指し、縦に長いか横に長い形をしている。 例えば、3行2列の行列は次のように書ける： 1 2 3 4 5 6 ​ ​ ​ これは3つの行と2つの列を持つ長方行列である。 ​

実際の応用例 長方行列は、データ解析や機械学習において非常に一般的に用いられる。例えば、デ ータセットを行列形式で表現する場合、各行がデータのサンプル、各列が特徴量を表 すことがある。サンプル数と特徴量数が異なるため、長方行列として扱われる。 線形回帰モデルの設計行列も長方行列であり、行列演算を用いてパラメータを推定す る際に利用される。 特異値分解 定義や意味 特異値分解（Singular Value Decomposition, SVD）は、任意の実または複素行列を3 つの特定の行列の積に分解する行列分解の一種 与えられたm × n行列Aに対して、特異値分解は次のように表される A = U ΣV ∗ ここで、U はm × mの直交行列、Σはm × nの対角行列、V ∗ はn × nの直交行列の 共役転置である Σの対角成分はAの特異値であり、これらは非負の実数である 嚙み砕いた説明 特異値分解は、複雑な行列をより理解しやすい形に分ける手法 例えば、画像データを行列として考えた場合、その画像を構成する重要な情報を特異 値で表現することができる U とV は回転を表し、Σはスケール（拡大縮小）を表す 特異値は行列の「サイズ感」を示し、数が大きいほど行列がデータを占める程度が大 きい 実際の応用例 データ圧縮: 画像や音声データを圧縮するために用いられる。特異値の大きいものだ けを残してデータを近似することで、データ量を削減できる 潜在意味解析（Latent Semantic Analysis, LSA）: 自然言語処理においてテキストデー タの次元を削減し、類似性を分析するために用いられる

画像認識: 画像の特徴抽出やノイズ除去に用いることで、認識精度を向上させる 制御理論や信号処理: システムの安定性解析や信号のフィルタリングにおいて利用さ れる 特異値分解は、多くの場面でデータの次元削減やノイズの削除、データの構造解析に役立つ 重要な数学的ツールである。 特異値 定義や意味 特異値とは、実または複素数の行列に対する特別な値のことで、行列の固有値に関連 するが、異なる概念である。特異値は、与えられた行列の特異値分解 (Singular Value Decomposition, SVD) において現れる。特異値分解は、任意の m × n 行列 A に対 し、以下のように分解される： A = U ΣV ∗ ここで、U は m × m のユニタリ行列、V ∗ は n × n の共役転置行列で、Σ は m × n の対角行列である。Σ の対角要素は非負の実数で、これが A の特異値であ る。特異値は通常、σ1 ≥ σ2 ≥ ⋯ ≥ σmin(m,n) ≥ 0 の順に並べられる。 ​ ​ ​ 嚙み砕いた説明 特異値は、行列の性質を理解するための重要なツールの一つである。行列がデータを どのように変換するかを知るために用いられる。特異値が大きいほど、行列はその次 元においてデータを強く伸長または縮小する。逆に、特異値が小さいほど、その次元 における変換の影響は小さい。特異値分解を用いることで、行列を簡単に解析し、デ ータのパターンや構造を見つけるのに役立つ。 実際の応用例 特異値は多くの応用に利用される。例えば、画像圧縮では、画像を行列として表現 し、特異値分解を用いて低ランク近似を行うことで、画像データを効率的に圧縮す る。これにより、元の画像に非常に近い品質を保ちながら、データ量を削減できる。 また、特異値分解は、ノイズ除去やデータの次元削減（例えば、主成分分析）にも利 用される。特異値の大きさに基づいて、重要な情報を保持しつつ、ノイズや冗長な情 報を取り除くことが可能である。

機械学習の分野では、特異値分解を用いて特徴選択やデータの前処理を行い、モデル の性能を向上させるためにも利用される。 特異値の計算 定義や意味 特異値とは、行列 A のサイズに依存しない非負の実数であり、通常は行列の幾何学 的特性を表すために用いられる。特異値分解（Singular Value Decomposition, SVD） を通じて計算される。任意の m × n 行列 A は、次のように特異値分解される： A = U ΣV T ここで、U は m × m の直交行列、Σ は m × n の対角行列、V は n × n の直交行 列である。対角行列 Σ の対角成分が特異値であり、通常は σ1 ≥ σ2 ≥ ⋯ ≥ σp ≥ ​ ​ ​ 0 （p = min(m, n)）の順に並んでいる。 嚙み砕いた説明 特異値とは、行列を変換する際のスケールの大きさを示す値である。行列は通常、ベ クトルを別のベクトルに変換する「操作」として考えられ、特異値はその操作がどれ だけベクトルを「引き伸ばす」かを示す。特異値分解を用いることで、行列を三つの 部分（回転、スケーリング、再回転）に分解できる。この三つの部分のうち、スケー リングを示す部分が特異値である。 実際の応用例 特異値分解は多くの応用を持ち、例えば、データ圧縮やノイズ除去に用いられる。画 像圧縮では、特異値分解を用いて重要な特異値のみを保持し、他を無視することでデ ータの次元を削減する。また、主成分分析（PCA）でも特異値分解は重要なステップ として利用され、データの次元削減や特徴抽出に役立っている。 左特異ベクトル 定義や意味 左特異ベクトルは、行列の特異値分解 (Singular Value Decomposition: SVD) における 概念の一つ

特異値分解では、任意の実または複素数の行列 A を以下のように分解する A = U ΣV ∗ ここで、U は A の左特異ベクトルを列ベクトルとして持つ直交行列、Σ は対角行列 で特異値を対角成分に持ち、V ∗ は A の右特異ベクトルを列ベクトルとして持つ直交 行列の転置または共役転置 U の各列ベクトルが A の左特異ベクトル 左特異ベクトルは、行列 AA∗ の固有ベクトルに対応する 嚙み砕いた説明 左特異ベクトルは、行列を分解したときに「どの方向に行列がデータを押し広げた り、縮めたりするのか」を表すベクトル 例えば、画像データを行列として考えたとき、左特異ベクトルは画像の構造的な特徴 を捕捉する 行列の「行」に関する特徴を捉えるため、行の空間における「基底」とも言える 実際の応用例 左特異ベクトルは画像処理や情報検索で使われる 特に、画像認識や圧縮において、データの次元を低くする手法として利用される 自然言語処理における潜在意味解析 (Latent Semantic Analysis: LSA) でも、テキスト データの次元削減に用いられる 右特異ベクトル 定義や意味 右特異ベクトルは、特異値分解 (Singular Value Decomposition, SVD) における要素の 一つ 行列 A を特異値分解すると、A = U ΣV T という形になる ここで、U は左特異ベクトルからなる直交行列、Σ は対角行列、V T は右特異ベクト ルの転置行列 行列 V の各列が右特異ベクトルであり、行列 AT A の固有ベクトルでもある

右特異ベクトルは、行列 A の列方向の情報を表現する 嚙み砕いた説明 右特異ベクトルは、行列を構成する列の重要な方向を示す 特異値分解では、行列を簡単に理解するために3つの行列に分解する 右特異ベクトルは、その中で、行列の列方向の特性を捉えている これにより、データのパターンや特徴を列の観点から分析できる 実際の応用例 画像処理における画像圧縮：特異値分解を用いて重要な情報を保持しつつ、データ量 を削減 テキスト処理における潜在意味解析：文書を特徴付ける潜在的な構造を捉える 主成分分析の計算：データの次元削減において、主成分を求めるために特異値分解を 利用する場合がある 行列の演算 定義や意味 行列の演算とは、行列同士の加算や減算、行列とスカラーの乗算、行列同士の乗算、 転置行列、逆行列などの操作を指す。行列は通常、数値や数式が格子状に並んだもの として表され、数学や物理学、工学、経済学など多くの分野で使用される。 行列の加算および減算は、サイズ（次元）が同じ行列同士でのみ行うことができる。 行列 A = ( 作である。 a11 a21 ​ ​ a12 b ) と行列 B = ( 11 a22 b21 ​ ​ ​ b12 ) の加算は、要素ごとの和を取る操 b22 ​ ​ ​ ​ ​ ​ ​ a + b11 A + B = ( 11 a21 + b21 ​ ​ ​ ​ ​ a12 + b12 ) a22 + b22 ​ ​ ​ ​ ​ 行列とスカラーの乗算は、行列の各要素にスカラーを掛ける操作である。行列 A と スカラー c に対する乗算は次のように表される。 cA = ( c ⋅ a11 c ⋅ a21 ​ ​ c ⋅ a12 ) c ⋅ a22 ​ ​ ​ ​

行列同士の乗算は、2つの行列 A と B に対して、A の行数が B の列数と等しい場合 にのみ定義される。行列 A がサイズ m × n で、行列 B がサイズ n × p の場合、積 AB はサイズ m × p の行列となり、各要素 cij は次のように計算される。 ​ n cij = ∑ aik bkj ​ ​ ​ ​ k=1 転置行列は、行列の行と列を入れ替える操作である。行列 A の転置を AT で表す。 逆行列は、行列 A に対して、A−1 を掛けると単位行列 I になる行列のことを指す。 ただし、逆行列が存在するのは正方行列でかつ行列式が0でない場合のみである。 嚙み砕いた説明 行列の演算は、数の足し算や掛け算の行列バージョンと考えるとわかりやすい。行列 の和や差は、同じ位置の数字を足したり引いたりすることで得られる。スカラーとの 掛け算は、行列のすべての数字をそのスカラーで掛けること。 行列の掛け算は少し特殊で、行と列を使って計算する。例えば、行列 A の1行目と行 列 B の1列目の数字を順番に掛けて足し合わせることで、新しい行列の1行1列目の数 字ができる。 転置行列は、行と列をひっくり返すだけ。紙を90度回すイメージ。逆行列は、行列に 掛けると単位行列（1のような役割）になる特別な行列。 実際の応用例 行列の演算は、グラフィックスの変換や変形、データ分析、機械学習のモデル計算に おいて頻繁に使用される。例えば、画像処理では、画像を回転、拡大縮小するために 行列の演算が使われる。 経済学や統計学では、行列を用いてデータの相関を分析したり、線形回帰モデルを構 築する際に行列の演算が利用される。 機械学習におけるニューラルネットワークの学習プロセスでも、行列の積や逆行列を 使って重みの更新や勾配の計算を行う。 行列の乗算 定義や意味 行列の乗算は、二つの行列を掛け合わせて新しい行列を得る操作を指す。行列 A と B の積 C = AB が定義されるためには、A の列数が B の行数と等しくなければな

らない。具体的には、A が m × n 行列で、B が n × p 行列であるとき、積 C は m × p 行列となる。 行列 C = AB の各要素 cij は次のように計算される： ​ n cij = ∑ aik bkj ​ ​ ​ ​ k=1 ここで、aik は行列 A の i 行 k 列の要素、bkj は行列 B の k 行 j 列の要素である。 ​ ​ 嚙み砕いた説明 行列の乗算は、行列の「行」と「列」を用いて新しい行列を作り出す操作。直感的に は、行列 A の各行と行列 B の各列を組み合わせて新しい行列の要素を作ると考え る。行列の行と列を「点積」を取ることで各要素を計算する。 例えば、2行3列の行列と3行2列の行列を掛けると、結果は2行2列の行列となる。これ は、最初の行列の行と次の行列の列がどのように組み合わされるかに基づいている。 実際の応用例 行列の乗算は、コンピュータビジョンや機械学習における線形変換や特徴量の変換に 頻繁に用いられる。例えば、ニューラルネットワークの重み行列と入力データ行列の 積は、次の層への入力を計算するために使われる。 グラフィック処理において、3Dモデルの回転、拡大縮小、平行移動などの変換も行列 の乗算を用いて実現される。 行列の積 定義や意味 行列の積とは、2つの行列を掛け合わせて新しい行列を得る演算のことを指す。行列 の積が定義されるためには、最初の行列の列数が2番目の行列の行数と一致していな ければならない。具体的には、行列 A が m × n 行列で、行列 B が n × p 行列であ るとき、その積 AB は m × p 行列となる。 行列 A = [aij ] と行列 B = [bjk ] の積 C = AB = [cik ] における要素 cik は、次の ​ ​ ​ ように計算される： n cik = ∑ aij bjk ​ ​ j=1 ​ ​ ​

この計算は、行列 A の第 i 行の要素と行列 B の第 k 列の要素の積をそれぞれ求め、 それらを合計することで行われる。 嚙み砕いた説明 行列の積は、2つの行列を組み合わせて新しい行列を作る方法。例えば、行列 A の行 と行列 B の列を掛けて、1つの数字を作る。この操作をすべての行と列について行う ことで、新しい行列を構成する。 具体的には、行列の一行ずつと列を掛けることで、行列の積を計算する。このとき、 行列のサイズに注意する必要がある。最初の行列の列数が、次の行列の行数と同じで なければならない。 実際の応用例 機械学習では、行列の積はニューラルネットワークの重みと入力データを掛け合わせ る際に頻繁に使用される。これは、データを次の層へ伝播させるための計算に応用さ れている。 画像処理においても、画像データを変換するフィルターを適用する際に行列の積が使 用される。この場合、フィルター行列と画像の一部を掛け合わせて新しいピクセル値 を計算する。 経済学や物理学などの分野では、線形代数の手法として行列の積を用いてシステムの モデル化や解析を行うことが多い。例えば、経済モデルでの資源配分や物理システム での状態変化の解析に利用される。 行列の転置 定義や意味 行列の転置とは、ある行列の行と列を入れ替えた新しい行列を指す もともと行列 A が m × n 行列（m 行 n 列）であるとき、その転置行列 A⊤ は n × m 行列になる 具体的には、行列 A の成分 (i, j) が転置行列 A⊤ では成分 (j, i) になる 例えば、行列 A = ( a b a c ) の転置は A⊤ = ( ) となる c d b d ​ ​ 嚙み砕いた説明 行列の転置は、行を列に、列を行に変える操作 ​ ​

例えば、2行3列の行列があれば、転置すると3行2列の行列になる 簡単に言えば、行と列を「ひっくり返す」こと 1 4 2 5 3 6 1 2 3 例えば、行列 A = ( ) を転置すると、A⊤ = 4 5 6 ​ ​ ​ ​ ​ ​ になる 実際の応用例 行列の転置は、線形代数やデータ解析、統計学などでよく用いられる 機械学習においても、データセットの行と列を入れ替えて操作する際に転置が使われ る 例えば、行列の内積を計算する際や、行列の対称性を確認する際、あるいは行列のラ ンクを求める計算内で転置を使うことがある 行列の共役転置 定義や意味 行列の共役転置（Hermitian transposeまたはAdjointとも呼ばれる）は、複素数行列に 対して定義される操作で、行列の転置を取り、その各要素の複素共役を取った行列の ことを指す。複素数行列 A の共役転置は A∗ または A† で表される。 具体的には、行列 A = (aij ) の共役転置 A∗ は次のように定義される： 第 i 行第 j 列の要素 aij の複素共役を aij とすると、行列 A∗ の第 j 行第 i 列 ​ ​ ​ の要素は aij となる。 ​ このため、行列 A∗ の要素は (A∗ )ij = aji と書ける。 ​ A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ​ ⋮ ⋮ am1 A∗ = ​ am2 ​ a11 a12 ​ a21 a22 ​ ​ ​ ​ ​ ⋮ a1n ​ ​ ​ ⋯ ⋯ ​ ​ ​ ​ ​ a2n ​ ⋱ ⋮ ⋯ amn ⋮ ​ ​ a1n a2n ​ ​ am1 am2 ​ ⋱ ⋮ ⋯ amn ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​

嚙み砕いた説明 共役転置は、行列を「ひっくり返して」、さらに「それぞれの数字を複素共役に変え る」という操作。実数の場合は単に転置を取るのと同じになるが、複素数の場合はそ れぞれの要素の虚数部分の符号を反転する。 例えば、行列の一要素が 2 + 3i なら、その複素共役は 2 − 3i となる。これを行列全 体に適用し、さらに行と列を入れ替えたものが共役転置。 実際の応用例 量子力学におけるブラケット記法での内積計算。状態ベクトルの共役転置を用いるこ とで内積を計算する。 信号処理における複素行列の操作。共役転置を用いて信号の特性を抽出する。 機械学習における複素数を扱うニューラルネットワークの重み更新やコスト関数の定 義においても使用される。 行列のランク 定義や意味 行列のランクとは、行列に含まれる独立な行または列の最大数を表す整数 行列におけるランクは、行または列のベクトルの線形独立性を示す尺度 ある行列 A のランクは、通常 rank(A) または単に rank A と表記 具体的に、行列 A が m × n の行列である場合、ランクは A の行ベクトル（または 列ベクトル）の中で線形独立な最大数 行列 A のランクは、A の行列式（determinant）を使っても定義可能で、det(A) が ゼロでない場合、その行列はフルランクである 嚙み砕いた説明 行列のランクは、行列がどれだけ情報を持っているかを示すもの 例えば、行列に含まれる行や列が全て同じまたは線形従属であれば、その行列のラン クは低くなる 行列はベクトルの集まりと考えることができ、ランクはその集まりの中でどれだけの ベクトルが独立しているかを示す ランクは行列の次元を超えることはなく、m × n 行列のランクは最大で min(m, n)

実際の応用例 行列のランクは線形代数や機械学習など多くの分野で応用されている 例えば、データ解析において行列のランクを利用してデータの次元削減を行う手法と して、主成分分析（PCA）がある システムの解が一意に定まるかどうかを判断するために、連立方程式の係数行列のラ ンクを調べることもある 画像処理において、特異値分解（SVD）による画像圧縮にも行列のランクが利用され る ランク-欠損定理 定義や意味 ランク-欠損定理は、行列のランクと欠損度の関係を示す定理である。具体的には、あ る行列 A が m × n の行列であるとき、そのランク rank(A) と欠損度（またはヌル ティティ） nullity(A) の和は行列の列数に等しいことを示す。 その関係は次のように表される： rank(A) + nullity(A) = n ここで、ランク rank(A) は行列 A の線形独立な行の最大数、または列の最大数を示 し、欠損度 nullity(A) は行列 A のヌル空間の次元を示す。 嚙み砕いた説明 ランク-欠損定理は、線形代数において行列の特性を理解するための重要なツール。行 列のランクは、その行列がどの程度の情報を保持しているかを示し、欠損度はその行 列がどの程度の自由度を持っているか、つまりどれだけの解が自由に選べるかを示 す。 簡単に言うと、この定理は「行列の情報量（ランク）とその自由度（欠損度）を足し 合わせると、その行列が持つすべての列の数になる」という意味。 実際の応用例 ランク-欠損定理は、線形方程式の解の性質を理解するために使われる。特に、連立一 次方程式の解の存在や、一般解の構造を調べる際に応用される。 また、データ解析や機械学習において、データ行列の特性を把握し、モデルの複雑さ を評価するために利用される。例えば、主成分分析（PCA）においてデータの次元削

減の際に、データ行列のランクを考慮することで情報の損失を最小限に抑えることが できる。 行列の対角化 定義や意味 行列の対角化とは、ある正方行列 A が対角行列 D に相似であることを示す変換のこ とを指す。これは、行列 A に対して可逆行列 P が存在し、P −1 AP = D という形 で表現できることを意味する。ここで、D は対角行列であり、P は A の固有ベクト ルを列ベクトルとして持つ行列である。 行列 A が対角化可能であるための必要十分条件は、A が n 個の一次独立な固有ベク トルを持つことである。これにより、A の固有値を対角成分とする対角行列 D を得 ることができる。 具体的には、次のような形になる： P −1 AP = D ここで、P = [v1 , v2 , … , vn ] は A の固有ベクトルからなる行列であり、D = ​ ​ ​ diag(λ1 , λ2 , … , λn ) は A の固有値 λi を対角成分とする対角行列。 ​ ​ ​ ​ 嚙み砕いた説明 行列の対角化は、行列を「簡単な形」に変える操作。対角行列は対角成分以外がすべ てゼロであるため、計算が非常に簡単になる。例えば、対角行列のべき乗は対角成分 をそれぞれべき乗するだけで求められる。 対角化を行うと、複雑な行列の操作が簡素化されるため、解析や計算が容易になる。 実際の応用例 主に線形代数学や数値解析において、行列の対角化は重要な役割を果たす。例えば、 微分方程式の解析や、線形回帰などの統計的手法に利用される。 画像処理において、特異値分解（SVD）という行列の分解手法は、行列の対角化の概 念を拡張したものであり、データの次元削減や圧縮に応用されている。 物理学における量子力学では、行列の対角化が状態のエネルギー固有値を求める際に 用いられる。

対角行列 定義や意味 対角行列とは、主対角成分以外のすべての要素がゼロである正方行列を指す。主対角 成分は、行列の左上から右下にかけての要素で構成される。 具体的に、n × nの対角行列D は以下のように表される： D= d11 0 ​ 0 d22 ​ ​ ⋯ ⋯ ​ ​ ⋮ 0 0 0 ​ ⋮ 0 ​ ⋱ ⋮ ⋯ dnn ​ ​ ここで、dii はi番目の主対角成分を表す。 ​ 特に、すべての主対角成分が1である対角行列を単位行列（または、単位対角行列） と呼ぶ。 嚙み砕いた説明 対角行列は、行列の中で主対角線上にある要素以外はゼロであるため、非常にシンプ ルな構造を持つ。 例えば、3 × 3の対角行列の具体例を考えると、以下のようになる： D= 3 0 0 0 5 0 0 0 7 ​ ​ ​ この行列では、主対角成分が3, 5, 7であり、それ以外の要素はすべて0である。 対角行列は計算が容易であり、行列の積や逆行列の計算が簡単になる特性を持つ。 実際の応用例 対角行列は、線形代数における多くの計算で使用される。特に、行列の固有値分解で は、行列を対角行列に変換することで、計算が簡単になる。 機械学習においては、主成分分析（PCA）などでデータを対角化する過程で利用され る。これにより、データの次元削減や特徴抽出が効率的に行える。 また、物理学や工学の分野でも、特定の対称性を持つシステムの解析において対角行 列が使用される。

対角化可能 定義や意味 対角化可能とは、ある正方行列 A が対角行列 D に変換できることをいう。具体的に は、行列 A に対して、可逆行列 P が存在し、次のように表せるとき、A は対角化可 能である。 A = P DP −1 ここで、D は対角行列であり、P は A の固有ベクトルを列ベクトルとして持つ行列 である。対角化可能であるための必要十分条件は、行列 A の固有ベクトルが線形独 立であること。 嚙み砕いた説明 対角化可能とは、行列を「簡単な形」にすることができることを指す。この「簡単な 形」とは、対角行列というもので、行列の主対角線上にしか要素がない行列。対角化 することで、行列のべき乗や指数関数、対数を計算するのが容易になる。行列の固有 ベクトルが十分にあれば、行列は対角化可能であり、これにより多くの計算が効率的 に行える。 実際の応用例 対角化可能な行列は、物理学や工学におけるシステムの解析で頻繁に現れる。特に、 動的システムの安定性解析や振動モードの解析において、行列の固有値や固有ベクト ルを用いる。例えば、振動する構造物のモード解析では、システムを対角化すること で、それぞれの振動モードを独立して解析することが可能となる。また、数値計算に おいて、行列の指数関数を計算する場合、対角化を利用すると計算が大幅に簡略化さ れる。 ノルムと内積の理解 ベクトル 内積 ベクトルの定義 内積の定義 ベクトルの演算 スカラー倍 直交性 ベクトルの加算 ノルム ノルムの定義 内積の性質 線形性 ユークリッドノルム 対称性 非負性 マンハッタンノルム ベクトル空間 ノルムの性質 最大ノルム 正値性 斉次性 ベクトル空間の定義 基底と次元 三角不等式 線形独立 行列表示 線形従属 線形変換 固有値と固有ベクトル

ノルムと内積の理解 ノルム 定義や意味 ノルムとは、ベクトルの大きさや長さを表す尺度のことを指す ベクトル空間 V に対して、ノルムは ∥ ⋅ ∥ : V → R という写像であり、任意のベク トル v ∈ V に対して以下の条件を満たす i. 非負性: ∥v∥ ≥ 0 であり、∥v∥ = 0 のときかつそのときに限り v = 0 ii. スカラー倍に対する斉次性: 任意のスカラー a に対して ∥av∥ = ∣a∣∥v∥ iii. 三角不等式: 任意のベクトル u, v ∈ V に対して ∥u + v∥ ≤ ∥u∥ + ∥v∥ 具体例として、ユークリッド空間における2-ノルム（ユークリッドノルム）は次のよ うに定義される ∥v∥2 = ​ v12 + v22 + ⋯ + vn2 ​ ​ ​ ​ ここで、v = (v1 , v2 , … , vn ) は Rn のベクトル ​ ​ ​ 嚙み砕いた説明 ノルムはベクトルの「長さ」や「大きさ」を測るもの 例えば、2次元の平面でベクトルがあるとき、そのベクトルを矢印と考えると、ノル ムはその矢印の長さに相当する 一般的には、ノルムを使ってベクトルがどれくらい「遠く」まで伸びているかを理解 する 実際の応用例 機械学習における正則化手法（L1正則化やL2正則化）では、モデルの複雑さを制御す るためにノルムが使われる ベクトルの長さを最小化することで過学習を防ぎ、モデルの一般化性能を向上させる

内積 定義や意味 内積は、2つのベクトル間の類似性や関係性を測る尺度で、ベクトル空間における双 線形写像 2つのベクトル u, v ∈ Rn に対する内積は次のように定義される n u ⋅ v = u 1 v1 + u 2 v2 + ⋯ + u n vn = ∑ u i vi ​ ​ ​ ​ ​ ​ ​ ​ ​ i=1 内積は以下の性質を持つ i. 交換法則: u ⋅ v = v ⋅ u ii. 結合法則: u ⋅ (v + w) = u ⋅ v + u ⋅ w iii. スカラー倍に対する斉次性: (au) ⋅ v = a(u ⋅ v) 嚙み砕いた説明 内積は、2つのベクトルがどれだけ「同じ方向」を向いているかを表す 例えば、2つのベクトルが直角であれば内積は0になり、同じ方向を向いているとその 大きさに比例する値になる 実際の応用例 機械学習において、内積は主に類似度計算に利用される 例えば、自然言語処理では単語の埋め込みベクトル同士の内積を計算して単語間の類 似度を測る また、ニューラルネットワークの層における重みと入力の内積は、次の層への出力を 算出するために使われる ベクトル 定義や意味 ベクトルとは、大きさ（長さ）と方向を持つ数学的な対象 通常は有向線分として視覚化され、物理や工学の多くの問題で使われる n次元ベクトルは n 個の数の組 (x1 , x2 , … , xn ) で表され、ここで各 xi はベクトル ​ の成分を表す ​ ​ ​

ベクトルは通常太字で表記されることが多く、例えば v や u などを用いる ベクトルの長さはノルムと呼ばれ、2次元および3次元ではユークリッドノルムが一般 的であり、これは次のように定義される x21 + x22 + ⋯ + x2n ∥v∥ = ​ ​ ​ ​ また、ベクトル同士の加算やスカラー倍も定義され、例えば u = (u1 , u2 , … , un ) ​ ​ ​ と v = (v1 , v2 , … , vn ) の加算は次のように行われる ​ ​ ​ u + v = (u1 + v1 , u2 + v2 , … , un + vn ) ​ ​ ​ ​ ​ ​ 嚙み砕いた説明 ベクトルは矢印のようなもので、どれだけの距離をどの方向に進むかを示す 例えば、地図上での移動を考えると、北に5km進むことを示すベクトルは、大きさが 5で、方向が北を指す 二次元平面でのベクトルを考えると、平面上の点 (x, y) を指し示すことができ、それ は座標軸に対する移動の量を意味する 実際の応用例 物理学での力の表現、例えば物体に働く力をベクトルで表し、力の大きさと方向を示 す コンピュータグラフィックスでは、ベクトルは物体の位置や動きを計算するために用 いられる 機械学習において、特徴量ベクトルとしてデータを表現し、モデルの入力として使用 する 経済学における市場の需要や供給をベクトルで表すことで、異なる商品やサービスの 関係を解析する 内積 定義や意味 内積（ないせき、英: inner product）とは、ベクトル空間における二つのベクトルに 対する演算であり、特にユークリッド空間ではドット積（dot product）とも呼ばれる

二つのベクトル a = (a1 , a2 , … , an ) と b = (b1 , b2 , … , bn ) の内積は以下のよう ​ ​ ​ ​ ​ ​ に定義される n a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn = ∑ ai bi ​ ​ ​ ​ ​ ​ ​ ​ ​ i=1 内積の結果はスカラー量（数値）となる また、内積は二つのベクトルの間の「類似度」を測る尺度として使われる 嚙み砕いた説明 内積は二つのベクトルを掛け合わせて一つの数値を得る操作 それは、二つのベクトルの対応する要素を掛け合わせ、すべての積を合計することで 計算される 直感的には、内積が大きいと二つのベクトルが似ていることを意味し、内積がゼロに 近いと二つのベクトルが直交している（つまり全く似ていない）ことを意味する 実際の応用例 機械学習における特徴量間の相関の計算 コンピュータビジョンでの画像類似度の計算 自然言語処理での単語埋め込み（word embedding）間の類似度を評価する際に使用 物理学における力と運動の関係を理解するための演算 ノルム 定義や意味 ノルムはベクトル空間におけるベクトルの「大きさ」や「長さ」を表す関数 ノルムはベクトル v に対して、非負の実数を割り当てる関数であり、一般に ∥v∥ と 表記 ノルムは以下の3つの性質を満たす i. 正定性: 任意のベクトル v に対し、∥v∥ ≥ 0 であり、∥v∥ = 0 のとき、v はゼロ ベクトル ii. 同次性: 任意のスカラー a と任意のベクトル v に対し、∥av∥ = ∣a∣∥v∥ iii. 三角不等式: 任意のベクトル u, v に対し、∥u + v∥ ≤ ∥u∥ + ∥v∥

よく使われるノルムの例には、ユークリッドノルム（2ノルム）、1ノルム、無限大ノ ルムがある 例えば、ユークリッドノルム（2ノルム）は次のように定義 ∥v∥2 = ​ v12 + v22 + ⋯ + vn2 ​ ​ ​ ​ 嚙み砕いた説明 ノルムはベクトルの長さを測るルールのようなもの 例えば、ユークリッドノルムは直感的に言えば、ベクトルを3次元空間の中で矢印と して考えたときの矢印の「物理的な長さ」 1ノルムはベクトルの要素の絶対値の合計で、無限大ノルムはベクトルの中で最大の 絶対値を持つ要素を指す ノルムはベクトルのスケールを考える際に重要な役割を果たす 実際の応用例 ノルムは機械学習やデータサイエンスにおいて、データの前処理や正則化に用いられ る 例えば、L2正則化はモデルの重みのユークリッドノルムを最小化することで過学習を 抑制 画像処理では、ノルムを用いて画像の類似性を測定することがある クラスタリングや分類などの多くのアルゴリズムで、データポイント間の距離を測る ためにノルムを活用 ベクトル空間 定義や意味 ベクトル空間は、スカラーとベクトルを加えたりスカラー倍したりできる数学的構造 のこと 正確には、体 F 上のベクトル空間は集合 V と加法とスカラー倍の二つの演算で構成 される 加法は V × V → V の写像であり、スカラー倍は F × V → V の写像である 以下の条件を満たす必要がある： i. 加法について閉じている：任意の u, v ∈ V に対して、u + v ∈ V

ii. 加法の単位元が存在する：ある 0 ∈ V が存在して、任意の v ∈ V に対して、 v+0=v iii. 加法の逆元が存在する：任意の v ∈ V に対して、ある −v ∈ V が存在して、 v + (−v) = 0 iv. 加法の結合法則を満たす：任意の u, v, w ∈ V に対して、(u + v) + w = u + (v + w) v. 加法の交換法則を満たす：任意の u, v ∈ V に対して、u + v = v + u vi. スカラー倍について閉じている：任意の a ∈ F と v ∈ V に対して、a ⋅ v ∈ V vii. スカラー倍の結合法則を満たす：任意の a, b ∈ F と v ∈ V に対して、(a ⋅ b) ⋅ v = a ⋅ (b ⋅ v) viii. スカラー倍と加法の分配法則を満たす： 任意の a ∈ F と u, v ∈ V に対して、a ⋅ (u + v) = a ⋅ u + a ⋅ v 任意の a, b ∈ F と v ∈ V に対して、(a + b) ⋅ v = a ⋅ v + b ⋅ v ix. スカラーの単位元が存在する：スカラー 1 ∈ F に対して、任意の v ∈ V に対し て、1 ⋅ v = v 嚙み砕いた説明 ベクトル空間は、ベクトルと呼ばれる要素が集まった集合で、これらの要素は足した り、数を掛けたりしてもまた同じ集合に属する この構造は、平面上や空間上の矢印のようなベクトルを考える際に役立つ 例えば、2次元空間でのベクトルは、平面上の矢印として視覚化でき、加法やスカラ ー倍は矢印を組み合わせたり伸ばしたりする操作に対応 実際の応用例 コンピュータグラフィックスでの画像処理や3Dモデルの操作におけるベクトル演算 機械学習やデータ解析でのデータの線形変換や特徴量の表現 物理学における力や速度のような量を表現する際の数学的な基盤として利用

ベクトルの定義 定義や意味 ベクトルは数学における基本的な概念であり、複数の成分を持つ値の集合を指す。通 常、ベクトルは空間内の位置や方向を表すために用いられる。ベクトルはしばしば矢 印で示され、その大きさ（長さ）と方向を持つ。 ベクトルは数式的には、一般的にvのように太字の小文字で表記され、成分を列挙す ることで具体的に示される。例えば、3次元空間におけるベクトルは次のように表さ れる： v= v1 v2 v3 ​ ​ ​ ​ ​ ​ ここで、v1 , v2 , v3 はそれぞれの成分を示す。 ​ ​ ​ ベクトルはまた、平面上や空間内の点を表すことができる。座標系において、ベクト ルは点の位置を原点からの偏差として表現する。 嚙み砕いた説明 ベクトルは「矢印」として考えると理解しやすい。例えば、地図上で特定の場所から 別の場所までの道を示す矢印を想像してみる。矢印はどの方向に進むべきか（方向） とどれだけ進むべきか（長さ）を示している。これがベクトルの基本的な考え方。 矢印の始点を原点とし、終点を行き先と考えると、ベクトルは「どこに向かうか」を 示す道筋そのもの。ベクトルの成分は、例えば北に100メートル、東に50メートル進 むというように具体的な動きを示す。 ベクトルは数だけでなく、向きも重要な情報として持っているため、スカラー（単な る数値）とは異なる。 実際の応用例 コンピュータグラフィックスでのオブジェクトの位置や動きの表現にベクトルが使わ れる。例えば、キャラクターの移動を計算する際にベクトルを用いる。 物理学においては、力や速度のような物理量を表現するのにもベクトルが用いられ る。例えば、車の速度（速さと方向）を表す際にベクトルを用いる。 機械学習では、特徴ベクトルとしてデータポイントを表現することが多い。各データ ポイントは多次元空間におけるベクトルとして処理され、モデルの学習に利用され

る。 ベクトルの演算 定義や意味 ベクトルとは、スカラー（大きさ）だけでなく方向も持つ量を表す数学的対象 ベクトルの演算には、主にベクトルの加法、スカラー倍、内積、外積がある ベクトルの加法：a = (a1 , a2 , … , an )とb = (b1 , b2 , … , bn )が同じ次元のベクト ​ ​ ​ ​ ​ ​ ルであれば、和a + b = (a1 + b1 , a2 + b2 , … , an + bn )で定義される ​ ​ ​ ​ ​ ​ スカラー倍：ベクトルa = (a1 , a2 , … , an )にスカラーcを掛けた結果はca = (ca1 , ca2 , … , can )で表される ​ ​ ​ ​ ​ ​ 内積（ドット積）：a ⋅ b = a1 b1 + a2 b2 + … + an bn で定義され、スカラーの結果 ​ ​ ​ ​ ​ ​ を与える 外積（クロス積）：3次元ベクトルの場合に定義され、a × bはベクトルとなり、aと bに垂直なベクトルを生成する 嚙み砕いた説明 ベクトルは「矢印」で考えるとわかりやすい。矢印の長さが大きさで、矢印の向きが 方向に対応する ベクトルの加法は、二つの矢印をつなげて新しい矢印を作る操作。並べていくと図形 的には平行四辺形を作る スカラー倍は、矢印の長さを伸ばしたり縮めたりする操作 内積は、二つの矢印の間の角度に関係し、0度では最大、90度ではゼロになる 外積は、二つの矢印から垂直に立ち上がる新しい矢印を作る操作 実際の応用例 ベクトルの加法とスカラー倍は、物理学における力の合成や速度の操作に用いられる 内積は、機械学習において類似度の指標として使われ、例えば単語の埋め込みベクト ル間の類似度計算に利用される 外積は、3次元グラフィックスにおける法線ベクトルの計算や、物体の回転に関する 問題の解決に応用される

内積 定義や意味 内積（dot product）は、ベクトル空間における二つのベクトル間の積を定義する方法 の一つ。特にユークリッド空間において、内積は二つのベクトルの方向と大きさを組 み合わせたスカラー量を生成する 数学的には、同じ次元の二つのベクトル a = (a1 , a2 , … , an ) と b = ​ ​ ​ (b1 , b2 , … , bn ) の内積は次のように定義される ​ ​ ​ n a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn = ∑ ai bi ​ ​ ​ ​ ​ ​ ​ ​ ​ i=1 内積は、ベクトルの大きさ（ノルム）や二つのベクトル間の角度を求める際に用いら れる 嚙み砕いた説明 内積は二つのベクトルを入力として、その内側に含まれる成分同士を掛け合わせ、そ れぞれの結果を足し合わせることで一つの数（スカラー）を得る操作 例えば、二次元ベクトル a = (3, 4) と b = (2, 1) の場合、内積は 3 × 2 + 4 × 1 = 6 + 4 = 10 となる 内積は、二つのベクトルがどの程度同じ方向を向いているかを示す尺度として利用さ れる。内積がゼロの場合、ベクトルは直交（直角）していることを意味する 実際の応用例 内積は、機械学習において特徴ベクトル間の類似性を測るために用いられる。例え ば、テキストデータのベクトル化（TF-IDFなど）において、二つの文書間の類似性を 測るのに内積を利用する コンピューターグラフィックスでは、光の反射の計算や物体の表面の法線ベクトルと 視点ベクトルとの角度を求める際に内積を使用する 物理学では、力と移動距離の内積をとることで仕事を計算する際に用いられる

ノルムの定義 定義や意味 ノルムとは、ベクトル空間においてベクトルの「大きさ」や「長さ」を測るための関 数のこと。ノルムは一般に、ベクトル v に対して実数を対応させるものであり、以下 の性質を満たす。 i. 正定性: ∥v∥ ≥ 0 であり、∥v∥ = 0 のとき、v = 0。 ii. スカラー倍に対する斉次性: 任意のスカラー c に対して、∥cv∥ = ∣c∣∥v∥。 iii. 三角不等式: 任意のベクトル u, v に対して、∥u + v∥ ≤ ∥u∥ + ∥v∥。 具体的な例として、ユークリッドノルム（L2 ノルム）がある。ベクトル v = (v1 , v2 , … , vn ) に対するユークリッドノルムは次のように定義される。 ​ ​ ​ v12 + v22 + ⋯ + vn2 ∥v∥2 = ​ ​ ​ ​ ​ 他にも、L1 ノルムや無限ノルムなどがある。 L1 ノルム: ∥v∥1 = ∣v1 ∣ + ∣v2 ∣ + ⋯ + ∣vn ∣ ​ ​ ​ ​ 無限ノルム: ∥v∥∞ = max(∣v1 ∣, ∣v2 ∣, … , ∣vn ∣) ​ ​ ​ ​ 嚙み砕いた説明 ノルムはベクトルの長さを測る物差しのようなもの。例えば、ユークリッドノルムは 通常の直線距離のようにベクトルの長さを測る。 L1 ノルムは、ベクトルの各成分の絶対値の総和として考えられる。これは、ベクトル を構成する要素がどれだけ「離れているか」を示す。 無限ノルムは、ベクトルの成分の中で最も大きいものの絶対値として考えられる。こ れは、ベクトルの中で最も支配的な成分がどれかを示す。 実際の応用例 機械学習において、ノルムは正則化手法で用いられることが多い。例えば、Lasso回 帰ではL1 ノルムが用いられ、Ridge回帰ではL2 ノルムが用いられる。 ノルムは画像処理において、画像間の類似度を測るためにも用いられる。画像をベク トルとして表現し、そのノルムを計算することで、どれだけ似ているかを評価する。 制御理論では、システムの安定性を評価するためにノルムが用いられることがある。 システムの応答のノルムを計算し、それが一定の範囲内にあるかどうかで安定性を判 断する。

ベクトル空間の定義 定義や意味 ベクトル空間は、スカラー乗算とベクトル加算の二つの演算が定義された集合であ る。ベクトル空間は以下の条件を満たす必要がある。 i. 加法について閉じている: 任意のベクトル u, v に対して、u + v もベクトル空間 に属する。 ii. 加法の結合法則: 任意のベクトル u, v, w に対して、(u + v) + w = u + (v + w) が成り立つ。 iii. 加法の単位元の存在: ベクトル 0 が存在し、任意のベクトル v に対して、v + 0 = v が成り立つ。 iv. 加法の逆元の存在: 任意のベクトル v に対して、あるベクトル −v が存在し、 v + (−v) = 0 が成り立つ。 v. 加法の交換法則: 任意のベクトル u, v に対して、u + v = v + u が成り立つ。 vi. スカラー乗算について閉じている: 任意のスカラー a とベクトル v に対して、av もベクトル空間に属する。 vii. スカラー乗算の結合法則: 任意のスカラー a, b とベクトル v に対して、a(bv) = (ab)v が成り立つ。 viii. スカラー乗算の単位元: 単位スカラー 1 に対して、任意のベクトル v に対して、 1v = v が成り立つ。 ix. 分配法則（スカラーに関して）: 任意のスカラー a とベクトル u, v に対して、 a(u + v) = au + av が成り立つ。 x. 分配法則（ベクトルに関して）: 任意のスカラー a, b とベクトル v に対して、 (a + b)v = av + bv が成り立つ。 これらの条件をすべて満たす集合をベクトル空間と呼ぶ。 嚙み砕いた説明 ベクトル空間とは、ベクトルという「矢印」のようなものを集めたもので、これらの ベクトルを足したり、数字（スカラー）をかけたりしても、また同じベクトルの集ま りの中に収まるような性質を持つもの。たとえば、2次元の平面上で考えると、任意 の2つの矢印を足すと、新しい矢印ができ、これはまた同じ平面上に存在する。この ような性質を持つ集合がベクトル空間。

実際の応用例 ベクトル空間は線形代数の基礎概念であり、多くの応用がある。物理学では、力や速 度などをベクトルとして表現し、それらの和や変化を考える。また、コンピュータグ ラフィックスでは、画像のピクセルをベクトルとして扱い、変換や操作を効率的に行 う。機械学習の文脈では、データをベクトル空間に埋め込むことで、データ間の類似 性やパターンを見つけやすくするために用いる。 基底と次元 定義や意味 ベクトル空間における基底とは、その空間を生成するための最小限のベクトルの集合 を指す。具体的には、ベクトル空間 V の基底 {v1 , v2 , … , vn } は、V の任意のベ ​ ​ ​ クトル v を一意に次の形で表現できる： v = a1 v 1 + a2 v 2 + ⋯ + an v n ​ ​ ​ ​ ​ ただし、a1 , a2 , … , an はスカラーである。 ​ ​ ​ 基底のベクトルは線形独立であり、ベクトル空間全体を張る（生成する）。 次元とは、ベクトル空間における基底のベクトルの数を指す。次元はその空間の最小 の基底でのベクトルの数であり、例えば Rn の次元は n である。 嚙み砕いた説明 ベクトル空間の基底は、「空間を構成する部品」のようなもので、空間内のすべての ベクトルが基底の線形結合として表せる。 例えば、2次元平面を考えると、通常の x 軸と y 軸に沿った単位ベクトル i = (1, 0) と j = (0, 1) が基底になる。どんな点も i と j のスカラー倍の和として表せる。 次元は、基底の数として理解できる。2次元平面の基底が2つのベクトルで構成される ため、次元は2である。 実際の応用例 機械学習では、データの特徴ベクトルが高次元空間に属することが多く、次元の削減 は計算効率や理解のために重要である。主成分分析（PCA）などは次元削減の技法と して知られる。

コンピュータビジョンでは、画像データをベクトル空間にマッピングし、その次元を 考慮してモデルを構築する。 音声認識や自然言語処理では、音声波形やテキストをベクトルとして扱い、次元の概 念を利用してモデル化する。 線形独立 定義や意味 ベクトル空間における一組のベクトルが線形独立であるとは、これらのベクトルの線 形結合がゼロベクトルになるとき、その結合係数がすべてゼロである場合に限ること を指す 具体的には、V をベクトル空間とし、{v1 , v2 , … , vn }をV のベクトルの集合とする ​ ​ ​ と、次の条件を満たすとき、これらのベクトルは線形独立である： c1 v 1 + c2 v 2 + ⋯ + cn v n = 0 ⟹ c1 = c2 = ⋯ = cn = 0 ​ ​ ​ ​ ​ ​ ​ 逆に、もし少なくとも一つの係数がゼロでない場合にゼロベクトルが得られるなら、 これらのベクトルは線形従属である 嚙み砕いた説明 線形独立とは、あるベクトルの集まりが他のベクトルの組み合わせで表現できないこ とを意味する 例えば、2次元平面上でx軸とy 軸に沿ったベクトルを考えると、それらは互いに独立 している。なぜなら、どちらのベクトルも他方のスカラー倍ではないためである 線形独立なベクトルの集合は、そのベクトル空間を基底として形成することができる 実際の応用例 線形独立の概念は、線形代数の基本的な理論であり、ベクトル空間の基底の構築に利 用される 機械学習においては、特徴量が互いに線形独立であることは、過学習を避けるために 重要である コンピュータグラフィックスでは、線形独立なベクトルを使用して空間内のオブジェ クトを効果的に表現することができる

線形従属 定義や意味 ベクトル空間において、ベクトルの集合が線形従属であるとは、それらのベクトルの 中に1つでも他のベクトルの線形結合で表せるベクトルが存在することをいう。つま り、ベクトル v1 , v2 , … , vn が線形従属であるとは、少なくとも1つの係数 ​ ​ ​ c1 , c2 , … , cn が0でない組み合わせで、以下の等式が成り立つことを意味する。 ​ ​ ​ c 1 v1 + c 2 v2 + ⋯ + c n vn = 0 ​ ​ ​ ​ ​ ​ もし、上記の等式が c1 = c2 = ⋯ = cn = 0 以外で成り立つ場合、そのベクトル集 ​ ​ ​ 合は線形従属であるとされる。 線形従属の反対は線形独立であり、その場合は c1 = c2 = ⋯ = cn = 0 のときのみ ​ ​ ​ 成り立つ。 嚙み砕いた説明 線形従属とは、あるベクトルが他のベクトルの組み合わせで作られることができる状 態を指す。例えば、3つのベクトルがあったとして、そのうちの1つが残りの2つの足 し合わせやスカラー倍で表現できる場合、その3つのベクトルは線形従属である。 具体的には、3つのベクトル (1, 1, 1), (2, 2, 2), (3, 3, 3) を考えると、これらは線形 従属である。なぜなら、(3, 3, 3) = 3 × (1, 1, 1) で表すことができるためである。 実際の応用例 線形従属の概念は、線形代数における基底の選定に重要である。基底は線形独立なベ クトルで構成されるため、線形従属なベクトルは基底にはならない。 データ圧縮や次元削減技術、例えば主成分分析（PCA）では、データの中の冗長な情 報を削るために使用される。 機械学習では、線形従属な特徴量を除去することで、モデルの過学習を防ぎ、計算効 率を向上させる役割を果たす。 線形変換 定義や意味 線形変換とは、ベクトル空間の間で定義される写像であり、以下の2つの条件を満た すものである。

i. 加法に関する条件: 任意のベクトル u, v に対して、T (u + v) = T (u) + T (v) ii. スカラー倍に関する条件: 任意のスカラー c とベクトル v に対して、T (cv) = cT (v) これらの条件は、線形変換がベクトルの加法とスカラー倍を保つことを示す 線形変換は、行列を用いて表現されることが多く、例えば、線形変換 T : Rn → Rm は m × n の行列 A によって表現され、任意のベクトル x ∈ Rn に対して T (x) = Ax となる 嚙み砕いた説明 線形変換は、ベクトルを別のベクトルに変換するルールのこと 例えば、2次元空間での回転や拡大縮小も線形変換の一例 「線形」というのは、変換後のベクトルが元のベクトルの加法やスカラー倍の性質を そのまま保っていることを意味する 具体例として、行列 [ 変換を表す 2 0 ] は、2次元ベクトルを x軸方向に2倍、y軸方向に3倍する 0 3 ​ ​ 実際の応用例 線形代数学や物理学の基礎として用いられ、様々な分野で応用されている コンピュータグラフィックスでは、画像の回転や拡大縮小といった変換を行うために 使用される 機械学習では、線形回帰やニューラルネットワークの層間の重み行列として線形変換 が用いられる 経済学では、異なる市場間の関係をモデル化する際に線形変換が用いられることがあ る スカラー倍 定義や意味 スカラー倍とは、ベクトルや行列に対してスカラー（単一の実数や複素数）を掛ける 演算のことを指す

具体的にベクトル v = [v1 , v2 , … , vn ] にスカラー c を掛けたスカラー倍は、各成分 ​ ​ ​ に c を掛けることで得られるベクトル cv = [cv1 , cv2 , … , cvn ] ​ 行列 A = a11 a21 a12 a22 ​ ​ ⋯ ⋯ ​ ​ ​ ​ ⋮ ​ an2 ​ ​ ⋱ ⋮ ⋯ anm ca11 ca12 ca21 ca22 ​ にスカラー c を掛けたスカラー倍は、各要素に ​ ​ ​ ​ c を掛けた行列 cA = ​ ​ ​ ⋮ an1 a1m a2m ​ ​ ⋮ can1 ⋯ ⋯ ​ ​ ​ ​ ​ ⋮ can2 ca1m ca2m ​ ​ ​ ​ ⋱ ⋮ ⋯ canm ​ ​ となる ​ 嚙み砕いた説明 スカラー倍は、ベクトルや行列を特定の数で拡大縮小する操作 例えば、ベクトルが方向を表す矢印だとすると、スカラー倍はその矢印の長さを変え る操作 スカラーが1より大きければ矢印は伸び、1より小さければ縮む。負のスカラーでは矢 印の向きも反転する 実際の応用例 スカラー倍は物理学や工学でベクトルの大きさを変える際に使用される コンピュータグラフィックスでは、画像のスケーリング処理にスカラー倍を用いる 経済学や統計学では、標準化や正規化の過程でデータをスカラー倍することがある ベクトルの加算 定義や意味 ベクトルの加算は、同じ次元を持つ二つのベクトルを要素ごとに足し合わせる操作を 指す。具体的には、ベクトル a = (a1 , a2 , … , an ) とベクトル b = ​ ​ ​ (b1 , b2 , … , bn ) の加算は、新たなベクトル c = (c1 , c2 , … , cn ) を生成し、各成分 ci = ai + bi と定義される。 ​ ​ ​ ​ ​ ​ ​ ​ ​ c = a + b = (a1 + b1 , a2 + b2 , … , an + bn ) ​ ​ ​ ​ ​ ​ この操作はベクトル空間の基本的な操作の一つであり、線形代数の基礎を成す。

嚙み砕いた説明 ベクトルの加算は、同じ次元の二つのベクトルを各成分ごとに足し合わせること。例 えば、2次元ベクトル a = (1, 2) と b = (3, 4) を加算すると、新しいベクトル c = (1 + 3, 2 + 4) = (4, 6) になる。 この操作は、矢印で表現されるベクトルの場合、平面上で矢印を頭から尾に繋げるイ メージで考えられる。最初のベクトルの終点から次のベクトルをスタートさせると、 結果として合成されたベクトルが得られる。 実際の応用例 ベクトルの加算は物理学での力の合成に使われる。例えば、異なる方向に働く複数の 力を一つの合成力として表現する際に用いられる。 コンピュータグラフィックスにおいて、オブジェクトの位置や移動を計算する際にベ クトルの加算が使われる。 機械学習において、特徴ベクトルの加算はニューラルネットワークの重みの更新や、 入力データの前処理において使われることがある。 直交性 定義や意味 直交性とは、数学において2つのベクトルが互いに直交している、すなわち直角を成 していることを示す概念 ベクトル a と b が直交しているということは、その内積 a ⋅ b がゼロであることを 意味する より具体的には、次のように表される a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn = 0 ​ ​ ​ ​ ​ ​ ここで、a = (a1 , a2 , … , an ) および b = (b1 , b2 , … , bn ) は n 次元のベクトル ​ ​ ​ ​ ​ ​ 嚙み砕いた説明 直交性は、直線が交わる角度が90度である場合に成り立つ性質 2つのベクトルが直交するとき、それらのベクトルが形成する角度は直角であり、ベ クトルの「方向」が完全に独立していることを示す

例えば、2次元平面で x 軸に沿ったベクトルと y 軸に沿ったベクトルは直交している 実際の応用例 直交性は、線形代数における直交基底の構築や、直交行列の特性など、多くの数学的 応用に利用される 信号処理では、直交性を利用して異なる周波数成分を分離する 機械学習では、データの次元削減手法（例：主成分分析）や、特徴量の独立性を確認 する際に直交性の概念が用いられる 内積の性質 定義や意味 内積（ドット積とも呼ばれる）は、二つのベクトルに対する二項演算であり、ベクト ルの長さ（大きさ）と方向に関する情報を含むスカラー量を生成する 二つのベクトル a = (a1 , a2 , … , an ) と b = (b1 , b2 , … , bn ) の内積は、次の式で ​ ​ ​ ​ ​ ​ 定義される n a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn = ∑ ai bi ​ ​ ​ ​ ​ ​ ​ ​ ​ i=1 内積の結果はスカラー値であり、ベクトルではない 嚙み砕いた説明 内積は、二つのベクトルがどれだけ同じ方向を向いているかを示す指標 もし二つのベクトルが全く同じ方向を向いていれば、内積はベクトルの長さ（ノル ム）の積になる もし二つのベクトルが直角をなしているなら、内積は0になる 例として、2次元のベクトル a = (1, 2) と b = (3, 4) の内積は 1 ⋅ 3 + 2 ⋅ 4 = 3 + 8 = 11 となる 実際の応用例 機械学習における類似度の計算：内積は、コサイン類似度の計算に使われ、ベクトル 間の角度を通じて類似度を評価する

物理学における仕事の計算：力と変位の内積は、力が物体に対して行った仕事を示す コンピュータグラフィックスにおけるシャーディング：光源と表面の法線ベクトルの 内積は、陰影やライティング効果を計算するのに用いられる ユークリッドノルム 定義や意味 ユークリッドノルム（Euclidean norm）は、ベクトル空間におけるノルムの一種であ り、特にユークリッド空間におけるベクトルの長さ（大きさ）を測る尺度を提供する ベクトル v = (v1 , v2 , … , vn ) に対するユークリッドノルムは、次のように定義さ ​ ​ ​ れる ∥v∥2 = ​ v12 + v22 + ⋯ + vn2 ​ ​ ​ ​ このノルムは、または ℓ2 ノルムとも呼ばれる ​ 嚙み砕いた説明 ユークリッドノルムは、ベクトルの長さや大きさを測るための方法 例えば、2次元の平面上で点 (3, 4) のユークリッドノルムは、直角三角形の斜辺の長 さを求めることに相当し、 32 + 42 = ​ 9 + 16 = ​ 25 = 5 となる ​ これは、通常の2次元平面上での距離の測り方と同じで、ピタゴラスの定理に基づい ている 実際の応用例 ユークリッドノルムは、機械学習やデータ解析において、データポイント間の距離を 計算する際によく用いられる 例えば、クラスタリングアルゴリズム（K-means法など）や最近傍法（k-NN）などで は、データの類似性を測るためにユークリッドノルムが使われる コンピュータグラフィックスにおいても、3D空間での点の距離やベクトルの大きさを 計算する際に利用される

マンハッタンノルム 定義や意味 マンハッタンノルム（またはL1ノルム）は、ベクトルの各要素の絶対値の総和として 定義されるノルムである ベクトル x = (x1 , x2 , … , xn ) に対して、マンハッタンノルムは次のように表され ​ ​ ​ る ∥x∥1 = ∣x1 ∣ + ∣x2 ∣ + ⋯ + ∣xn ∣ ​ ​ ​ ​ マンハッタンノルムは、データのスパース性を重視する場合にしばしば用いられる 嚙み砕いた説明 マンハッタンノルムは、都市の道のりに例えられる。都市の道路が碁盤の目のように 配置されている場合、ある地点から別の地点までの最短距離は、東西と南北の移動距 離の合計となる たとえば、ベクトルの各成分が都市のブロック数を表すとき、それらの合計がマンハ ッタンノルムとなる。このため、マンハッタンノルムは「タクシー距離」とも呼ばれ る 実際の応用例 マンハッタンノルムは機械学習において、特にスパースな特徴選択や正則化に使用さ れる LASSO（Least Absolute Shrinkage and Selection Operator）は、回帰モデルにおいて マンハッタンノルムを用いた正則化手法である。LASSOは重要でない特徴の係数をゼ ロにし、モデルのスパース性を促進する データサイエンスにおいて、異常検知やデータのクラスタリングにおいてもマンハッ タンノルムが利用される場面がある 最大ノルム 定義や意味 最大ノルム（または無限ノルム、L∞ ノルム）は、ベクトルや行列に対するノルムの 一種

ベクトル x = (x1 , x2 , … , xn ) に対する最大ノルムは、ベクトルの各成分の絶対値 ​ ​ ​ の中で最大のものとして定義される 数式で表すと、ベクトル x の最大ノルム ∥x∥∞ は以下のようになる ​ ∥x∥∞ = max ∣xi ∣ ​ 1≤i≤n ​ ​ 行列に対する最大ノルムも同様に、行列の各要素の絶対値の中で最大のものを取る 嚙み砕いた説明 最大ノルムは、ベクトルや行列の中で最も大きな要素の絶対値を基準にしたノルム 例えば、ベクトル (1, −5, 3) の最大ノルムは 5。これは、成分 1, −5, 3 の中で、絶 対値が最大の −5 の絶対値が 5 であるため 最大ノルムを使うと、ベクトルや行列の「最も大きな要素」に着目して、その大きさ を評価することができる 実際の応用例 数値解析や計算機科学において、最大ノルムは行列の誤差評価や安定性解析で用いら れることがある 機械学習では、パラメータの大きさを制限するための制約として、最大ノルムが使用 されることもある。例えば、重みの最大ノルムを一定値以下に制限することで過学習 を防ぐ手法として利用される また、最大ノルムは画像処理や信号処理におけるノイズの影響を評価する際にも用い られることがある ノルムの性質 定義や意味 ノルムは、ベクトル空間上でベクトルの大きさ（または長さ）を測るための関数であ る ノルムの一般的な性質は以下の通り i. 非負性: 任意のベクトル v に対して、ノルムは非負である。すなわち、∥v∥ ≥ 0 かつ ∥v∥ = 0 であるのは v が零ベクトルのとき、かつそのときに限る ii. スカラー倍の不変性（斉次性）: 任意のスカラー a とベクトル v に対して、 ∥av∥ = ∣a∣∥v∥

iii. 三角不等式: 任意のベクトル u, v に対して、∥u + v∥ ≤ ∥u∥ + ∥v∥ 具体例として、ユークリッドノルム（二乗ノルム）は ∥v∥2 = ​ v12 + v22 + ⋯ + vn2 で表される ​ ​ ​ 嚙み砕いた説明 ノルムは、ベクトルの「長さ」を測るためのもので、数値が大きいほどベクトルが長 いと解釈できる 非負性は、ノルムが負の数にならないことを示し、零ベクトルだけがノルムゼロであ ることを保証する スカラー倍の不変性は、ベクトルをスカラー倍したときにノルムがどう変わるかを示 し、スカラーの絶対値に応じてノルムが変化する 三角不等式は、2つのベクトルを足したときのノルムが、単にそれらのノルムの和よ り大きくならないことを示す 実際の応用例 機械学習における正則化手法として、L1ノルムやL2ノルムを用いることが多い。L1ノ ルムはスパース性（零成分が多いこと）を促進し、L2ノルムは過学習を防ぐための平 滑化効果を持つ コンピュータビジョンにおいて、画像の特徴抽出や類似性の測定にノルムを用いるこ とがある。例えば、2つの画像の類似度を測るために、画像データの差をノルムで評 価する 信号処理やデータ分析におけるフィルタリングやデータノイズの除去にもノルムが使 われる。ノルムを最小化することで、データの一貫性や滑らかさを維持しながらノイ ズを除去することができる 行列表示 定義や意味 行列表示とは、数値や変数を行と列の構造を持つ2次元配列として表現する方法のこ と 行列は通常、m × nの形式で表され、これはm行とn列からなる 行列Aを以下のように表記することができる：

A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ amn ​ ​ ​ ここで、aij は行列Aのi行j 列目の要素を示す ​ 嚙み砕いた説明 行列は、情報を整理して表示するための方法 例えば、表計算ソフトのスプレッドシートを考えると、各セルにデータが入ってお り、行と列によって位置が決まっている これは行列の概念と同じで、データを行と列の位置で管理する 行列は、複数のデータを一度に操作するための強力なツールで、特に線形代数やコン ピュータサイエンスで多用される 実際の応用例 画像処理：画像データはピクセルの集合として行列で表現される 物理シミュレーション：系の状態や変換を行列として表現し解析する 機械学習：データセットを行列として扱い、アルゴリズムの効率的な計算を実現する 経済学や統計学：行列を用いて多変量データの分析やモデル化を行う 固有値と固有ベクトル 定義や意味 固有値と固有ベクトルは線形代数における基本的な概念であり、行列の特性を解析す るために用いられる 固有値（eigenvalue）λと固有ベクトル（eigenvector）vは、線形変換を行列Aを用 いて表した際に、次の関係式を満たす非ゼロベクトルvとそのスカラー値λの組み合 わせである Av = λv ここで、Aはn × nの正方行列、vはn次元のベクトル、λはスカラーである

固有値は行列の特性方程式 det(A − λI) = 0 の解として求まる。ここで、Iは単位 行列である 嚙み砕いた説明 固有値と固有ベクトルは、行列による変換がどのようにベクトルを伸縮したり、方向 を変えたりするかを示す 固有ベクトルとは、行列による変換の後もその方向が変わらないベクトルであり、固 有値はその固有ベクトルがどれだけ伸びたり縮んだりするかを示す 例えば、ある行列で変換した際に、特定のベクトルの方向が変わらずに長さだけが2 倍になるなら、そのベクトルは固有ベクトルであり、固有値は2となる 実際の応用例 固有値と固有ベクトルは機械学習において、次元削減アルゴリズムである主成分分析 （PCA）に広く用いられる 自然言語処理では、意味的な次元を抽出するために使われる 物理学や工学の分野では、振動解析や安定性解析、量子力学などで用いられる コンピュータグラフィックスでは、モデリングやアニメーションのための変換に用い られる 線形性 定義や意味 線形性とは、数学においてある関数や演算が特定の性質を持つことを指す。この性質 は、加法性と斉次性という2つの特性に基づいている。関数 f が線形であるために は、任意のスカラー a, b と任意のベクトル x, y に対して以下の条件を満たす必要が ある。 加法性: f (x + y) = f (x) + f (y) 斉次性: f (ax) = af (x) 線形性を持つ関数は、線形写像とも呼ばれ、特にベクトル空間において重要な役割を 果たす。 具体例として、関数 f (x) = 2x は線形性を持つ。なぜなら、任意のスカラー a と任 意の数 x, y に対して、f (x + y) = 2(x + y) = 2x + 2y = f (x) + f (y) であ り、f (ax) = 2(ax) = a(2x) = af (x) であるためである。

嚙み砕いた説明 線形性は、関数や演算が「まっすぐ」な性質を持つことを意味する。具体的には、入 力を2倍したら出力も2倍になる、入力を足したら出力も足される、といった性質を持 つ。 例として、棒の長さを測るときに、棒を2本並べたらその長さは2倍になる、という直 感的な性質が線形性を表している。 実際の応用例 線形性は物理学、特に力学や電気回路の解析において広く応用される。たとえば、オ ームの法則（V = IR）は電圧V が電流I に対して線形であることを示している。 線形代数における行列の操作や、微分方程式の解法にも線形性が重要な役割を果た す。 機械学習では、線形回帰や線形分類器など、多くのアルゴリズムが線形性に基づいて 構築されている。これらはデータに対する予測や分類を行う際の基本的な手法とな る。 対称性 定義や意味 対称性とは、ある物理系または数学的構造が特定の変換を行った後も、元の状態と不 変である性質を指す。対称性は幾何学、物理学、数論、群論など、さまざまな分野で 重要な概念である。 数学的には、対称性は変換群を用いて記述できる。例えば、ある図形が回転対称であ るとは、図形をある角度だけ回転させても元の図形と一致することを意味する。特 に、2次元平面上の正方形は90度、180度、270度、360度の回転に対して対称であ る。 具体的に、関数 f (x) が偶関数であることは、f (x) = f (−x) を満たすことを意味 し、これは y 軸に対して対称であることを示す。 嚙み砕いた説明 対称性とは、何かを動かしたり変えたりしても元と同じ姿に見える性質である。例え ば、蝶の羽はその形状が中心線に対して左右対称であることが多い。同様に、円はそ の中心を通る任意の直線に対しても対称である。

日常生活での例としては、人間の顔が左右対称であることがしばしば挙げられる。鏡 に映したときに、左右が逆になるが同じ形に見えるのも対称性の一つ。 実際の応用例 物理学では、対称性の原理は保存則に密接に関連している。たとえば、空間の対称性 は運動量保存則につながり、時間の対称性はエネルギー保存則につながる。 群論では、対称性は数学的対象の構造を研究するための基本的な道具となり、特に結 晶学や化学における分子の対称性の研究に応用される。 コンピュータグラフィックスでは、対称性を利用して画像や3Dモデルを効率的に生成 し、処理することができる。 非負性 定義や意味 非負性とは、数値や関数が0以上である性質を指す。すなわち、ある実数 x が非負で あるとは、x ≥ 0 を満たすことを意味する。非負性は特に数列や関数において用いら れることが多い。 例えば、関数 f (x) が非負であるとは、任意の定義域内の x に対して f (x) ≥ 0 であ ることを意味する。 嚙み砕いた説明 非負性とは、簡単に言うと「0やそれより大きい」ということ。例えば、貯金残高が 非負であるということは、借金がないか、少なくとも0円以上のお金を持っているこ とを意味する。 数学においては、数や関数の値が負にならないことを確認したいときに、非負性を考 慮する。 実際の応用例 非負性は、確率論での確率分布や確率密度関数において重要である。これらは非負で なければならないという制約がある。 線形代数では、非負行列や非負ベクトルの概念があり、これらは特に機械学習や最適 化問題で利用される。 非負性はまた、物理学でのエネルギーや測定値など、負の値を取らない現象を表現す るためにも用いられる。

正値性 定義や意味 正値性（せいちせい）は行列や二次形式に関する性質の一つであり、特に線形代数学 において重要な概念である。行列が正値であるとは、その行列が正定値行列 （positive definite matrix）であることを意味する。正定値行列は、任意の非零ベクト ル x に対して、二次形式 xT Ax が正の値を取る行列 A で定義される。具体的には、 行列 A が正定値であるための条件は次の通り。 A は対称行列であること。 任意の非零ベクトル x ∈ Rn に対して、xT Ax > 0 であること。 嚙み砕いた説明 正値性とは、行列が持つ特定の性質で、「この行列を使って計算した値が常に正にな る」というもの。例えば、行列 A を使ってベクトル x を変形するような計算をする とき、その結果が常に正になることを保証する。これは特に、何らかの量が常に増加 するか、最悪でも変わらないことを示すときに便利である。対称行列であることや、 計算結果が常に正となることが、正定値行列の条件である。 実際の応用例 正値性は、機械学習や統計学において頻繁に用いられる。例えば、最小二乗法やカー ネル法における行列の逆行列計算において、解が一意に存在するための条件として正 定値性が必要である。また、最適化問題において、目的関数のヘッセ行列が正定値で あることは、その関数が局所的に凸であることを示し、最小点を持つことを保証する 要素となる。このように、正値性は理論的な解析だけでなく、実際の数値計算やアル ゴリズムの安定性にも深く関連している。 斉次性 定義や意味 斉次性（homogeneity）は、ある関数や方程式が、全ての変数を同じスカラー倍した 場合に、同じスカラー倍のべき乗を関数の値に反映する性質を持つことを指す。数学 的には、関数 f (x1 , x2 , … , xn ) が斉次性を持つとは、任意のスカラー k に対して以 ​ ​ ​ 下の式が成り立つことで定義される： f (kx1 , kx2 , … , kxn ) = k d f (x1 , x2 , … , xn ) ​ ​ ​ ​ ​ ​

ここで、d は斉次次元と呼ばれる定数である。 嚙み砕いた説明 斉次性とは、関数が入力のスケールに対してどのように変化するかを示す性質であ る。この性質を持つ関数は、入力変数を一様にスケールアップ（またはスケールダウ ン）したときに、出力が特定のべき乗に比例して変化する。たとえば、面積を与える 関数が斉次性を持つ場合、全ての辺を2倍にすると面積は4倍（22 ）になるといった具 合である。 実際の応用例 斉次性は経済学や物理学でしばしば利用される。経済学では生産関数が一定のスケー ルで生産を増やした際にどのように出力が増加するかを分析する際に用いられる。物 理学においては、物理量がスケールに対してどのように変わるかを理解するために用 いる。たとえば、物理的なシミュレーションや解析において、モデルのスケール変換 を行う際に斉次性の概念が重要となる。 三角不等式 定義や意味 三角不等式は、距離空間における基本的な性質の一つであり、3点間の距離に関する 不等式を示すもの 具体的には、任意の3点 x, y, z に対して、次の不等式が成り立つことを指す d(x, z) ≤ d(x, y) + d(y, z) 上記の式は、点 x から点 z までの距離は、点 x から点 y までの距離と、点 y から点 z までの距離の和よりも小さくなるか等しいことを意味する ユークリッド空間では、この不等式は三角形の3辺の長さに関する性質として知られ ており、三角形の任意の1辺の長さは他の2辺の長さの和より小さいか等しいというも の 嚙み砕いた説明 三角不等式は、距離の「最短経路」を考える際の直感的なルール 例えば、地図上で2点間を直接結ぶ直線距離は、その2点を経由点を通って移動する他 の経路よりも短いか等しい

自宅から学校への最短距離は、途中で友達の家に寄ってから行くよりも必ず短いか等 しい 実際の応用例 コンピュータサイエンスでは、三角不等式は多くのアルゴリズムで利用されており、 特にネットワークやグラフ理論などで重要な役割を果たす クラスタリングアルゴリズムでは、データ点間の距離を測る際に三角不等式が役立つ 最短経路問題（例えばダイクストラのアルゴリズム）や、ナビゲーションシステムで の経路探索にも三角不等式が応用される

線形代数の基礎 ベクトル 行列 ベクトルの内積 行列の積 直交性 行列の直交性 直交ベクトル 直交行列 直交座標系 直交変換 直交補空間 固有値と固有ベクトル 正定値行列 正定値性 エルミート行列 半正定値行列 固有値の性質 コレスキー分解

対称行列 応用: 機械学習 応用: 最適化 最小二乗法 ニュートン法 正則化 ラグランジュ緩和 線形代数の基礎 定義や意味 線形代数は、ベクトル、行列、線形写像を扱う数学の一分野である ベクトルは一列の数で表され、ベクトル空間という集合に属する。行列は数の2次元 配列であり、行列の各要素はスカラーと呼ばれる 基本的な操作には、ベクトルの加算、スカラー倍、行列の加算、行列の積、行列の転 置、逆行列などがある ベクトル空間 V とは、スカラー体 F 上の集合であり、次の条件を満たすものであ る： 加法に関して閉じている：任意の u, v ∈ V に対して、u + v ∈ V スカラー倍に関して閉じている：任意の a ∈ F と v ∈ V に対して、a ⋅ v ∈ V 加法の単位元が存在する：ある 0 ∈ V が存在し、任意の v ∈ V に対して、 v+0=v 各ベクトルに対する逆元が存在する：任意の v ∈ V に対して、ある w ∈ V が存在し、v + w = 0 加法は可換である：任意の u, v ∈ V に対して、u + v = v + u

加法は結合的である：任意の u, v, w ∈ V に対して、(u + v) + w = u + (v + w) スカラー倍は分配的である：任意の a, b ∈ F と v ∈ V に対して、a ⋅ (b ⋅ v) = (a ⋅ b) ⋅ v および a ⋅ (v + w) = a ⋅ v + a ⋅ w 行列の積は以下のように定義される。行列 A が m × n 行列で、行列 B が n × p 行 列であるとき、積 AB は m × p 行列で、その (i, j) 成分は次のように計算される： n (AB)ij = ∑ Aik Bkj ​ ​ ​ ​ k=1 嚙み砕いた説明 ベクトルは矢印として考えることができ、方向と大きさを持つ 行列は数字を整理するための表のようなもので、複数のベクトルをまとめて扱うこと ができる ベクトル空間はベクトルの集合で、特定のルール（加算、スカラー倍）が適用される 行列の積は、行列を掛け合わせる方法で、各行と列の要素を掛け合わせて合計を取る ことで計算する 実際の応用例 線形代数は、コンピュータビジョン、機械学習、物理学、工学などの多くの分野で使 用される 機械学習では、データセットを行列として表し、行列演算を用いてモデルの学習や予 測を行う 物理学では、ベクトルと行列を用いて力や運動の解析を行う ベクトル 定義や意味 ベクトルとは、複数の成分を持つ数学的な対象であり、方向と大きさを持つ量を表 す。ベクトルは通常、矢印や有向線分として視覚化される。ベクトルは、物理的な空 間における位置、速度、力などを表現するために用いられる。 ベクトルは通常、太字の小文字（例えば v）または矢印をつけて（例えば v ）表記さ れる。この本では太字の形式を用いる。ベクトルの成分は、座標系に基づいてリスト

化され、例えば2次元ベクトルは v = (v1 , v2 ) と表され、3次元ベクトルは v = ​ ​ (v1 , v2 , v3 ) と表される。 ​ ​ ​ 数学的には、ベクトルは次のように表される： v= v1 v2 ​ ​ ​ ⋮ vn ​ ​ ​ これは、n次元ベクトルであり、v1 , v2 , … , vn はベクトルの成分である。 ​ ​ ​ 嚙み砕いた説明 ベクトルは、「矢印」として視覚化できる。例えば、地図上で「東に5キロ進む」と いう指示は、方向（東）と大きさ（5キロ）を持つベクトルと考えることができる。 また、ベクトルは複数の数字を1つのまとまりとして扱うことができる。例えば、2次 元のベクトル (3, 4) は、3の単位だけ東に進み、4の単位だけ北に進むことを示す。 ベクトルの基本的な操作には、足し算や引き算、スカラー倍（一定の数をかけるこ と）がある。ベクトルの足し算は、対応する成分同士を足し合わせることで行われ る。例えば、a = (1, 2) と b = (3, 4) の場合、a + b = (1 + 3, 2 + 4) = (4, 6) となる。 実際の応用例 ベクトルは、物理学や工学における力学の問題で多用される。例えば、物体に働く力 やその合力をベクトルとして扱う。 コンピュータグラフィックスでは、画面上のピクセル位置や色の情報をベクトルとし て扱う。 機械学習においては、データポイントはしばしば特徴ベクトルとして表現され、これ によりデータの解析やモデルの訓練が行われる。例えば、画像認識のタスクでは、画 像のピクセル値をベクトルとして扱うことが一般的である。

行列 定義や意味 行列とは、数や記号などを長方形状に並べたものであり、特に数値を並べたものは数 値行列と呼ばれる。行列は通常、Aのような大文字のアルファベットで表され、要素 は行と列の位置によって指定される。 例えば、m行n列の行列Aは次のように表される： A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ a1n a2n ​ ​ ​ ⋱ ⋮ ⋯ amn ​ ​ ​ ここで、aij は行列Aのi行j 列目の要素を示す。また、行列のサイズはm × nで表さ ​ れる。 嚙み砕いた説明 行列は、数字やその他のデータを整理整頓して書き表すための方法であり、データを 表やグリッドの形に並べたものと考えると理解しやすい。 行列は、例えば表計算ソフトのスプレッドシートのように、行と列でデータを管理す るのに便利。 例えば、2行3列の行列は、2つのデータのセットがそれぞれ3つの要素を持つことを表 している。 実際の応用例 行列は、物理学、コンピュータサイエンス、経済学など多くの分野で利用されてい る。 グラフィックス処理、例えば3Dモデルの変換や回転は行列計算を用いて行われること が多い。 機械学習では、行列はデータセットの表現、特徴抽出、線形代数の計算などに広く利 用されている。 また、Googleのページランクアルゴリズムでは、行列を用いてインターネット上のペ ージの重要度を計算している。

ベクトルの内積 定義や意味 ベクトルの内積（あるいはドット積）は、二つのベクトル間の一種の乗算を定義する 演算 ベクトル a = (a1 , a2 , … , an ) とベクトル b = (b1 , b2 , … , bn ) の内積は、対応す ​ ​ ​ ​ ​ ​ る成分の積を足し合わせたスカラー量として定義される 数式で表すと、内積 a ⋅ b は次のようになる n a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn = ∑ ai bi ​ ​ ​ ​ ​ ​ ​ ​ ​ i=1 また、内積はベクトルの長さ（大きさ）とベクトル同士のなす角にも関連し、次のよ うに表される a ⋅ b = ∣a∣∣b∣ cos θ ここで、∣a∣ および ∣b∣ はそれぞれベクトル a と b の大きさ（ノルム）、θ は二つの ベクトルのなす角 嚙み砕いた説明 ベクトルの内積は、二つのベクトルがどれだけ「同じ方向」を向いているかを測る指 標 もし二つのベクトルが全く同じ方向を向いているなら、その内積は最大になる 逆に、二つのベクトルが互いに垂直であるなら、その内積はゼロになる 例えば、力の方向と移動の方向が同じであれば、力が移動に対して最大限の仕事をす ることになる 実際の応用例 機械学習において、内積はコサイン類似度を計算するためによく用いられる。これは 二つのベクトル間の角度を測り、その類似性を評価する手法 コンピュータグラフィックスにおいて、ライトベクトルと法線ベクトルの内積は、光 の反射を計算するために使用される 物理学では、力と速度ベクトルの内積を用いて、力による仕事を計算する

行列の積 定義や意味 行列の積とは、二つの行列を掛け合わせた結果として得られる新しい行列のことを指 す 行列 A が m × n の次元を持ち、行列 B が n × p の次元を持つとき、その積 C = AB は m × p の次元を持つ行列となる 行列の積は以下のように定義される：行列 C の各要素 cij は、行列 A の行ベクトル ​ i 番目と行列 B の列ベクトル j 番目のドット積として計算される n 数式で表すと、cij = ∑k=1 aik bkj ​ ​ ​ ​ 行列の積は一般には可換ではない、すなわち AB =  BA であることが多い n C = AB where cij = ∑ aik bkj ​ ​ ​ ​ k=1 嚙み砕いた説明 行列の積は、二つの行列を「掛け合わせる」操作であるが、単純な数の掛け算とは異 なり、各行と列の要素を使って計算する 具体的には、行列 A の各行と行列 B の各列を対応づけ、それぞれの要素を掛け合わ せて合計することで、新しい行列の要素を作る 例えば、行列 A が2行3列で、行列 B が3行2列の場合、結果の行列は2行2列になる 行列の積を計算するには、行列 A の行の数と行列 B の列の数を一致させる必要があ る 実際の応用例 行列の積は、コンピュータビジョンや画像処理、機械学習のニューラルネットワーク で広く利用されている 特に、ニューラルネットワークでは、重み行列と入力データ行列の積を計算すること で、次の層への入力を生成する また、物理学における変換行列やグラフィックスの3Dレンダリングにおける座標変換 でも行列の積が用いられる

直交性 定義や意味 ベクトル空間における直交性とは、2つのベクトルが互いに直交（垂直）しているこ とを意味する。2つのベクトル u と v が直交するための条件は、その内積が0である ことで表される。すなわち、ベクトル u と v が直交しているとき、次の関係が成り 立つ： u⋅v =0 より一般的には、関数空間においても直交性は定義される。関数 f (x) と g(x) があ る区間 [a, b] で直交しているとは、次の積分が0であることを意味する： b ∫ f (x)g(x) dx = 0 ​ a 嚙み砕いた説明 直交性は、2つのベクトルが互いに垂直であり、どちらも他方に対して「影響を与え ない」状態を示す。直交するベクトルは、直交座標系の基底を構成する要素となり得 る。直交するベクトル群からなる集合は、ベクトル空間で独立した方向を表し、座標 系の基準として非常に便利。 現実世界の例としては、床と壁、床と天井は互いに直交している。数学的には、例え ば、2次元平面におけるベクトル (1, 0) と (0, 1) は直交している。 実際の応用例 信号処理では、直交性を利用して信号を異なる周波数成分に分解することができる。 この原理はフーリエ変換において利用されており、各周波数成分が互いに直交してい ることを利用して信号の周波数解析を行う。 機械学習においては、主成分分析（PCA）がデータの次元を削減するために直交基底 を用いる。ここで、データセット内の変数間の相関をなくし、直交する主成分を見つ けることで次元削減を行う。 3Dグラフィックスでは、直交座標系や直交行列を用いることで、オブジェクトの位置 や向きを効率的に計算する。

行列の直交性 定義や意味 行列の直交性とは、行列の列ベクトル（または行ベクトル）が互いに直交する性質の ことを指す。具体的には、行列 A の列ベクトルが直交するとは、任意の異なる列ベ クトル ai と aj に対して内積がゼロ、すなわち ai ⋅ aj = 0 であることを意味する。 ​ ​ ​ ​ さらに、直交行列とは、行列 A が直交性を持ち、かつ各ベクトルの長さが1であるこ と、つまり AT A = I （I は単位行列）を満たす行列を指す。 直交行列の定義を数式で表すと、行列 A が直交行列であるための条件は以下のとお り: AT A = I 嚙み砕いた説明 行列の直交性とは、行列の各列（または行）のベクトルが互いに直角に交わっている ことを意味する。これは、ベクトル同士の内積を計算してゼロになることから確認で きる。直交行列は、行列を使って空間を回転させる操作などに使われ、これによりベ クトルの長さが変わらないという特性を持つ。 例えば、2次元空間での直交行列は、単に90度回転させたり鏡映する操作に対応して いる。こうした操作を行った後でも、ベクトルの長さは変わらない。 実際の応用例 コンピュータグラフィックスにおける3Dオブジェクトの回転。直交行列は、オブジェ クトを回転させる際に用いられ、回転後もオブジェクトの形状が変わらないことを保 証する。 データ解析や機械学習における主成分分析（PCA）。ここでは、データの次元を圧縮 する際に直交行列が用いられ、元のデータ構造を保持しつつ次元削減を行う。 信号処理におけるフーリエ変換やウェーブレット変換。これらの変換では、信号を異 なる基底で表現するために直交行列が用いられる。

直交ベクトル 定義や意味 直交ベクトルは、内積がゼロとなる2つのベクトルのことを指す。ベクトル a と b が 直交するための条件は、内積 a ⋅ b = 0 である。ここで、内積は次のように定義され る： a ⋅ b = a1 b1 + a2 b2 + ⋯ + an bn ​ ​ ​ ​ ​ ​ ただし、a = (a1 , a2 , … , an ) および b = (b1 , b2 , … , bn ) は n 次元空間のベクト ルである。 ​ ​ ​ ​ ​ ​ 嚙み砕いた説明 直交ベクトルは、2つのベクトルが互いに90度の角度をなすときに直交していると表 現される。これは、直交ベクトルが幾何学的に直角を形成することを意味する。例え ば、2次元平面上でのベクトル (1, 0) と (0, 1) は直交している。これは、これらのベ クトルがそれぞれ x 軸と y 軸に沿っており、互いに直角をなしているからである。 実際の応用例 直交ベクトルは多くの場面で応用されている。特に、コンピュータグラフィックスや 物理シミュレーションにおいて、3D空間での座標系を定義する際に利用される。ま た、信号処理やデータ解析の分野では、直交ベクトルを用いてデータを分解し、ノイ ズを取り除くといった手法が用いられる。直交性は、固有ベクトルと固有値の計算に おいても重要な役割を果たす。これは、固有ベクトルが異なる固有値に対応する場 合、互いに直交するという性質があるためである。 直交行列 定義や意味 直交行列とは、列ベクトルが互いに直交し、かつすべての列ベクトルの長さ（ノル ム）が1であるような正方行列のことを指す。数学的には、直交行列 Q が満たすべき 条件は QT Q = QQT = I であり、ここで QT は Q の転置行列、I は単位行列を表 す。 直交行列の逆行列は転置行列と等しいという特性がある。すなわち、Q−1 = QT で ある。

直交行列の行列式は常に 1 または −1 である。 QT Q = I 嚙み砕いた説明 直交行列は、見た目には通常の正方行列と変わらないが、その性質が特別である。た とえば、行列の列ベクトルが直交しているということは、各列ベクトル同士が直角を 成しているという意味になる。さらに、各ベクトルの長さが1であるため、これらの ベクトルは正規直交である。 直交行列を掛けるということは、ベクトルや行列を回転させたり反射させたりする操 作に相当する。このため、直交行列を用いると、計算の際にベクトルの長さや角度が 保存されるという利点がある。 実際の応用例 直交行列はコンピュータグラフィックスにおいて、3Dオブジェクトの回転や反射を実 現するために用いられる。 機械学習では直交行列を用いることで、特徴空間の回転や次元削減（例えば、主成分 分析における特異値分解）を行うことができる。 また、信号処理分野では、直交行列を用いて信号を変換することで、ノイズを除去し たり、信号の圧縮を行ったりすることができる。 直交座標系 定義や意味 直交座標系（ちょっこうざひょうけい）とは、ユークリッド空間における座標系の一 種であり、各座標軸が互いに直交（垂直）するように定義される座標系を指す。通 常、直交座標系は直交する3つの軸である x、y 、z によって3次元空間が表現され る。各点はこれらの軸に沿った距離によって指定される。 2次元では、点 (x, y) は x 軸に沿った位置 x と y 軸に沿った位置 y で表される。3次 元では、点 (x, y, z) は x、y 、z の各軸に沿った位置で表される。 直交座標系における距離はピタゴラスの定理を用いて計算される。例えば、2次元の 場合、2点 (x1 , y1 ) と (x2 , y2 ) の間の距離 d は次の式で表される。 ​ ​ ​ ​ d= (x2 − x1 )2 + (y2 − y1 )2 ​ ​ ​ ​ ​ 3次元の場合、2点 (x1 , y1 , z1 ) と (x2 , y2 , z2 ) の間の距離 d は次の式で表される。 ​ ​ ​ ​ ​ ​

d= (x2 − x1 )2 + (y2 − y1 )2 + (z2 − z1 )2 ​ ​ ​ ​ ​ ​ ​ 嚙み砕いた説明 直交座標系は、私たちが普段紙の上に図を描くときに使う座標系で、横方向と縦方向 が直角に交わるようになっている。例えば、地図上で目的地を探すとき、横の通りと 縦の通りの交差点で位置を確認するのと同じ考え方。 各軸は互いに直角で、距離や位置を非常に直感的に表すことができる。2次元の地図 を想像してみると、横軸が東西を、縦軸が南北を示しているようなもの。 実際の応用例 直交座標系は、コンピュータグラフィックスやゲーム開発、物理シミュレーションな どで広く用いられている。2Dおよび3Dの空間を扱う際の基本的な座標系として、物 体の位置や動きを表現するのに不可欠。 また、エンジニアリングや建築においても、設計図や構造解析における基礎となる座 標系として使用される。工学分野では物体の寸法や位置関係を正確に記述するために 不可欠。 直交変換 定義や意味 直交変換とは、ユークリッド空間における線形変換の一種で、内積を保存する変換を 指す。つまり、直交変換を適用した後もベクトルの長さやベクトル同士の角度が変わ らない。 数学的には、線形変換 T : Rn → Rn が直交変換であるための条件は、任意のベクト ル u, v ∈ Rn に対して、⟨T (u), T (v)⟩ = ⟨u, v⟩ が成り立つこと。 直交変換は行列で表される場合が多く、この行列を直交行列と呼ぶ。直交行列 Q T は、Q Q = I を満たし、逆行列が転置行列と等しいという特性を持つ。 特に、直交変換は回転や反射といった幾何学的操作を表現する。 嚙み砕いた説明 直交変換は、空間内のポイントを動かす方法だが、その際にポイント間の距離や角度 を変えないようにするもの。例えば、紙に描かれた図形を回転しても形が変わらない ように、直交変換も図形の形を保ったまま動かす。

これは、物体を回したり裏返したりしても、それらの大きさや形が変わらないのと同 じようなものである。 実際の応用例 コンピュータグラフィックスにおけるモデルの回転や視点変更：3Dモデルを画面上で 回転させる際に、形状を保つために直交変換が用いられる。 機械学習における主成分分析（PCA）：データを新たな基準に変換する際、データの 分散を最大にするために直交変換が利用される。 物理学やロボティクスでの座標系の変換：ロボットのアームの動きや、物体の運動を 表現する際に、直交変換が用いられる。 直交補空間 定義や意味 線形代数において、ベクトル空間 V の部分空間 W に対する直交補空間（orthogonal complement）とは、W のすべてのベクトルと直交する V のベクトル全体からなる 空間を指す 直交補空間は W ⊥ と表記される もし V が内積空間であるなら、ベクトル v ∈ V が W の直交補空間に属するための 条件は、∀w ∈ W に対して ⟨v, w⟩ = 0 が成り立つこと 数式で表すと次のようになる W ⊥ = {v ∈ V ∣ ∀w ∈ W , ⟨v, w⟩ = 0} 嚙み砕いた説明 直交補空間は、ある空間内で特定の部分空間と直交するベクトルの集合を考える概念 具体的には、ある平面上の直線があったとき、その直線に垂直な他のすべてのベクト ルが直交補空間に属する 例えば、3次元空間において、平面に含まれるすべてのベクトルと直交するベクトル は、その平面に垂直な軸上のベクトルのみになる 実際の応用例 直交補空間は、データ解析における主成分分析（PCA）やフィルタリング問題におい て重要な役割を果たす

信号処理では、ノイズと信号を分離するために直交補空間の概念が用いられることが ある 機械学習では、特徴空間を効率的に分割して解析するための基礎として直交補空間が 利用されることがある 固有値と固有ベクトル 定義や意味 固有値と固有ベクトルは、線形代数の中心的な概念であり、特に行列の性質を解析す る際に重要となる。 行列 A に対して、ゼロでないベクトル v とスカラー λ が存在し、次の関係が成り立 つとき、λ を行列 A の固有値、v を対応する固有ベクトルと呼ぶ。 Av = λv この式は、行列 A がベクトル v をスカラー λ 倍するという幾何学的な意味を持つ。 固有値は行列の固有方程式 det(A − λI) = 0 の解として求められる。ここで、I は 単位行列である。 嚙み砕いた説明 固有値と固有ベクトルとは、行列があるベクトルをその線形変換によってどのように 変化させるかを知るための道具である。 固有ベクトルは、行列による変換後もその方向が変わらない特別なベクトルであり、 固有値はその変換によってベクトルがどれだけ伸びたり縮んだりするかを示す値であ る。 例えば、2次元の回転行列を考えると、固有ベクトルは回転によって方向が変わらな いベクトル（通常、回転行列には固有ベクトルが存在しないが、拡大縮小だけの行列 や対称行列には存在することが多い）。 実際の応用例 固有値と固有ベクトルは、機械学習の分野では特に主成分分析（PCA）の計算で利用 される。PCAでは、データセットの分散を最大化する方向を見つけるために、データ の共分散行列の固有値と固有ベクトルを用いる。 物理学では振動モードの解析に用いられる。例えば、建築物や橋梁の振動特性を解析 する際に、固有値問題を解くことで自然振動数やモードを決定する。

画像処理やコンピュータビジョンでは、画像の変換や圧縮において、特異値分解 （SVD）に関連して使用される。 正定値行列 定義や意味 正定値行列とは、実対称行列 A に対して任意の非ゼロベクトル x に対して次の条件 を満たす行列のことを指す。 xT Ax > 0 ここで、xT はベクトル x の転置を示す。 正定値行列は常に対称行列であり、その全ての固有値は正であることが特徴である。 嚙み砕いた説明 正定値行列は、ある種の「正のエネルギー」を持つ行列と考えることができる。例え ば、ベクトル空間におけるエネルギーや距離を測る役割を果たす。 イメージとしては、どんなベクトルを掛け算しても「正の結果」を返す行列である。 つまり、どんな方向にベクトルを伸ばしても、その長さの平方が正になる。 正定値行列の条件は、行列の固有値が全て正であることとも等価である。 実際の応用例 機械学習において、正定値行列はカーネル行列や共分散行列として頻繁に登場する。 これにより、データの関係性や分散の特性を捉えることができる。 最適化問題において、正定値行列は二次形式を伴う制約条件や目的関数の曲率を表現 する際に重要である。特に凸最適化では、正定値行列が解の一意性や存在を保証する 役割を果たす。 信号処理や統計学でも、正定値行列はフィルタ設計や多変量解析の手法において重要 な役割を担う。特に主成分分析（PCA）では、データの分散を最大化する方向を見つ けるために用いられる。

正定値性 定義や意味 正定値性とは、実対称行列やエルミート行列が持つ特性の一つである。特に、n × n の実対称行列Aが正定値行列であるとは、任意の非ゼロベクトルx ∈ Rn に対して、 二次形式xT Axが正であることを指す。すなわち、正定値行列Aに対して次の条件が 成立する： xT Ax > 0 for all x= 0 正定値行列の固有値は全て正である。これは定義から直接導かれる。 複素数の場合、行列がエルミートかつ正定値であるためには、任意の非ゼロ複素ベク トルz ∈ Cn に対して、z ∗ Az > 0が成り立つことが必要である（ここでz ∗ はz の共役 転置を表す）。 嚙み砕いた説明 正定値性は、行列が「正の方向に効果を持つ」ことを意味する。具体的には、任意の 非ゼロベクトルに対して、そのベクトルを行列で変換した結果と元のベクトルとの内 積が常に正になることを示す。これは、行列がベクトルを「伸ばす」方向に働くこと を意味する。 例えば、2次元空間で考えると、正定値行列は任意の方向に向けて矢印を配置したと き、その矢印が正の長さを持つように「押し広げる」役割を果たす。 実際の応用例 機械学習におけるカーネル法：正定値カーネルは再生核ヒルベルト空間（RKHS）を 定義し、データに対する内積を非線形に拡張する手法として用いられる。 最適化問題：凸最適化問題において、目的関数が正定値行列に対応する場合、問題は 凸であり、全球的最適解が保証される。 統計学：多変量正規分布の共分散行列は正定値でなければならない。これはデータの 分散が負にならないことを保証するためである。

エルミート行列 定義や意味 エルミート行列とは、複素数体上の正方行列であって、自身の随伴行列（共役転置行 列）と等しいものを指す 行列 A がエルミートであるための条件は、A = A∗ である ここで、A∗ は行列 A の随伴行列であり、A の共役転置を意味する。すなわち、A∗ は A の転置をとり、それぞれの要素を複素共役にしたものである 具体的に、行列 A = (aij ) がエルミートであるためには、全ての i, j に対して ​ aij = aji が成り立つ必要がある ​ ​ 嚙み砕いた説明 エルミート行列は、実数行列の場合における対称行列の複素数版と考えることができ る 例えば、行列の対角線を軸にして、行列の上側の要素が下側の要素の複素共役になっ ているような形になる エルミート行列の対角要素は必ず実数になる 例えば、2次のエルミート行列は以下のような形となる ( a b + ci ) b − ci d ​ ​ ここで a および d は実数、b + ci は複素数であり、b − ci はその複素共役である 実際の応用例 エルミート行列は量子力学において重要な役割を果たす。例えば、物理系の状態を記 述するためのオペレーターはエルミート行列であることが多い エルミート行列の固有値は必ず実数であるため、これにより測定可能な物理量を表現 することができる また、エルミート行列は信号処理やデータ解析においても応用され、特にスペクトル 解析や主成分分析において、データの特性を捉えるために利用される

半正定値行列 定義や意味 半正定値行列（positive semidefinite matrix）は、任意のベクトル x に対して、二次形 式 xT Ax が非負となる正方行列 A のことを指す。すなわち、行列 A が n × n の実 対称行列であり、以下の条件を満たす場合に半正定値行列と呼ばれる： xT Ax ≥ 0 for all x ∈ Rn 半正定値行列は、固有値が全て非負であるという性質を持つ。すなわち、行列 A の すべての固有値 λi が λi ≥ 0 となる。 ​ ​ 例えば、行列 A=( 2 −1 ) −1 2 ​ ​ は半正定値行列である。この行列の固有値は 3 と 1 であり、どちらも非負である。 嚙み砕いた説明 半正定値行列とは、ベクトルを入力としてその行列で変換した後の出力が常に「非負 になる」性質を持つ行列。直感的には、ベクトルの「長さ」や「広がり」を変えな い、もしくは「縮める」ことはあっても「反転」させたり「負の方向に押しやる」こ とはない行列。 例えば、二次形式 xT Ax は、ベクトル x に対してその変化量を計る方法の一つ。こ の値が常に非負であるということは、行列 A が「縮めるか維持する」動作しかしな いことを意味する。 実際の応用例 機械学習において、カーネル行列（グラム行列）は半正定値行列であることが要求さ れる。これは、サポートベクターマシンやガウス過程などのカーネル法で重要な役割 を果たす。 最適化問題におけるラグランジュ関数のヘッセ行列は、通常、半正定値行列であるこ とが求められる。これにより、最適化問題が凸であり、解が存在することを保証す る。 統計学において、共分散行列は常に半正定値行列である。これは、データの分散や共 分散が負でないことを意味し、統計的な解析やモデリングにおいて重要な性質であ

る。 固有値の性質 定義や意味 固有値（eigenvalue）とは、線形代数における行列の重要な特性の一つである。ある 正方行列 A に対して、次のような条件を満たすスカラー λ のことを固有値と呼ぶ。 Av = λv ここで、v は行列 A の固有ベクトルで、零ベクトルではない。 固有値は、行列の特性方程式 det(A − λI) = 0 の解として求められる。ここで、I は単位行列である。 具体例として、行列 A = ( 2 1 ) の固有値を求めると、特性方程式は次のようにな 1 2 ​ ​ る。 det ( 2−λ 1 )=0 1 2−λ ​ ​ 解くと、固有値は λ = 3, 1 となる。 嚙み砕いた説明 固有値は、行列を変換として捉えたときに、特定の方向に対してその大きさをどの程 度スケールするかを表す数値である。 例えば、平面上のベクトルに2次元の行列をかけたときに、ベクトルの方向は変わら ずに長さだけ変わる方向が存在する。その時のスケールの倍率が固有値である。 具体例として、ある行列があるベクトルを3倍にする場合、その固有値は3である。 実際の応用例 固有値は、工学、物理学、経済学などの多くの分野で応用されている。 例えば、振動解析で用いられる。機械や建築物の自然振動数を求めるために、質量と 剛性の行列の固有値を計算する。 また、データ解析や機械学習においても重要で、主成分分析（PCA）では、データの 分散を最大にする方向を探すために固有値を利用する。

コレスキー分解 定義や意味 コレスキー分解は、対称で正定値な行列を、下三角行列とその転置行列の積に分解す る手法 具体的には、A が n × n の実対称正定値行列であるとき、A は次の形に分解され る： A = LLT ここで、L は n × n の下三角行列であり、その対角要素は正 コレスキー分解は、行列の固有値がすべて正であることが前提となるため、正定値行 列に限定される 嚙み砕いた説明 コレスキー分解は、行列をより簡単に扱える形に変換するテクニック 例えば、大きなデータセットから得られた共分散行列などを処理する際、計算を効率 化するために使われる 下三角行列 L とその転置 LT に分解することで、行列の積や逆行列の計算が簡単に なる 具体的には、A = LLT という形に変えることで、数値計算の精度や速度が向上する 実際の応用例 コレスキー分解は、数値線形代数の分野でしばしば用いられる 特に、線形方程式系 Ax = b を解くための効率的な方法として知られる。A をコレ スキー分解し、LLT x = b として解くことで、計算が簡略化される 機械学習においては、ガウス過程やベイズ統計モデルの計算において、共分散行列の 処理に使用される また、最小二乗法を用いる回帰分析や、状態空間モデルなどでも、コレスキー分解に よる計算効率の向上が活用される

対称行列 定義や意味 対称行列とは、正方行列 A において、任意の行 i と列 j に対して、行列の要素が aij = aji を満たす行列のことを指す。すなわち、行列 A が対称行列であるための条 件は、A が転置行列 AT と等しいことである。数式で表すと、A = AT となる。 ​ ​ 対称行列は以下の形を持つ： A= a11 a12 ​ ​ a12 a22 ⋯ ⋯ ​ ​ ​ a1n a2n ​ ⋮ ⋮ a1n a2n ​ ​ ​ ​ ⋱ ⋮ ⋯ ann ​ ​ ​ この行列は転置しても元の行列と同じ形になる。 嚙み砕いた説明 対称行列は、行列を縦横に入れ替えても形が変わらない特殊な行列。つまり、行列の 上半分と下半分が鏡に映したように一致している。この性質により、計算が簡単にな ることがある。 例えば、3 × 3 の対称行列を考えると、a12 と a21 が同じ値である。a13 と a31 も同 ​ ​ ​ ​ じであり、a23 と a32 も同じになる。 ​ ​ 実際の応用例 対称行列は物理学や工学の様々な分野で現れる。例えば、物体の慣性テンソルや、量 子力学におけるハミルトニアン行列は対称行列であることが多い。 数値線形代数において、対称行列の固有値問題は特に重要で、対称行列は必ず実数の 固有値を持つという性質があるため、安定な数値計算法が用いられる。 機械学習では、共分散行列が対称行列として現れることがあり、主成分分析（PCA） などの次元削減技術で利用される。 どの数学的概念について説明すればよいか、具体的に教えてください。

最適化 定義や意味 最適化とは、ある目的関数を最大化または最小化するために、変数の値を調整する数 学的手法のことを指す。これは、数学、工学、経済学、コンピュータサイエンスなど 様々な分野で利用される。最適化問題は一般に、次の形で表される。 minimize or maximize subject to f (x) gi (x) ≤ 0, i = 1, … , m hj (x) = 0, j = 1, … , p ​ ​ ​ ​ ここで、f (x)は目的関数、gi (x)は不等式制約、hj (x)は等式制約を表す。 ​ ​ 最適化は制約条件の有無によって、無制約最適化と制約付き最適化に分類される。 嚙み砕いた説明 最適化とは、何かを最も良くする方法を見つけること。例えば、ある商品を売るため に利益を最大化したい場合、価格設定や広告の仕方などを調整することが求められ る。この「利益を最大化する」という目的を達成するための手段を考えるのが最適化 である。 また、時間やコストを最小限に抑えながらプロジェクトを完了する方法を考える場合 にも最適化が使われる。最適化問題では、具体的な条件や制約の中で、最も「良い」 答えを見つける。 実際の応用例 機械学習モデルの訓練：最適化は、モデルパラメータを調整して損失関数を最小化す る際に使用される。例えば、線形回帰では二乗誤差を最小化するためにパラメータを 最適化する。 ポートフォリオの最適化：金融分野では、投資のリスクを最小化しながらリターンを 最大化するように資産を配分する方法を設計する際に最適化が用いられる。 物流と輸送：配送ルートの最適化は、輸送コストを最小化し、配達時間を短縮するた めに重要であり、最適化アルゴリズムが使用される。

最小二乗法 定義や意味 最小二乗法は、観測データに対して数学モデルを当てはめる際に、誤差を最小化する ための手法。特に線形回帰分析において、与えられたデータセットに最も適合する直 線を見つけるためによく使われる。データの観測値とモデルの予測値の差の二乗和を 最小化することを目的とする。 具体的には、観測データ (xi , yi ) に対して、直線 y = ax + b をフィッティングする ​ ​ 場合、以下の二乗誤差を最小化する。 n S(a, b) = ∑(yi − (axi + b))2 ​ ​ ​ i=1 ここで、aは傾き、bは切片を表す。 これを微分してゼロに等しくすることで、最適なaとbを求める。 嚙み砕いた説明 最小二乗法は、データに線を引く方法。データが散らばっている中で、その中心を通 るような一本の直線を引くために使う。データ点と直線の間の距離の二乗を全部足し たものが一番小さくなるようにその直線を引く。 例えば、子供の身長と年齢のデータがあるとき、最小二乗法を使うと、年齢が増える につれて身長がどう伸びるかを表す直線を見つけることができる。 実際の応用例 最小二乗法は、経済学や物理学などの多くの分野で使われている。例えば、経済デー タのトレンド分析、物理実験データのフィッティング、機械学習におけるモデルの学 習など。 機械学習における線形回帰モデルのパラメータ推定。 時系列データに対するトレンド分析や、科学実験における誤差の推定。

ニュートン法 定義や意味 ニュートン法（Newton's Method）は、関数の根を求めるための反復的な数値解析手 法。具体的には、与えられた微分可能な関数 f (x) の根、すなわち f (x) = 0 を満た す x を求めるために使用される。 ニュートン法はテイラー展開の一階近似に基づいており、次の反復公式を用いる。 xn+1 = xn − ​ ​ f (xn ) f ′ (xn ) ​ ​ ​ ここで、xn は n 回目の反復での近似解、f ′ (xn ) は f (x) の xn における導関数。 ​ ​ ​ この方法は初期値 x0 を選び、反復を繰り返すことで根に近づいていく。 ​ 嚙み砕いた説明 ニュートン法は、現在の点から導関数を用いてその点に接する直線を引き、その直線 が x 軸と交わる点を次の近似解とする手法。 直線を引くという操作は、関数の動きを直線で近似することに相当し、この直線の x 軸との交点を次のステップの近似解とする。 言い換えると、山を下るために滑る道を作り、その道がどこで水平になるかを次の目 的地にするようなプロセス。 実際の応用例 ニュートン法は工学や物理学、経済学など多くの分野で利用されている。たとえば、 方程式の解を求める問題、最適化問題、特に微分方程式の数値解法の一部として応用 される。 コンピュータグラフィックスでは、光線追跡法のアルゴリズム内で用いられることが ある。 また、金融工学においてオプション価格の計算やリスク管理のための解析にも使われ る。

正則化 定義や意味 正則化（Regularization）は、機械学習において過学習（overfitting）を防ぐための手 法の一つである。過学習とは、モデルが訓練データに対しては高精度で予測できる が、未知のデータに対しては精度が低下する現象を指す。正則化は、モデルの複雑さ を制御し、より一般化されたモデルを得るために用いられる。 正則化の一般的な手法として、L1正則化（Lasso）とL2正則化（Ridge）がある。こ れらは損失関数にペナルティ項を追加することによって実現される。 L1正則化は、ペナルティ項としてパラメータの絶対値の和を加える。これは次 n のように表される：J(θ) = L(θ) + λ ∑i=1 ∣θi ∣。ここで、L(θ)は元の損失 ​ ​ 関数、λは正則化パラメータである。 L2正則化は、ペナルティ項としてパラメータの二乗和を加える。これは次のよ n うに表される：J(θ) = L(θ) + λ ∑i=1 θi2 。 ​ ​ 嚙み砕いた説明 正則化は、機械学習モデルが新しいデータに対しても良い予測ができるようにするた めのテクニックである。モデルが訓練データにあまりにも適合してしまうと、新しい データへの対応力が低下することがある。これを防ぐために、モデルの複雑さを抑 え、余分なパラメータが大きくなりすぎないように調整する。 L1正則化は、使わなくても良いパラメータをゼロにすることで、モデルをシンプルに する。L2正則化は、大きなパラメータを小さくすることで、全体的なパラメータの大 きさを制限する。 実際の応用例 正則化は、線形回帰やロジスティック回帰、ニューラルネットワークなど、様々な機 械学習モデルで利用されている。 特に、データの次元が非常に高い場合（変数が多い場合）や、データが非常に少ない 場合において、モデルの過学習を防ぐために有効である。 自然言語処理における単語ベクトルの学習や、画像認識における深層学習モデルの訓 練など、多くの実際のアプリケーションで使用されている。

ラグランジュ緩和 定義や意味 ラグランジュ緩和は、制約付き最適化問題を解くための手法の一つで、特に線形計画 問題や整数計画問題において用いられる。通常、制約付きの最適化問題は以下の一般 的な形で表される minimize subject to f (x) gi (x) ≤ 0, i = 1, … , m hj (x) = 0, j = 1, … , p ​ ​ ​ ​ ここで、f (x)は目的関数、gi (x)は不等式制約、hj (x)は等式制約を表す。 ​ ​ ラグランジュ緩和では、制約条件をラグランジュ乗数を用いて目的関数に組み込み、 以下のようなラグランジュ関数を構築する m p L(x, λ, μ) = f (x) + ∑ λi gi (x) + ∑ μj hj (x) ​ i=1 ​ ​ ​ ​ ​ j=1 ここで、λi ≥ 0は不等式制約に対応するラグランジュ乗数、μj は等式制約に 対応するラグランジュ乗数を表す。 ​ ​ ラグランジュ緩和は、制約を緩めることにより、元の問題をより簡単に解ける問題に 変換する方法である。 嚙み砕いた説明 ラグランジュ緩和は、最適化問題で扱いにくい制約を一時的に「緩めて」しまう手 法。目的関数に制約を組み込んで、ペナルティを与えることで、制約を守らせるよう にする。これにより、制約を考慮した最適化が、無制約の最適化問題として解けるよ うになる。 例えば、荷物をトラックに積む問題で、トラックの許容量を超えないようにしたいと き、許容量を超えた場合にペナルティを与える。これにより、トラックに積む荷物の 最適な組み合わせを見つけやすくする。 実際の応用例 ラグランジュ緩和は、特に複雑な制約付き最適化問題において、解法を簡略化するた めに使用される。例えば、物流の最適化、スケジューリング問題、ネットワーク設計 などで応用されている。

機械学習では、サポートベクターマシン（SVM）における制約付き最適化の問題を解 く際に、ラグランジュ緩和が用いられる。SVMでは、データ点をできるだけ大きく分 けるハイパープレーンを見つける問題を解く際に、ラグランジュ緩和を利用して効率 的に解を求める。 疎行列とテンソル 線形代数基礎 ベクトル 行列 疎行列 スカラ 疎行列の定義 疎行列の表現方法 CSR/CSC形式 COO形式 テンソル 疎行列の利点 メモリ効率 疎行列の演算 計算効率 行列積 逆行列 テンソルの定義 テンソルの階数 テンソルの階数と次元 テンソル分解 テンソルの表現方法 テンソル積 テンソルの演算 テンソル分解技術 疎行列 定義や意味 疎行列とは、ほとんどの要素がゼロである行列のことを指す。行列の要素数に対し て、非ゼロ要素の数が非常に少ない場合、その行列は疎であるとされる。疎行列は、 非ゼロ要素のみを効率的に格納する特殊なデータ構造を用いることで、メモリ使用量 を削減し、計算効率を向上させることができる。 疎行列はしばしば次のように表現される。例えば、3 × 3の行列が以下のように定義 されるとする： 0 0 3 A= 0 0 0 0 2 0 ​ ​ ​ ​ ​ この行列は非ゼロ要素が2つしかないため、疎行列と呼ばれる。 嚙み砕いた説明 疎行列は、ほとんどの部分が空っぽ（ゼロ）で、少しだけ数が入っている行列のこ と。まるで大きな空の箱に、少しだけ物が入っているようなもの。大量のゼロを省略 して、必要な部分だけ記録するので、コンピュータのメモリを節約できる。 実際の応用例 疎行列は、評価システムやレコメンデーションシステム、例えば映画や商品の評価行 列など、ほとんどのエントリが未評価（ゼロ）の場合に使用される。 科学技術計算において、大規模なシミュレーションや有限要素法での計算において、 システムの行列が疎である場合に、計算を効率化するために用いられる。

テンソル 定義や意味 テンソルとは、多次元配列として表現される数学的対象であり、スカラー（0次 元）、ベクトル（1次元）、行列（2次元）を一般化した概念。テンソルの階数はその 次元の数によって決まり、3次元以上の配列がテンソルと呼ばれる。 テンソルは次のように表される。例えば、3階のテンソル T は次のように定義され る： Tijk ここで、i, j, k はそれぞれの次元のインデックスを表す。 嚙み砕いた説明 テンソルは、データの塊を整理してまとめたもの。1次元のデータは線（ベクト ル）、2次元のデータは面（行列）、それ以上の次元になると固まり（テンソル）と して扱う。まるで複雑なデータの箱を想像するとわかりやすい。 実際の応用例 テンソルは、機械学習やデータ解析、特にディープラーニングの分野で、ニューラル ネットワークの入力データや重みの表現に多用される。 物理学において、テンソルは応力や変形などの物理量を記述する際に用いられる。 線形代数基礎 定義や意味 線形代数は、ベクトル空間と線形写像についての数学の分野である 主要な対象はベクトル、行列、線形写像、行列の演算である ベクトルはある空間における点や向きを持つ量として表現され、行列は数値の配列と して表される 線形写像は、ベクトル空間上の関数であり、次の条件を満たす: 任意のベクトル u, v とスカラー c に対して、 加法に関する線形性: f (u + v) = f (u) + f (v)

スカラー乗算に関する線形性: f (cu) = cf (u) 行列の積は、次のように定義される。行列 A がサイズ m × n であり、行列 B がサ イズ n × p のとき、その積 C = AB はサイズ m × p の行列であり、その (i, j) 成 分は次のように与えられる: n cij = ∑ aik bkj ​ ​ ​ ​ k=1 嚙み砕いた説明 線形代数は、ベクトルや行列を使って、空間の中での点の位置や変換を記述する数学 ベクトルは、例えば、矢印や座標のようなもので、方向と大きさを持つ 行列は、数の表のようなもので、行列を使ってベクトルを変換することができる 線形写像は、入力と出力が比例関係にある変換で、たとえば、画像を拡大したり縮小 したりする操作が該当する 実際の応用例 線形代数は、機械学習、特にニューラルネットワークや最小二乗法といった分野で広 く応用されている コンピュータグラフィックスでは、3Dモデルの変換や視点変換に行列が使われる 経済学や物理学のモデル化においても、行列やベクトルによる表現が利用される 疎行列 定義や意味 疎行列とは、ほとんどの要素がゼロであるような行列のことを指す。行列の要素のう ち、ゼロ以外の要素の割合が非常に少ない場合、その行列を疎行列と呼ぶ。 一般に、行列 A が m × n のサイズを持つとき、非ゼロ要素の数を k とすると、も し k ≪ m × n であるならば、A は疎行列とみなされる。 例えば、次のような行列は疎行列の例である。 0 0 A= 0 2 ​ ​ 0 0 0 0 ​ 3 0 0 0 ​ 0 0 0 0 ​ ​

この行列では、4つの要素のうち2つだけがゼロ以外の値を持つ。 嚙み砕いた説明 疎行列は、たくさんの要素がゼロであるような行列のこと。大きな表の中で、実際に 使われる数がほんの少ししかない場合を考えるとわかりやすい。 例えば、都市の間の距離を表す行列を考えると、直接結ばれている都市の間の距離だ けがゼロ以外の値を持ち、それ以外はゼロになることがある。このような行列は疎行 列と呼ばれる。 実際の応用例 機械学習やデータ解析において、疎行列は特に大規模データを扱う際に重要な役割を 果たす。例えば、文書と単語の出現頻度を表す行列（Bag of Wordsモデル）は通常、 非常に疎である。 情報検索システムでは、文書と単語の関係を効率的に処理するために疎行列が利用さ れる。 画像処理においても、例えば画像のピクセルデータが多くのゼロを含むことがあるた め、疎行列として表現することで計算効率を向上させることができる。 テンソル 定義や意味 テンソルは、スカラー（0階のテンソル）、ベクトル（1階のテンソル）、行列（2階 のテンソル）を一般化したものであり、多次元配列の形をとる数学的対象 テンソルは階数（またはランク）で分類され、階数はテンソルを表すために必要なイ ンデックスの数を示す 例えば、3階のテンソルは3つのインデックスを必要とし、3次元のデータを表現する ことができる テンソルは一般的に (n1 , n2 , … , nk ) の形状を持ち、各次元は整数 ni の長さを持つ ​ ​ ​ ​ 具体的な例として、3階のテンソル T は次のように表現される Tijk ここで、i, j, k はそれぞれの次元のインデックスを指す

嚙み砕いた説明 テンソルは基本的に「多次元版の行列」と考えることができる スカラーは単一の数値、ベクトルは数値の列、行列は数値の表、テンソルはこれらを さらに多次元に拡張したもの 例えば、画像データは通常3次元のテンソルとして表される。ここで、縦、横、色チ ャンネルの3つの次元がある テンソルを用いると、データの多次元的な構造を自然に表現し、操作することが可能 実際の応用例 機械学習において、特にディープラーニングの分野で、テンソルはデータを表現する ための基本的な構造 画像認識では、画像を3次元のテンソルとして扱い、畳み込みニューラルネットワー ク（CNN）を通じて特徴を抽出 自然言語処理では、文や単語のエンベディングをテンソルとして表現し、リカレント ニューラルネットワーク（RNN）やトランスフォーマーモデルで処理 物理学では、テンソルは応力や歪み、電磁場などを表現するために用いられる ベクトル 定義や意味 ベクトルとは、大きさ（長さ）と向きという2つの要素を持つ数学的対象のことを指 す。ベクトルは通常、矢印の形で表される。 形式的には、ベクトルは数の組として表現される。例えば、3次元空間におけるベク トル v は次のように表せる： v1 v2 v3 v= ​ ​ ​ ​ ​ ​ ベクトルの大きさはノルム（または長さ）と呼ばれ、∣∣v∣∣ で表される。例えば、上 記の3次元ベクトルのノルムは次のように計算される： ∣∣v∣∣ = v12 + v22 + v32 ​ ​ ​ ​

ベクトルには加法やスカラー倍といった演算が定義されており、これらの演算はベク トルの数学的な性質を理解するための基本となる。 嚙み砕いた説明 ベクトルは、物体がどの方向にどれくらいの速さで動いているかを表すのに使う矢印 のようなもの。例えば、地図上での移動を考えるとき、北東に5キロメートル進むと いう指示はベクトルで表せる。 2次元平面で考えると、ベクトルは x 軸と y 軸に沿った矢印として視覚化できる。ベ クトルの頭と尾の間の直線の長さがベクトルの大きさを示し、矢印の向きが方向を示 す。 実際の応用例 物理学において、速度や力はベクトル量として表される。これにより、物体の運動や 力の作用を正確に記述できる。 コンピュータビジョンや機械学習では、画像やデータポイントがベクトルとして表現 されることが多い。これにより、データの特徴を数値的に扱い、解析や予測を行うこ とが可能になる。 経済学や統計学において、多次元のデータを扱う際にもベクトルは重要であり、変数 間の関係性や傾向を解析するのに役立つ。 行列 定義や意味 行列とは、数や変数、または関数を長方形の形に配列したものであり、通常は括弧で 囲まれる。行列は一般に、行と列の数を持ち、そのサイズは行数 m と列数 n によっ て m × n 行列と表される。 行列の一般的な表記は以下のようになる。 A= a11 a21 a12 a22 ​ ​ ​ ⋯ ⋯ ​ ​ ​ ⋮ am1 ​ ⋮ ​ am2 ​ ​ ​ ​ ⋱ ⋮ ⋯ amn ここで、aij は行列の i 行 j 列目の要素を表す。 ​ a1n a2n ​ ​ ​

行列には、加算や乗算などの演算が定義されており、これらの演算を通じて様々な数 学的操作を行うことができる。 嚙み砕いた説明 行列は数を整然と並べた表のようなもの。計算やデータの整理に非常に役立つ。 例えば、行列を使うことで、複数の方程式を一度に解くことができる。行列のサイズ は行と列の数で決まり、それぞれの要素が特定の位置に配置されている。 行列は、例えば座標変換などで使われる。2Dの座標を回転させたり、拡大縮小したり するのに行列を用いることができる。 実際の応用例 行列はコンピュータグラフィックスで座標変換に用いられる。例えば、3Dモデルを画 面上に描画するための回転や平行移動の計算に行列が使われる。 機械学習においては、ニューラルネットワークの重みやバイアスを行列として扱い、 それらを用いた計算によって予測を行う。 経済学や物理学においても、システムの状態を行列としてモデル化し、解析するため に使用される。 スカラ 定義や意味 スカラ（scalar）は、数学および物理学において、単一の数値で表される量を指す。 スカラは大きさのみを持ち、方向を持たない。この点でベクトルや行列と異なる スカラは通常、実数または複素数で表される。例えば、温度、質量、時間、電荷など はスカラ量であり、これらはその大きさだけが重要である スカラーの表記は通常、小文字のイタリック体を用いる。例えば、a, b, x など 嚙み砕いた説明 スカラは、ただの「数」と考えるとわかりやすい。例えば、財布の中にあるお金の額 や、体重計に表示される体重の数値などがスカラにあたる スカラが持つのは量（大きさ）だけで、方向はないため、スカラを考える際には「ど ちらの方向か」は関係ない。気温が30度という事実は、北に30度か南に30度かという ことを考える必要がないのと同じ

実際の応用例 スカラは物理学や工学の様々な分野で用いられる。例えば、温度や圧力はスカラ量で あり、これらは物理現象を記述するために重要である 経済学においても、価格やGDPといった経済指標はスカラとして扱われる コンピュータサイエンスでは、スカラはデータ型としても使われ、プログラミングに おける基本的な値（整数や浮動小数点数）として認識される 疎行列 定義や意味 疎行列とは、要素の大部分がゼロであるような行列のことを指す。一般的に、行列の 要素のうち非ゼロの要素がごくわずかである場合、その行列は疎であるとされる。 より正式には、行列 A ∈ Rm×n が疎行列であるとは、その非ゼロ要素の数（すなわ ち、非ゼロのエントリの数）が全要素数 mn に対して非常に少ないことを意味する。 疎行列の表現方法として、非ゼロ要素のみを記録する圧縮形式が用いられることが多 い。例えば、圧縮行列ストレージ（Compressed Sparse Row, CSR）や圧縮列ストレ ージ（Compressed Sparse Column, CSC）などがある。 嚙み砕いた説明 疎行列は、多くの要素がゼロである行列のこと。ゼロでない要素が少ないため、行列 を扱う際にメモリや計算資源を節約できるという利点がある。 例えば、インターネットのリンク構造を表す行列や、ユーザーと商品間の購入履歴を 表す行列などでは、ほとんどの要素がゼロになることが多い。これらの行列を疎行列 として扱うことで、効率的に計算を行うことが可能になる。 実際の応用例 機械学習における疎行列の応用例として、推薦システムにおけるユーザーとアイテム の関係を表す行列がある。この場合、各ユーザーが評価したアイテムのみが非ゼロと なるため、疎行列として扱うことでメモリを節約する。 自然言語処理における単語文書行列もまた疎行列の一例。文書中に出現する単語のみ が非ゼロとされ、多くの単語が文書に現れないため、疎行列として扱われる。 科学計算における有限要素法など、物理シミュレーションにおいても疎行列が現れる ことが多い。ここでは、メッシュの接続情報が疎行列として表現される。

疎行列の表現方法 定義や意味 疎行列とは、行列の要素の大部分がゼロである行列を指す。疎行列は、非ゼロの要素 が相対的に少ないため、通常の行列表現を使用すると不必要なメモリを消費する可能 性がある。したがって、疎行列を効率的に表現するための様々な手法が開発されてい る。 一般的な疎行列の表現方法には、以下のようなものがある。 1. 圧縮列格納（Compressed Sparse Column, CSC）形式 この形式では、非ゼロ要素の列指向ビューを提供する。 行インデックス、列ポインタ、非ゼロ要素の値を用いて行列を表現する。 2. 圧縮行格納（Compressed Sparse Row, CSR）形式 この形式では、非ゼロ要素の行指向ビューを提供する。 列インデックス、行ポインタ、非ゼロ要素の値を用いて行列を表現する。 3. 座標形式（Coordinate, COO） 非ゼロ要素の行インデックス、列インデックス、値の3つのリストを用いる。 整理されていない状態での疎行列の表現に適している。 4. 対角形式（Diagonal, DIA） 対角帯域が多い行列に特化した形式。 対角線のオフセットとその要素を記録する。 嚙み砕いた説明 疎行列は、ほとんどの要素がゼロである特別な行列である。通常の行列と違い、ゼロ を省略して記録することで、メモリの使用量を減らすことができる。 例えば、映画の評価データを行列にする場合、ユーザーが評価した映画だけに値があ り、それ以外はゼロになることが多い。こうした場合に疎行列を使うことで、効率的 にデータを扱うことができる。 CSC形式やCSR形式は、行列の非ゼロ要素だけを記録し、行や列の情報を別途保持す ることで、無駄を省いている。 実際の応用例 機械学習において、特にレコメンデーションシステムなどでユーザーの評価や行動デ ータを扱う際に疎行列が用いられる。多くのユーザーが少数のアイテムを評価するた

め、データは疎な構造を持つことが多い。 画像処理においても、スパースなデータを扱う場面がある。たとえば、画像のエッジ 検出後のデータはスパースになることがある。 科学計算やグラフ理論においても、疎行列は大規模なシステムのモデリングに役立 つ。多くのネットワークやグラフは、ノード間の接続が限られているため、疎行列で 表現されることが多い。 疎行列の利点 定義や意味 疎行列とは、多くの要素がゼロである行列を指す。具体的には、非ゼロ要素が全体の 要素数に比べて少ない行列を意味する。行列 A が m × n の大きさを持つ場合、その 要素の多くがゼロであるとき、行列 A は疎行列となる。 疎行列は、密行列（全ての要素が非ゼロである行列）とは対照的であり、特に大規模 なデータセットにおいて効率的に格納・操作することが求められる。 嚙み砕いた説明 疎行列は、多くの要素がゼロであるため、ゼロの部分を無視して情報を保存・計算す ることができる。これにより、メモリの使用量や計算時間を大幅に削減することが可 能となる。 例えば、非常に大きな表を考えたとき、ほとんどのセルが空白（ゼロ）だとする。こ の場合、すべてのセルを記録するのは非効率であり、必要な情報だけを保持すること で効率化できる。 実際の応用例 機械学習においては、特にテキストデータの表現で疎行列が頻繁に利用される。例え ば、単語の出現頻度を示す「Bag of Words」モデルでは、多くの単語が文書に出現し ないため、疎行列が適している。 コンピュータビジョンでは、画像の画素情報を疎行列として扱うことで、画像処理や 認識の効率を向上させる。 科学計算やシミュレーションでも、特に物理システムのシミュレーションにおいて、 疎行列を用いることで計算資源の節約が可能となる。

疎行列の演算 定義や意味 疎行列とは、大部分の要素がゼロであるような行列のことを指す。対義語は密行列で あり、こちらは多くの要素がゼロでない行列を指す。疎行列の演算は、ゼロでない要 素のみに注目することで計算効率を高めることができるため、計算機科学や数値解析 において重要な役割を果たす。 疎行列の表現方法として、圧縮行列ストレージ（Compressed Sparse Row, CSR）や 圧縮列ストレージ（Compressed Sparse Column, CSC）などがある。これらの方法 は、非ゼロ要素のみを記録し、行および列のインデックスを別途記録することで、メ モリ使用量を削減する。 疎行列の加算は、非ゼロ要素を走査し、同じ位置にある要素同士を足し合わせる。例 えば、行列 A および B が疎行列であるとき、行列の加算は次のように定義される： Cij = Aij + Bij ​ ​ ​ ここで、Cij は行列 C の要素を表す。 ​ 嚙み砕いた説明 疎行列は、要素の多くがゼロである行列のこと。例えば、大きなデータセットを扱う 際に、ほとんどのデータが欠損している場合などに、疎行列として表現することがで きる。疎行列を扱うときは、ゼロの部分を計算から省略して、計算時間やメモリを節 約することができる。 加算や乗算などの行列演算を行う場合も、ゼロではない部分だけに注目すれば良い。 例えば、各行の要素が一つだけ非ゼロの場合、計算する必要があるのはその非ゼロ要 素だけ。 実際の応用例 機械学習における特徴ベクトルの表現。特に自然言語処理分野では、単語の存在を0 または1で表すベクトル（One-hot エンコーディング）を疎行列として扱うことで効 率的に計算を行う。 大規模なデータセットの処理。例えば、推薦システムにおけるユーザーとアイテムの 関係を示す行列は、通常ゼロが多いため疎行列として扱われる。 科学計算、特に有限要素法や流体力学のようなシミュレーションにおいて、疎行列は 重要な役割を果たす。これらのシミュレーションでは、システムの状態を記述する行

列が非常に大きく、ほとんどの要素がゼロであるため、疎行列として効率的に扱われ る。 テンソル 定義や意味 テンソルとは、多次元配列として表現される数学的対象であり、スカラー（0次 元）、ベクトル（1次元）、行列（2次元）の一般化である。テンソルは任意の次元 （階数）を持つことができ、各次元はテンソルのランクを表す。ランクがnであるテ ンソルをn階テンソルと呼ぶ。 テンソルは通常、いくつかの軸（またはモード）に沿って構成され、各軸には特定の 数の成分が存在する。例えば、3次元テンソルは、3つの軸に沿って成分を持ち、それ ぞれの軸に沿った成分数がテンソルの形状（サイズ）を決定する。 テンソルの成分は通常、インデックスを用いて表現される。例えば、3次元テンソル Tの成分はTijk と表され、ここでi, j, k はそれぞれの軸に沿ったインデックスであ ​ る。 嚙み砕いた説明 テンソルという概念は、コンピュータでのデータ処理や機械学習での計算の基礎を成 す。スカラーは単なる数、ベクトルは一次元の数の列、行列は二次元の数の配列であ るのに対し、テンソルはこれをさらに一般化したもので、多次元の数の配列を扱うこ とを可能にする。 例えば、画像データは通常、3次元テンソルとして表現される。画像の縦と横のピク セル数がそれぞれの次元を形成し、3つ目の次元はRGBのカラーチャンネルを表す。 このように、テンソルは複雑なデータを整理し、計算を行うための強力なツールであ る。 実際の応用例 テンソルは機械学習やデータサイエンスにおいて広く応用されている。特にディープ ラーニングでは、ニューラルネットワークの入力データや重みをテンソルとして扱う ことが一般的である。例えば、CNN（畳み込みニューラルネットワーク）では、入力 画像やフィルターをテンソルとして扱い、畳み込み演算を行う。 自然言語処理（NLP）分野でも、テキストデータをテンソルとして取り扱うことで、 単語の埋め込みや文の構造をモデル化することが可能になる。これはBERTやGPTの ようなモデルで使用されている。

物理学や工学においても、テンソルは応力や歪みの記述、電磁場のモデル化など、さ まざまな場面で利用される。 テンソルの階数 定義や意味 テンソルの階数（または階）は、テンソルの次元の数を示す。テンソルは、スカラー （0階）、ベクトル（1階）、行列（2階）などの一般化されたものとして考えること ができる。テンソルの階数は、そのテンソルを表現するために必要なインデックスの 数を示す。 例えば、スカラーは0階のテンソルであり、1つの値のみで表現される。ベクトルは1 階のテンソルであり、1つのインデックスを持ち、例えば v = (v1 , v2 , … , vn ) のよ ​ ​ ​ うに表現される。行列は2階のテンソルであり、2つのインデックスを持ち、例えば A = (aij ) のように表現される。 ​ 一般的に、n階のテンソルはn個のインデックスを持ち、T = (ti1 i2 …in ) で表され ​ ​ ​ ​ る。 嚙み砕いた説明 テンソルの階数は、そのテンソルがどれだけ多くの方向に広がっているかを示す。ス カラーは1つの数値（0方向）、ベクトルは1方向に伸びる線のようなもの、行列は2方 向に広がる平面のようなものと考えることができる。 つまり、テンソルの階数が増えると、そのテンソルはより多くの次元を持つことにな る。例えば、3階のテンソルは立方体のように3次元の空間に広がる。 実際の応用例 テンソルの階数は、物理学や工学、特に機械学習といった分野で広く応用されてい る。例えば、画像データはピクセルの行列として表現される2階のテンソルであり、 動画データは時間軸を加えた3階のテンソルとして扱われる。 機械学習の分野では、ニューラルネットワークの入力データやパラメータは多次元テ ンソルとして取り扱われることが一般的である。これによって、モデルは複雑なデー タ構造を学習することが可能になる。

テンソルの表現方法 定義や意味 テンソルは多次元配列の一種で、スカラー（0次元）、ベクトル（1次元）、行列（2 次元）の一般化である。テンソルは任意の次元（階数）を持つことができ、階数 n の テンソルを n-次テンソルと呼ぶ。テンソルの表現には、通常、成分表示と呼ばれる方 法が用いられる。これはテンソルの各成分をインデックスを用いて表す方法である。 テンソル A が n 次元で、それぞれの次元のサイズが I1 , I2 , … , In であるとき、テ ンソルの成分は Ai1 i2 …in で表され、ここで 1 ≤ ik ≤ Ik （k = 1, 2, … , n）であ る。 ​ ​ ​ ​ ​ ​ ​ ​ ​ たとえば、3次テンソルは次のように表される。 T = {Tijk ∣ 1 ≤ i ≤ I, 1 ≤ j ≤ J, 1 ≤ k ≤ K} ​ 嚙み砕いた説明 テンソルは、データを多次元で格納するための構造で、例えば色付き画像は3次元テ ンソルとして表現される。1次元が幅、2次元が高さ、3次元が色のチャンネルを示 す。このように、テンソルは複数の次元を持つデータを扱うときに非常に便利であ る。 具体的な例として、色付き画像を考える。画像は通常、幅と高さの2次元データであ るが、色を表現するためにRGBの3つのチャンネルを追加する必要がある。この場 合、画像は3次元テンソルとして表現される。 実際の応用例 テンソルは機械学習、特にディープラーニングで多用される。ニューラルネットワー クの入力データ（例えば、画像や音声データ）は、多次元テンソルとしてモデルに供 給される。また、テンソル演算はGPUやTPUで効率的に並列計算が可能であり、ディ ープラーニングの高速化に寄与している。 テンソルは物理学の分野でも応用されており、例えば、応力テンソルや電磁テンソル は、物質の物理的特性や電磁的特性を多次元で表すために使用される。

テンソルの演算 定義や意味 テンソルは、スカラー、ベクトル、行列の一般化されたものであり、任意の次元を持 つ多次元配列として表現される テンソルの演算は、テンソル同士の加算、減算、スカラー倍、テンソル積などを含む テンソルの加算・減算は同じ形状のテンソル間でのみ定義されており、要素ごとに行 われる。例えば、テンソル A と B が同じ形状を持つ場合、 (A + B)i1 i2 …iN = Ai1 i2 …iN + Bi1 i2 …iN ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ スカラー倍はテンソルの各要素にスカラーを掛ける演算を指す。スカラー α とテンソ ル A に対して、 (αA)i1 i2 …iN = αAi1 i2 …iN ​ ​ ​ ​ ​ ​ ​ ​ テンソル積（外積）は二つのテンソルからより高次のテンソルを生成する演算であ り、テンソル A と B に対して、 (A ⊗ B)i1 i2 …iN j1 j2 …jM = Ai1 i2 …iN Bj1 j2 …jM ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ 嚙み砕いた説明 テンソルは、データの多次元配列のようなもので、例えば色付き画像のピクセルデー タは幅、高さ、色チャネルの3次元のテンソルで表現される テンソルの加算や減算は、同じ形をしたテンソル（例えば同じ大きさの画像データ） の要素を一つ一つ足したり引いたりする操作 スカラー倍は、テンソルの各要素に同じ数（スカラー）を掛けることで、例えば画像 の明るさを調整するような操作に相当する テンソル積は、2つのテンソルを組み合わせてより高次元のテンソルを作る操作で、 異なるデータを組み合わせるときに使う 実際の応用例 ディープラーニングにおいて、入力データやモデルの重みはテンソルとして表現さ れ、テンソルの演算を用いて計算を行う 画像処理の分野では、画像データをテンソルとして扱い、フィルタリングや変換をテ ンソル演算を通じて行う

物理学では、テンソルは応力や歪みを表すために使われ、異なる方向の力の影響を考 慮するためにテンソル演算が用いられる CSR/CSC形式 定義や意味 CSR（Compressed Sparse Row）形式とCSC（Compressed Sparse Column）形式 は、疎行列を効率的に表現するためのデータ構造 CSR形式では、非ゼロ要素を行ごとに格納し、CSC形式では列ごとに格納する CSR形式の疎行列は3つの配列で表現される： values （非ゼロ要素の 値）、 col_indices （対応する列インデックス）、 row_ptr （各行の開始位置） CSC形式も同様に3つの配列で表現される： values （非ゼロ要素の 値）、 row_indices （対応する行インデックス）、 col_ptr （各列の開始位置） これにより、行列のメモリ使用量を大幅に削減できる 例えば、Aが次の疎行列である場合： 0 0 3 A= 4 0 0 0 5 0 ​ ​ ​ ​ ​ CSR形式では以下のように表現される： values = [3, 4, 5] col_indices = [2, 0, 1] row_ptr = [0, 1, 2, 3] CSC形式では以下のように表現される： values = [4, 5, 3] row_indices = [1, 2, 0] col_ptr = [0, 1, 2, 3] 嚙み砕いた説明 CSRとCSC形式は、大きな行列の中でゼロの要素が多い場合に、メモリを節約して効 率的にデータを扱う方法

例えば、通常の行列では全ての要素を記憶する必要があるが、CSRやCSC形式ではゼ ロでない必要な要素だけを覚える CSRは行単位で、CSCは列単位で非ゼロ要素を管理する これにより、計算が速くなり、メモリも節約できる 実際の応用例 機械学習やデータ分析での大規模なデータセットの処理 科学計算やエンジニアリングにおける疎行列を用いたシミュレーション 自然言語処理における単語の共起行列や文書の特徴行列の効率的な表現 グラフデータベースやネットワーク解析における隣接行列の表現 COO形式 定義や意味 COO形式（Coordinate list format）は、疎行列を効率的に表現するためのデータ構造 の一つ。疎行列とは、ほとんどの要素がゼロである行列のことを指す。COO形式で は、非ゼロ要素の行と列のインデックス、そしてその値をそれぞれのリストとして記 録する。 具体的には、疎行列の非ゼロ要素を (i, j) としたとき、三つのリストでそれを表現す る。リストの一つは行インデックス i のリスト、もう一つは列インデックス j のリス ト、最後に値のリストを持つ。 COO形式は以下のように表現される： 行インデックスのリスト：(i1 , i2 , … , ik ) ​ ​ ​ 列インデックスのリスト：(j1 , j2 , … , jk ) ​ ​ ​ 値のリスト：(v1 , v2 , … , vk ) ​ ​ ​ 例えば、次のような疎行列を考える： 0 0 3 4 0 0 0 5 0 ​ ​ ​ ​ ​ この行列をCOO形式で表現すると、行インデックスのリストは (1, 2, 3)、列インデ ックスのリストは (3, 1, 2)、値のリストは (3, 4, 5) となる。

嚙み砕いた説明 COO形式は、疎行列の中でゼロでない要素だけを効率よく記録する方法。行列全体を 記録するのではなく、ゼロでない要素の「位置」と「値」だけを覚えておくことで、 無駄を省く。 例えば、紙の地図で言えば、特定の地点にしかないランドマークをメモしておくよう なもの。行列の中の数えられる程度の数の非ゼロ要素を、どこにあるかとその値だけ を記録する。 実際の応用例 COO形式はスパース行列を扱う多くの応用で使われる。例えば、科学技術計算や機械 学習、特に自然言語処理での単語の共起行列のような場合。 例えば、グラフ理論において隣接行列を表現する際に、ノード間のつながりが少ない 場合に効率よく表現できる。 また、データの疎な構造を扱う機械学習アルゴリズム（例：サポートベクターマシン や潜在意味解析）においても、計算の効率化を図るためにCOO形式が利用される。 メモリ効率 定義や意味 メモリ効率とは、コンピュータのメモリリソースをどれだけ効果的に利用するかを示 す尺度のこと メモリ効率が高い場合、同じ計算を行うのに必要とするメモリの量が少ないことを意 味する 通常、アルゴリズムやデータ構造の設計において、処理速度と同様に重要な考慮事項 数式的には、メモリ効率を評価するために、アルゴリズムのメモリ使用量を問題の入 力サイズ n の関数として表す 例えば、あるアルゴリズムのメモリ使用量が O(n) である場合、入力サイズに比例し てメモリが増加することを示す 嚙み砕いた説明 メモリ効率は、コンピュータがどれくらい効率よくメモリを使っているかを測る指標 メモリを無駄にしないようにすることは、多くのデータを扱う際に特に重要

例えば、同じことをするのに1GBのメモリを使うプログラムと100MBで済むプログラ ムがあるとしたら、後者の方がメモリ効率が良いと言える 実際の応用例 大規模データセットを扱う機械学習モデルのトレーニングや推論 スマートフォンや組み込みシステムなど、メモリリソースが限られている環境でのア プリケーション開発 データベース管理システムにおけるインデックス構造の設計やクエリ最適化 メモリ効率が高いことで、より多くのデータを一度に処理することができ、処理速度 の向上や電力消費の削減につながる 計算効率 定義や意味 計算効率とは、アルゴリズムや計算手法がどの程度効率的に問題を解決できるかを評 価する尺度。通常、計算効率は計算に要するリソース、すなわち時間や空間の観点か ら測定される。 時間計算量は、アルゴリズムが入力サイズ n に対してどの程度の時間を要するかを示 す。これはしばしばビッグオー記法 O(n) で表される。 空間計算量は、アルゴリズムが入力サイズ n に対してどの程度のメモリを消費するか を示す。 例えば、あるアルゴリズムが入力サイズ n に対して O(n2 ) の時間計算量を持つ場 合、入力サイズが増えるにつれて計算時間が二乗のペースで増加することを意味す る。 嚙み砕いた説明 計算効率は、コンピュータが問題をどれだけ素早く、そしてどれだけ少ないメモリで 解けるかを測るもの。例えば、物を並べ替えるときに、どのくらいの時間がかかる か、どれだけのメモリが必要かを考える。 日常生活で例えるなら、スーパーで買い物をするときの効率を考えるようなもの。買 いたい物を早く見つけるために、どの順番で棚を回るかを考えるのと似ている。

実際の応用例 検索エンジンは、膨大なデータベースから必要な情報を迅速に引き出すために効率的 なアルゴリズムを使用している。検索アルゴリズムの計算効率が高いほど、ユーザー に結果が速く表示される。 機械学習では、大量のデータを処理してモデルを訓練するため、効率的なアルゴリズ ムが不可欠。特にオンライン学習やリアルタイム予測では、計算効率がモデルの性能 に直結する。 グラフィック処理においては、大量のピクセルデータを高速に処理するために、効率 的な計算が求められる。特にリアルタイムでのレンダリングでは、計算効率が映像の スムーズさに影響する。 行列積 定義や意味 行列積（または行列の積）とは、二つの行列 A と B の積を求める操作を指す。行列 積は、線形代数学における基本的な演算の一つであり、行列の要素間の演算を通じて 新しい行列を得る方法である。 行列 A が m × n 行列、行列 B が n × p 行列であるとき、行列積 AB は m × p 行 列となる。行列 A の列数と行列 B の行数が一致している必要がある。 行列積の要素 (i, j) は、A の i 行目と B の j 列目の対応する要素の積をすべて足し 合わせたものである。この計算は次のように表される： n (AB)ij = ∑ Aik Bkj ​ ​ ​ ​ k=1 嚙み砕いた説明 行列積は、ある行列の行と別の行列の列を用いて新しい行列を作る操作。たとえば、 2つの行列があり、一つの行列の行を取り、もう一つの行列の列を取り、それらの要 素を掛け合わせて加算することを行の数と列の数の組み合わせごとに行う。 具体的には、もし行列 A が「学生の得点」、行列 B が「得点の重み付け」を表して いるなら、その積 AB は「重み付けされた総合得点」を表す。

実際の応用例 機械学習では、行列積を用いてニューラルネットワークの重み付けや、データの変換 を行う。特に深層学習での層間の信号伝達において、行列積は必須の計算である。 コンピュータグラフィックスにおいて、行列積は3Dモデルの回転、移動、スケーリン グといった操作を効率的に行うために用いられる。 経済学や物理学におけるモデルのシミュレーションでも、複数の変数間の関係を表現 するために行列積が利用される。 逆行列 定義や意味 逆行列とは、線形代数において与えられた正方行列 A に対して存在する行列 A−1 の ことを指し、次の条件を満たすものをいう。 AA−1 = A−1 A = I ここで、I は単位行列を表し、行列の積が単位行列になるとき、A−1 は A の逆行列 であると定義する。 逆行列は必ずしも全ての行列に対して存在するわけではなく、正則行列（または可逆 行列）と呼ばれる特定の行列に限り存在する。 逆行列が存在するための必要十分条件は、行列 A の行列式 det(A) がゼロでないこ とである。 嚙み砕いた説明 逆行列は、行列を「打ち消す」ための行列と考えることができる。例えば、通常の数 値の世界での逆数のようなもの。数 a の逆数は 1/a であり、a × (1/a) = 1 という 性質を持つ。行列においても同様に、ある行列を掛け合わせた結果が単位行列になる ような行列を逆行列という。 逆行列が存在するのは特定の条件を満たす行列だけであり、全ての行列が逆行列を持 つわけではない。具体的には、行列がフルランク（全ての行が他の行の線形結合にな っていない）である必要がある。

実際の応用例 逆行列は、線形方程式の解法において重要な役割を果たす。例えば、行列方程式 AX = B を解く際に、逆行列を用いて X = A−1 B として解を求めることができ る。 機械学習における最小二乗法の解法では、逆行列を用いてパラメータ推定を行うこと がある。ただし、数値的に不安定な場合は擬似逆行列を用いることがある。 経済学や物理学などの分野で、システムの入力と出力の関係を行列表現し、その逆行 列を用いて逆問題を解くことがある。 テンソルの階数と次元 定義や意味 テンソルは多次元配列の一般化であり、スカラー（0階テンソル）、ベクトル（1階テ ンソル）、行列（2階テンソル）などが含まれる テンソルの階数（rank）はテンソルが持つ軸の数を示す 0階テンソルはスカラー 1階テンソルはベクトル 2階テンソルは行列 3階以上のテンソルは多次元配列 テンソルの次元（dimension）は各軸に沿った要素の数を示す 例えば、行列（2階テンソル）A ∈ Rm×n はm × nの次元を持つ 嚙み砕いた説明 テンソルはデータの形を表すもので、階数はデータの「深さ」や「複雑さ」を示す 例えば、1階テンソルは長さだけを持つ線、2階テンソルは長さと高さを持つ平面を表 す 次元はそれぞれの方向に何個のデータがあるかを示す 例として、3階テンソルは立体的なデータ構造であり、3つの異なる方向（長 さ、高さ、奥行き）を持つ 実際の応用例 コンピュータビジョンにおける画像データ処理では、カラーチャンネルを持つ画像は 3階テンソルとして表現される（幅、高さ、色チャンネル）

自然言語処理における文章の埋め込みでは、文章全体を表現するために3階以上のテ ンソルが使用される 物理学や工学において、応力やひずみを表現する際に3階や4階のテンソルが用いられ る テンソル分解 定義や意味 テンソル分解とは、多次元配列であるテンソルを、より単純な構造のテンソルまたは 行列の積に分解する数学的手法。テンソルは、スカラー（0次元）、ベクトル（1次 元）、行列（2次元）を一般化したもので、n次元の配列を指す。 テンソル分解の例として、行列の特異値分解（SVD）は2次元テンソルの分解にあた る。テンソル分解の一般化として、例えば、3次元テンソル X ∈ RI×J×K を、3つの 行列の積に分解するカノニカル分解（CANDECOMP）またはパラファクター分解 （PARAFAC）がある。この分解は次のように表される： R X ≈ ∑ a r ∘ br ∘ c r ​ ​ ​ ​ r=1 ここで、ar ∈ RI , br ∈ RJ , cr ∈ RK はランク1のテンソルを構成する要素ベクト ルであり、∘ はテンソル積を表す。 ​ ​ ​ 嚙み砕いた説明 テンソル分解は、データをより単純な要素に分けることで、データの背後にあるパタ ーンを理解する手法。2次元の行列分解の考え方を、3次元以上に拡張したもの。例え ば、映画の評価データを3次元テンソルとして考える場合、ユーザー、映画、評価の 各次元に沿ってデータを分解することで、ユーザーの好みや映画の特徴を解析するこ とができる。 これにより、データの圧縮、ノイズの除去、パターンの抽出が可能になる。テンソル 分解は、データの重要な構造を保持しつつ、計算を効率的に行う手段を提供する。 実際の応用例 テンソル分解は、推薦システムにおいて、ユーザーの好みに基づく商品推薦に利用さ れる。例えば、ユーザーの過去の購入履歴、商品の特徴、ユーザーの属性情報をテン

ソルに表現し、分解することで、個々のユーザーに最適な商品を推奨するモデルを構 築する。 画像処理やコンピュータビジョンにおいても、テンソル分解は画像データの圧縮やノ イズ除去に使用される。高次元の画像データを低ランクのテンソルに分解すること で、データ量を削減しつつ、重要な特徴を抽出することが可能。 生体情報処理や信号処理でも、テンソル分解は複雑なデータを解析するために使用さ れる。例えば、脳波データや音声信号をテンソル形式で解析することで、パターン認 識や異常検出が行われる。 テンソル積 定義や意味 テンソル積（Tensor Product）は、線形代数における重要な演算であり、二つのベク トル空間の直積を構成するための方法を提供する。ベクトル空間 V と W のテンソ ル積は、しばしば V ⊗ W と表記される。このテンソル積空間は、V と W の元か らなる双線型写像を表すための最小の空間として定義される。 具体的には、V = Rm と W = Rn の場合、テンソル積 V ⊗ W は Rm×n の行列空 間と同型であり、各要素が vi ⊗ wj の形で表される。ここで、vi ∈ V かつ wj ∈ W ​ ​ ​ ​ である。 数学的には、テンソル積は以下の性質を満たす写像として定義される。任意の双線型 ~ 写像 f : V × W → X に対して、線型写像 f : V ⊗ W → X が存在し、次を満た ​ す： ~ f (v, w) = f (v ⊗ w) ​ 嚙み砕いた説明 テンソル積とは、二つのベクトルを組み合わせて新しいベクトルを作る方法。直感的 には、二つのベクトル空間を「掛け合わせて」新しい空間を作る操作。例えば、2次 元のベクトル空間と3次元のベクトル空間のテンソル積は、2x3 の行列空間を形成す る。これは、2次元のベクトルが3次元のベクトルに対して、すべての組み合わせを考 えるようなもの。 例えるならば、テンソル積は異なる次元の空間を「合体」させ、より複雑な構造を持 つ空間を作るイメージ。

実際の応用例 テンソル積は量子力学において、複数の状態を扱う系の記述に使われる。例えば、2 つの量子ビット（キュービット）の状態を表現する際に、その状態はそれぞれのテン ソル積として表される。 機械学習や信号処理において、テンソル積は高次元データの処理や特徴量の抽出に用 いられることがある。特に、ニューラルネットワークではテンソル演算が頻繁に用い られる。 コンピュータビジョンにおいて、画像データを扱う際にピクセル情報の組み合わせを テンソルとして表現し、画像の特徴を抽出するために利用される。 テンソル分解技術 定義や意味 テンソル分解は、高次元データを扱う際に用いられる手法で、テンソルを低ランクの テンソルや行列に分解する技術 テンソルとは、多次元配列のことで、一般的には行列（2次元配列）を拡張したもの と考えられる テンソル分解の一つの代表的な形式がカノニカルポリデコンポジション（CP分解） であり、テンソルをランク1テンソルの和として表現する CP分解の数式表現： R X ≈ ∑ λ r a r ∘ br ∘ c r ​ ​ ​ ​ ​ r=1 ここで、X は元のテンソル、Rはランク、λr はスカラー、ar , br , cr は因子ベクト ル、∘は外積を表す ​ ​ ​ ​ 他にもタッカー分解やテンソルトレイン分解などの形式が存在する 嚙み砕いた説明 テンソル分解は、多次元データの構造を理解しやすくするための方法 例えば、写真の集まり（3次元テンソル）を、より小さなデータに変換して、計算を 効率的に行うことができる データを圧縮することで、保存や伝送のコストを削減できる

実際の応用例 機械学習における特徴抽出や次元削減に使用される 画像処理や信号処理において、データの圧縮やノイズ除去に応用される レコメンデーションシステムにおいて、ユーザーとアイテムの関係を解析するために 利用される 医療画像解析や脳の活動データの解析など、バイオメディカル分野でのデータ解析に 応用される