当我们第一次接触到矩阵概念时，难免会有很多疑惑之处。我们总在问，一个m行n列的数表为什么会有这么多的独特性质和实际应用。这要从我们经常遇到的线性空间和向量的概念说起，矩阵的概念和线性空间有密切的联系。空间一般是指定义了某类运算的集合，而如果该运算对集合内的任意元素的加法和数乘运算都是线性的，则称为线性空间。
线性空间的基本元素是向量，也就是说，线性空间可以认为是向量的集合。线性空间中如果有一组最大线性无关的向量组，那么空间中任意一个向量都可以表示成该向量组的线性叠加，这个向量组就是该线性空间的一个基，最大线性无关组中向量的个数其实就是线性空间的维数。而任意向量相对这个基的线性叠加系数的组合，就是描述这个向量的一种方式，又称之为在这个基中的坐标。
1858年凯莱引入了矩阵的概念，它是一个二维的数表，并研究了矩阵的一系列性质，像矩阵乘法、矩阵求逆、以及矩阵的特征方程、特征值等。而矩阵的许多性质可以从它与线性空间的关系中找到答案。矩阵的第一重身份，其实就是一组向量，也就是一个向量组。它相当于一组向量按行或按列进行排列的一种方式。
从以上的讨论中可以看到，线性空间中的基实际上就是一组向量，也就是一个矩阵。同时，线性空间基还是坐标系的一种推广，如果某个基向量组对应的矩阵是一个单位阵，那么相当于在n维线性空间中建立了一个直角坐标系，而如果某个基对应的矩阵不是单位阵，则相当于一种新型的广义坐标系。与线性空间基所对应矩阵的秩显然就是线性空间的维数。从这里我们可以看出，线性空间的基不止一个，在不同的基中，即使同一个向量其坐标也是不同的。
因此，我们可以通过改变基来改变某个向量的具体坐标值。而在同一个基中，将一个向量变换为另一个向量的操作我们称之为线性变换，而这个线性变换也是一个矩阵，这就是矩阵的第二重身份，矩阵是联系两个向量之间的线性变换，向量的这种变换可以是连续的，也可以是跳跃的。而矩阵乘法的意义实际上就是连续两次对一个向量施加线性变换，由于矩阵乘法的不同次序一般会将同一个向量变换为不同的向量，因此矩阵的乘法一般不满足交换律。同一个线性变换在不同的基中是不同的矩阵，可以证明，这些不同基中的不同矩阵如果互为相似矩阵，那么它们描述的是同一个线性变换。
海森伯在1925年发现的量子力学表述形式，实际上是重新发现了矩阵的概念。描述系统状态的量子态就是线性空间的某个向量，而力学量就是施加在向量上的线性变换，也就是矩阵。如果要改变向量的坐标值，海森伯采取的方式是改变描述线性空间的基，这样，描述力学量的矩阵也会随时间演化，这些演化中的矩阵互为相似矩阵，通过求解久期方程就可以得到力学量的本征值。而薛定谔采取的是另一种方式，不改变线性空间的基，而是改变波函数，也就是线性空间的向量，这样，描述力学量的算符不变，通过将算符作用在波函数上得到力学量的本征值。两种方式虽然看上去很不相同，但在数学上是等价的。
正是由于矩阵与线性空间的这些密切联系，才让矩阵在现代科学的各个领域大显身手。当笛卡尔将坐标系概念引入数学，将代数和几何统一为解析几何时，可以说实现了数学史上的一次革命，坐标系的概念简单实用，很快在数学和物理学领域成为必不可少的基础工具。而矩阵的概念不仅仅是复数概念的一种推广，更是坐标系概念的一种扩张，使我们突破了n维直角坐标系的框架，看到了数学世界和物理世界更美的风景。在新兴的计算机科学领域，程序员们对数组这个工具情有独钟，因为数组就是向量，而几组数组就是矩阵。正是线性空间理论提供的强大的数学工具，赋予了数组各种神奇的功能和应用。
通过数学证明还可以发现，矩阵有一个奇特的性质就是可以分块。当把一个大的矩阵通过分块形成几个小矩阵，其运算规则不会发生变化。也就是说，矩阵中的元素可以是实数、复数，也可以是小的矩阵。这从一个侧面更让我们看到了矩阵的整体性，或者说，矩阵本身就是一种超复数。在矩阵这个大家庭里，有一些特殊的矩阵具有自身独特的性质。像非奇异的方阵有自己的行列式和逆矩阵，对称阵、反对称阵和上三角、下三角矩阵在矩阵运算中也有独特的应用。而在物理学中，共轭转置矩阵是其本身的厄米矩阵可以用来表示力学量算符，因为厄米矩阵的本征值是实数，而共轭转置矩阵是其逆矩阵的酉矩阵，则是波函数的演化算符，它的作用是将一个波函数转化为另一个波函数，因此代表着系统的演化。
值得一提的是，线性空间中的基本元素向量，不一定是像线性代数中那样，是一个由n个数组成的行向量或列向量，还可以是某个任意函数。n个甚至无限个正交函数系，比如三角函数系，构成了函数空间中的“直角坐标系”，而任意函数都可以以它们为基底展开，而基底函数前面的系数就是该函数在此基底中的坐标，也就是说，线性空间的元素可以是普通向量，也可以是函数，其维数可以是有限的，也可以是无限维。数学的神奇之处就是在某些看似完全不同的领域中，会有一种共同的抽象结构隐含在它们背后，并遵从同样的规律，总是让我们禁不住去赞叹数学之美。
