19世纪末到20世纪初，数学也像物理学一样，迎来了一个激烈的变革时期。一方面人们开始接受康托尔的集合论作为统一数学的基础，但不久又在其中发现有悖论，从而出现了严重的数学危机。另一方面，作为未来数学的主要方法——公理化方法由希尔伯特所奠定，他在1899年发表的《几何学基础》对于20世纪的数学给予很大的启示。在他的推动下，形成了一个小小的公理化热潮。1900年，希尔伯特在第二届国际数学家大会上提出著名的23个问题，其重点是数学基础及公理化问题，但其他大部分问题，是继承19世纪的数学传统，虽有继往开来的作用，但与20世纪数学的主要发展路线关系不太密切。20世纪初，数学越来越趋于抽象化，抽象群论的研究、法国数学家勒贝格的测度论和积分论、希尔伯特的积分方程理论、法国数学家弗瑞歇的抽象空间理论、代数学的一些公理化理论相继出现，连同组合拓扑学的建立，预示着以代数学和拓扑学为中心的现代数学翻天覆地的变化。泛函分析的出现大大改变了分析的面貌，而且给量子物理学准备了现成的工具。与以前的数学比较，20世纪数学有如下特点：
1.数学不再只是数论、代数、几何、分析几个相对独立的部分，而是随着集合论的出现涌现出大量的新学科、新分支、新理论。例如：数学基础与数理逻辑(以及分化出来模型论、递归论、证明论)，抽象代数学(包括群论、环论、域论、同调代数学、代数K理论、格论以及各式各样的代数结构)，一般拓扑学、代数拓扑学、微分拓扑学、拓扑群理论(及其他拓扑代数，包括李群)、代数群理论、测度与积分论、泛函分析、随机过程论等等。几乎所有应用数学和与计算机有关的数学部门都是20世纪的产物，即使是经典的数学部门，面貌也已完全改观。比如说，19世纪以前的代数学主要研究代数方程及代数方程组的求解问题，19世纪出现了研究代数方程代换群的伽罗瓦理论、线性代数学、不变式理论，而现代的代数学已经是群论、环论、域论及同调代数学等分支，而那些经典内容总共也已经占不到百分之几了。
2．数学不再像过去那样只是解决特殊问题、寻求特殊算法的学科，而是在结构的概念下有统一的对象、统一的方法、有自身独立的问题的独立学科，它不仅研究数与形，而主要是研究各种结构，其中特别是代数结构、拓扑结构、序结构，以及这些结构互相混合和杂交产生的各种多重结构，从而给20世纪数学带来无比丰富而深刻的内容。结构观念进一步发展或范畴及函子的概念，对统一数学的思想起着很大的作用，思想的统一及方法的深化，促进许多经典问题的解决。
3．数学的内容越来越复杂、越抽象。非但没有使得它脱离实际，而且以数学本身发展出来的许多观念给物理学、化学、生物科学等提供了许多有力的工具，比如黎曼几何学及张量分析对于广义相对论，泛函分析对于量子力学及量子场论，乃至近年纤维丛理论、微分几何学及代数几何学对于规范场理论、群表示论对于原子结构、核结构、基本粒子分类都好像是定做的工具，不止一次地引起物理学家的惊异。甚至像1917年发现的拉东变换在四五十年后都对医学上检查肿瘤不可缺的X射线层析仪提供理论基础。第二次世界大战前后，电子计算机的问世以及许多门应用数学的发展更是为数学的应用开辟了无比广阔的前景。反过来，实际问题及应用数学又为纯粹数学提出来许多新概念、新问题，甚至于推动许多经典难题的解决。比如用规范场理论推动四维拓扑学取得重大突破。
4．随着电子计算机的发明，无论是纯粹数学还是应用数学都受到电子计算机的强烈影响，数值分析已形成一门独立的数学分支，现在的数学计算方法如果不能上机器那就要大为减色，许多方法(如单纯形法、蒙特卡罗法、有限元法、卡尔曼滤波等等)的优越性就在于它们能够与计算机很好地配合。这样许多应用数学问题可以进行计算机试验，而逐步得到解决。不仅如此，许多纯粹数学问题也在计算机帮助之下得到证明，其中最突出的就是1976年阿佩尔及哈肯借助计算机证明四色猜想。机械化证明可望减轻数学家某些重复、繁琐的劳动，而集中于更重要的数学问题的解决。
20世纪的数学可以第二次世界大战为界划为前后两期，前期约1870年到1940年，可以说是现代数学的萌芽时期。数学由以算为主过渡到以研究结构为主，把数学统一在集合论的基础上。其标志是数理逻辑、抽象代数学、测度与积分论、拓扑学、泛函分析等五大学科的诞生，到30年代布尔巴基学派用数学结构的概念统一数学，陆续出版多卷本《数学原理》，成为战后数学的经典。1940年以后，是现代数学的繁荣时期，纯粹数学以拓扑学为中心得到迅猛发展，同时，随着计算机的出现，应用数学及计算数学也取得空前的进步，对于科学及社会都起着越来越重大的作用。
(一)五大新兴学科的建立
一、数理逻辑
1.符号逻辑
数理逻辑作为一门数学学科，来源于对数学和逻辑基础的探讨，它最早可追溯到莱布尼茨，他关于逻辑演算的观念预示着布尔代数，而英国数学家布尔在1847年出版《逻辑的数学分析》一书，正式推出所谓布尔代数，在逻辑上相当于命题演算。其后由英国数学家杰方斯和小皮尔斯在1874年加入次序关系，德国数学家施罗德在他的《逻辑代数讲义》第一卷中加以公理化。第一个完全形式化的语言是德国数学家弗瑞格在1879年出版的《概念文字》中引进的。他首先定义了全称量词及存在量词。并引进一般的谓词逻辑。不过相应的逻辑代数一直到1950年才由波兰数学家塔斯基所发展，他引进所谓“圆柱代数”。1955年美国数学家哈尔莫斯又引进多进代数，形成一般的逻辑代数理论。1889年意大利数学家皮亚诺提出自然数的公理系统，即后来所谓皮亚诺算术公理。而戴德金在前一年也提出类似的公理系统。弗雷格在1884年出版的《算术基础》中开始提到算术无非是扩展的逻辑。戴德金也提出类似的观点。弗雷格在1893年出版的《算术的基本规律》第一卷中，用五条逻辑公理来推导算术命题。1902年6月罗素给弗雷格一封信，提出著名的罗素悖论，并指出弗雷格的矛盾。弗雷格在1903年出版的《算术的基本规律》第二卷附录中承认这是对他的巨大打击，正是这个悖论，揭开了数理逻辑新的一章。
2．罗素悖论
罗素的悖论是关于集合论的，康托尔已经意识到不加限制地谈论“集合的集合”会导致矛盾。其他人也发现集合论中存在矛盾。而罗素在1903年出版的《数学的原理》中，则十分清楚地表现出集合论的矛盾，从而动摇了整个数学的基础。罗素的悖论是说：可以把集合分成两类：凡不以自身为元素的集合称为第一类集合，凡以自身作为元素的集合称为第二类的集合，每个集合或为第一类集合或为第二类集合。设M表示第一类集合全体所成的集合。如果M是第一类集M∈/M，但由M的定义，M∈M，导致矛盾。如果M是第二类集合，现M∈M，但由M的定义，第二类集合M∈/M，同样也导致矛盾。现了这个矛盾之后，导致第三次数学危机，在数学界出现了各种意见，从抛弃集合论到尽可能保持集合论在数学中的基础地位的都有。由于20世纪数学的发展主流是建立在集合论基础之上，这里只考虑数学家如何消除悖论。在20世纪初，大致有两种办法，一个办法是罗素的分支类型论，它在1908年发表，在这个基础上罗素与怀特海写出三大卷《数学原理》，成为数理逻辑最早一部经典著作。还有一个办法是公理方法限制集合，由此产生公理集合论。
3．集合论的公理化
康托尔本人没有对集合论进行公理化。集合论公理化是策梅罗在1908年发表的。富兰克尔等人曾加以改进，形成著名的ZF系统，这是最常用的一个系统，因此大家都希望从中推出常用的选择公理(1904年策梅罗引进它来证明康托尔的良序定理)以及著名的连续统假设(即第一个基数ω0与2ω0之间没有其他基数)等。
1940年哥德尔证明，选择公理和连续统假设与ZF系统是相容的。1963年，柯亨发明“力迫法”证明这两条“公理”的否定也不能在ZF系统中证明，从而推出其独立性。
4．希尔伯特纲领
为了使数学奠定在严格公理化基础上，1922年希尔伯特提出希尔伯特纲领，首先将数学形式化，构成形式系统，然后通过有限主义方法证明其无矛盾性。
1928年希尔伯特提出四个问题作为实现其纲领的具体步骤：
(1)分析的无矛盾性。1924年阿克曼和1927年冯·诺伊曼的工作使希尔伯特相信只要一些纯算术的初等引理即可证明分析的无矛盾性。
1930年夏天，哥德尔开始研究这个问题，他不理解希尔伯特为什么要直接证明分析的无矛盾性。哥德尔认为应该把困难分解：用有限主义的算术证明算术的无矛盾性，再用算术的无矛盾性证明分析的无矛盾性。哥德尔由此出发去证明算术的无矛盾性而得出不完全性定理。
(2)更高级数学的无矛盾性。特别是选择公理的无矛盾性。这个问题后来被哥德尔在1938年以相对的方式解决。
(3)算术及分析形式系统的完全性。这个问题在1930年秋天哥尼斯堡的会议上，哥德尔已经提出了一个否定的解决。这个问题的否定成为数理逻辑发展的转折点。
(4)一阶谓词逻辑的完全性，这个问题已被哥德尔在1930年完全解决。
这样一来哥德尔把希尔伯特的方向扭转，使数理逻辑走上全新的发展道路。
5．哥德尔的三项重大贡献
除了连续统假设的无矛盾性之外，哥德尔在1929～1930年证明下面两大定理：
(1)完全性定理：哥德尔的学位论文《逻辑函数演算的公理的完全性》解决了一阶谓词演算的完全性问题。罗素与怀特海建立了逻辑演算的公理系统及推演规则之后，数学家最关心的事就是公理系统的无矛盾性及完全性。所谓完全性就是，每一个真的逻辑数学命题都可以由这个公理系统导出，也就是可证明。命题演算的完全性已由美国数学家波斯特在1921年给出证明。而一阶谓词演算的完全性一直到1929年才由哥德尔给出证明。
(2)不完全性定理：这是数理逻辑最重大的成就之一，是数理逻辑发展的一个里程碑和转折点。
哥德尔证明不完全性定理是从考虑数学分析的无矛盾性问题开始的。1930年秋在哥尼斯堡会议上他宣布了第一不完全性定理：一个包括初等数论的形式系统，如果是无矛盾的，那就是不完全的。不久之后他又宣布：如果初等算术系统是无矛盾的，则无矛盾性在算术系统内不可证明。
哥德尔的不完全定理造的是一个不自然的数论问题，数学家一直希望在一阶皮亚诺算术中找到一个数学表述既简单又有趣的数论问题，就像哥德巴赫猜想或费马大定理来说明算术的不完全性。这一直到1977年才由巴黎斯等人造出，这更加证明希尔伯特纲领是不可能实现的。
6．哥德尔以后的数理逻辑。哥德尔的不完全性定理从根本上动摇了数学的基础，它指出绝对的无矛盾性的证明是不可能实现的，数学家只能限制自己的领域及要求。数理逻辑也成为一个专门的学科，它分成四大分支：证明论、递归论、公理集合论及模型论，它们都在30年代发展起来。证明论仍然继续希尔伯特纲领，但不得不放宽有限主义的条件。其中最主要的成就是根岑在1934年用超穷归纳法证明自然数算术的无矛盾性。递归论也奠定基础，1935年克林尼定义一般递归函数，1936年图林提出图林机概念。同年车尔赤提出车尔赤论点：任何有效可计算函数均等价于一般递归函数。递归论与数学关系至为密切，它不仅为计算机科学奠定基础，同时一系列判定问题则直接涉及数学基本问题：如群的基本问题是问什么时候两个群同构，对于有限表出群是1908年提出的，到50年后，前苏联数学家阿其扬在1957年及以色列数学家拉宾在1958年独立证明这问题是不可解的。在这个基础上，小马尔科夫证明拓扑学的基本问题——同胚问题也是不可解的，1970年最终证明希尔伯特第十问题是不可解的。模型论首先是处理真假问题，它指出一系列命题在某些模型下为真，而在另外模型下非真。其次它构造一批非标准模型。1934年斯科仑给出整数的非标准模型，1961年鲁滨孙提出非标准分析，使莱布尼茨的无穷小合法化，创立了非标准数学。
二、抽象代数学
代数学与拓扑学是现代数学的两大部门。它们构成现代数学的基础与核心。没有代数学和拓扑学，现代数学(除了那些较为孤立的、相对地讲不太重要的学科)可以说寸步难行。
抽象代数学或近世代数学是在20世纪初发展起来的。1930——1931年范·德·瓦尔登的《近世代数学》一书问世，在数学界引起轰动，由此之后，抽象代数学或近世代数学成为代数学的主流，不久之后也就理所当然地把“抽象”及“近世”的帽子甩掉，堂而皇之成为代数的正统。
范·德·瓦尔登的书至今仍然是代数学的模式。它是根据德国女数学家E.诺特和德国数学家阿廷的讲义编写而成，在精神上基本来源于他们两位，特别是诺特，被公认为“近世代数学之母”。在诺特之前，不少大数学家都对近世代数学有过这样或那样的贡献，但是这种与经典代数学迥然不同的思想主要来源于戴德金和希尔伯特，戴德金不仅引进大多数抽象代数观念——如理想、模、环、格等，而且初步研究它们的结构及分类，而希尔伯特的抽象思维方式及公理方法则对现代整个数学都有举足轻重的影响。
抽象代数学的研究对象与研究目标与经典代数学有着根本的不同：经典代数学的主要目标是求解代数方程和代数方程组，而抽象代数学的目标则是研究具有代数结构的集合的性质，刻画它们并加以分类，这些对象是用公理定义的。
1.域论
