16世纪末，天主教耶稣会传教士开始来中国进行活动。在传教的同时，也带入西方的一些科学文化，数学是其中之一。先后来中国并给中国数学带来影响的传教士有利玛窦、罗雅谷、邓玉涵、汤若望、穆尼阁等人。由于明代末年改革历法的需要，当时西方数学的一些主要内容受到了中国学者的重视。这些内容包括欧氏几何、三角学、对数、圆锥曲线理论、笔算方法和一些计算工具等。对于处在沉寂时期的明代数学来说西方的这些数学知识的传入无疑起到了增添新鲜血液的效果，在相当程度上激发了中国数学家们学习和研究的兴趣，为中西数学的融会贯通迈出了重要的一步，早期译著与研究外国数学主要是印度和阿拉伯数学在唐宋就时有传入中国，但由于中国数学当时成就卓殊，处于先进地位，又自成主流，因此外国数学对它的影响不大。这与明末出现的西学东传情况不同。明朝，中国数学的发展处于低潮，与欧洲文艺复兴却好形成对照，欧洲数学已进入对古代希腊数学进行吸收消化时期，而且出现新的创造，其中突出的有：德国的雷基奥蒙斯坦发表纯三角学著作；意大利的阿尔培尔提出投影和截景概念，奠定了透视法的数学基础；帕奇欧里著《算术集成》；卡尔丹发现三次方程的代数解法；耐普尔的对数；韦达的符号代数等等，这些都代表了当时数学的最高水平。西方数学的主流终将通过各种途经进入中国，并与中国传统数学相结合，成为新发展的基础。
最早译成中文的西方数学著作是古希腊数学家欧几里得的《原本》，译者是意大利传教士利玛窦和中国明代学者徐光启。
利玛窦生于文艺复兴以后的意大利。16岁学法律，19岁进天主教耶稣会学校，并随德国著名数学家克拉维斯学习数学。1583年利玛窦受耶稣会派遣来中国传教，期间，他用传教机会，积极向中国知识界介绍西方文化和风土人情，同时教授天文地理及数学知识。利玛窦与徐光启的结合是颇有意义的。徐光启最早见到利玛窦是在1600年，后来徐光启进士及第上北京，而利也正在北京，于是两人加深交往，徐与利互相学习中西科学知识，开始了近代中西科技交流的新时代。
利、徐翻译的《原本》，是克拉维斯的注释本。全书共15卷，包括欧氏原来的13卷和后人增补的2卷。但译文仅前6卷。徐光启原想译完全书，由于利玛窦认为6卷已够充实中国数学，执意中辍。《原本》翻译自1606年秋开始，于1607年5月完成，译本取名为《几何原本》。几何两字取义中文的多少，扩义为数学。所以《几何原本》即数学原本。“几何”一词原先尚未作为关于图形知识的专门名称。相当于现在几何这个词的古代名称叫“形学”。此时除了创用了几何这一名词外，《几何原本》中确定的一些数学名词，如点、线、直线、曲线、平行线、角、直角、锐角、钝角、三角形、四边形等都极大地充实进了中国数学之中。《几何原本》译出后给中国数学产生了积极的影响。它使中国学者看到了西方数学中的严密的逻辑演绎形式。逻辑演绎不仅是推证命题的手段，而且是数学理论结构的基本形式。徐光启推崇《几何原本》为“度数之宗”。在“几何原本杂议”中，徐光启更对《几何原本》推崇备至。他说“此书有四不必：不必疑，不必揣，不必试，不必改。有四不可得：欲脱之不可得，欲驳之不可得，欲减之不可得，欲前后更置之不可得。有三至三能：似至晦，实至明，故能以其明明他物之至晦；似至繁，实至简，故能以其简简他物之至繁似至难，实至易，故能以其易易他物之至难。易生于简，简生于明，综其玄少在明而已。”可以这样说，西方数学的引入对于中国知识分子思想震动是很大的。他们认为西方数学“能令学理者祛其浮气，练其精心，学事者资其定法，发其巧思，故举世无一人不当学。”清代许多对数学有兴趣的人都喜欢读《几何原本》，还先后出现了一些讨论有关《几何原本》内容的作品，如孙元化的《几何体论》、《几何用法》（1608），方中通的《几何约》（1661），李子金的《几何易简录》（1679），杜耕知的《几何论约》（1770），梅文鼎的《几何通解》等。此外，一些数学著作在不同程度上吸收了《几何原本》中的论证方式和体例。中国近代数学开始了中西数学合流的前进步伐。
在与利玛窦合译了《几何原本》之后，利玛窦又与李之藻合作编译出版了《同文算指》一书。《同文算指》是根据克拉维斯的《实用算术概论》（1585）与程大位的《直指算法统宗》（1592）两本书编译而成的。全书分“前编”、“通编”、“别编”三编，整个内容限于算术的范围。但由于书中详细介绍了欧洲通行的笔算，对于失去了筹算而珠算尚不足以充分表达数学内容的中国数学家来说，它仍具有很大的吸引力。事实上，作为介绍欧洲笔算的第一部著作，《同文算指》对中国后来的算术有着巨大的影响。
李之藻除了与利玛窦合译了《同文算指》外，还翻译一些天文学和哲学方面的著作，其中哲学著作《名理探》以及《天学初函》在明末流传极广，在清代也有相当影响。
除了《几何原本》和《同文算指》外，17世纪译出的西方算书还有《圆容较义》、《测量法义》、《欧罗巴西镜录》等。
《崇祯历书》与《历学会通》
1629年（崇祯二年），徐光启首次应用西方天文学和数学正确推算日蚀，从此西方天算受到崇祯朝廷的重视。同年七月，礼部决定开设历局，由徐光启组建。于是，一些西方传教士，如龙华尼（意大利人）、邓玉函（瑞士人）、汤若望（德国人）、罗雅谷（意大利人）先后参与了中国的历法改革工作。从1629年至1643年，明亡止共完成了《崇祯历书》137卷。满清入关之后，继续修订历法，到1645年，在崇祯历书基础上，编成《新法历书》100卷。
《崇祯历书》主要内容是介绍当时欧洲天文学家第谷的地心学说，由于西方天学家十分强调以数学作为理论基础，所以《崇祯历书》包括了不少的数学内容，尤以平面几何学与球面三角学居多。属球面三角学的专门著作有邓玉函编的《大测》2卷和《割圆八线表》6卷，罗雅谷撰写的《测量全义》10卷。
《大测》意为普遍测量之法，因其“大于他测，故名大测。”其实，内容局限于八条三角线的定义、性质、三角函数表的造法和用法，与现代三角学还有很多差距。主要的三角公式有：
所有公式都是为造三角函数表而设立的。
比起《大测》来，《割圆八线表》所载的三角函数表要精密些。《大测》中载的是每隔15′的四位三角函数表，《割圆八线表》载的是每隔1′的五位三角函数表。
《测量全义》则在三角理论的内容方面比《大测》多，除正弦定理、正切定理外，还有同角三角函数的关系、余弦定理、积化和差公式等。《测量全义》还包含了一些圆锥曲线方面的内容，如不同方向的截面截圆锥所成的各种圆锥曲线，但对圆锥曲线性质未作详细讨论。可见当时对圆锥曲线意义的认识是不足的。
西方传教士除了在官方机构——历局中活动以外，还在民间与一些学者合作编写了《天学初函》59卷，《历学会通》56卷。
《历学会通》是一部试图会通中西之法的历学著作，内容以天文历法为主，兼及数学、医药、物理学、水利和火器等。数学内容集中在《比例对数表》（1653）、《比例四线新表》和《三角算法》（1653）之中。前二篇介绍了17世纪初由耐普尔和布列格斯等人发明的对数，三角函数对数表是其中的主要内容，实用性较强，理论阐述相对薄弱。17世纪西方数学中的三大成果——对数、解析几何和微积分，其中对数被率先介绍进中国。这虽然是由于对数发明的时间最早（1614），参与编著《历学会通》的穆尼阁是波兰人，他于1646年来华的时候距解析几何的产生仅9年，而微积分尚处在雏形阶段的缘故；然而对数实用性较强，容易受到中国学者的重视也是一个潜在原因。
《三角算法》是一篇三角学方面的著作，其内容的完整程度超过《大测》。除了比《大测》增加了半角公式和半弧公式以外，所有的公式都以对数形式出现，以利于天文计算。由于这些三角著作过于顾及三角知识在天文学上的应用，因此理论阐述都较薄弱，致使中国学者未能及时作出新的发展。
梅文鼎
这个时期（指17世纪60年代至18世纪30年代）最重要的数学家是梅文鼎。另外，还有杨作枚，王锡阐、方中通、李子金、杜知耕、陈訏、陈世仁、屠文潴、庄亨阳、年希尧、梅毂成、明安图等人，其中除了年希尧是北方锦州人，明安图是蒙古人外，其余大多是南方人。这与明代以前的状况有了很大的不同。
梅文鼎
梅文鼎，安徽宣城人，生于1633年，卒于1721年，是清代著名的学者、数学家、天文学家。他从小喜欢观察天象，1661年拜历学家倪观湖为师，此后一直从事天文历法研究。由于他深感“不明算数，则历书不可得而读”，所以将很多的精力用于数学研究。事实上，他的数学成就超过了历学成就。晚年，他自撰《勿庵历算书目》共88余种，数学占26种。1761年，梅文鼎的孙子梅毂成编辑《梅氏丛书辑要》60卷，收数学著作13种共40卷，占全书的三分之二。全书反映了梅文鼎对中西数学“拔取其长，而理唯其是”的态度。
梅文鼎的数学研究遍及初等数学的各个方面，每个方面的著述都很丰富。其中属算术方面的主要有：《笔算》、《筹算》、《度算释例》、《比例数解》；属几何方面的主要有：《勾股举偶》、《几何通解》、《方圆幂积》、《几何补编》、《几何摘要》；属代数方面的主要有；《平三角举要》、《弧三角举要》、《环中黍尺》和《堑堵测量》等。
梅文鼎数学成就的意义在于，他以中国数学中的习惯形式介绍了笔算，从而推进了笔算在中国的使用；他复兴了中国传统数学中使用割补术证明几何命题的形式；又将中国数学中的勾股理论用于讨论欧氏几何中的命题，为中西数学的会通作了榜样；他大力推进了中国数学对于立体几何的研究；他的《平三角举要》和《弧三角举要》则是中国人自己编写的最早的一套三角学教科书，其中球面三角形图解法是他在三角学上的重要创造。
虽然从总体上说17世纪的中国数学已经落后于西方数学，但梅文鼎仍以其杰出的工作为复兴中国数学和介绍西方数学作出积极的贡献。他是中国传统数学处于沉寂和复苏交接时期的一位承前启后，融合中西的数学大师。
