渐已“汉化”的利玛窦与罗明坚来到广州，住在专为外国人作招待所的怀远驿，并广结朋友。利玛窦在此结识南京礼部尚书王忠铭，赠与他一幅从未见过的世界地图。利玛窦从西方带来的圣母像、地图、星盘和三棱镜等许多用品。其中还有阿基米德《几何原本》。
文艺复兴时期的欧洲迎来了天文、物理、机械、医学、建筑等各个学科的飞速发展。以达芬奇为代表，在各个领域孜孜不倦的发明着新东西。齿轮、轴承甚至蒸汽机的雏形都已经被制造了出来。利玛窦拿出这些西方的新事物，吸引了众多好奇的中国人。特别是那幅世界地图，令中国人眼界大开。
嘉靖末期，两广总督府由广西梧州迁到肇庆。利玛窦熟知中国官场习气，若传教，必须要得到官府大官首肯。1583年是万历十一年，两广总督郭应聘准许教会派人进入肇庆居留。9月，澳门教会即决定派遣利玛窦与罗明坚赴肇庆传教，建立第一个传教驻地。
利玛窦与罗明坚很乐于学习明朝文士的生活方式，一到肇庆，剃发剃须，换上佛教僧侣服饰。尽管他对道教颇有微词，认为道教和佛教一样是一个“崇拜偶像的宗教”。但他还是改穿儒服，以“道人”自称，去拜见肇庆知府王泮，自称是来自“天竺”僧人，致使王泮以为他们是佛教徒。利玛窦解释说“我们是从遥远的西方而来的教士，因为仰慕中国政治昌明，愿乞一块净土建寺，不事商务，不麻烦府台大人，终生感恩戴德，至死在这里侍奉天主。”王泮听了，对利玛窦有了好感。于是俩人暂居天宁寺之侧，儒生陈理阁家中，每日于住所举行弥撒。屋中摆设着中式家具，挂有字画，书架上有线装书。只是墙上悬挂《坤舆万国地图》，也即世界地图。
传教工作开始得十分低调，俩神父行事小心谨慎，主要精力都在学习汉语和中国的礼节习俗，以博得中国人尤其是官员们的信任。他们身穿认为这样能够博得人们的好感，而且也觉得僧袍与天主教神父的装束相差不大。这也使中国人更加相信他们是远道而来的僧人。他们在这里挂上了圣母玛利亚的画像，许多士人官吏，甚至僧人都来跪拜，他们感到非常兴奋。但是从中国人的角度来讲这更多是出于礼节性的，而没有宗教意义。也有记述说，他们担心中国人看到玛利亚的画像会误认为他们的神是女性的，而改挂了基督像。
利玛窦能说广州话，懂得西医，常为当地民众诊病，几片药就能药到病除，来探访问道，看病求医的人渐多。利玛窦对中国文明非常称赞：中国的除了还没有皈依“神圣的天主教信仰”的洗礼外，“中国的伟大乃是举世无双的”。他认为“柏拉图的理想，在中国已被付诸实践。”他还发现中国人非常博学，“医学、自然科学、数学、天文学都十分精通。”但是他也发现“在中国人之间科学不大成为研究对象。”他还能以古籍引经据典，与文人学士、官员乡绅交往，并经天文地理、数学历法、异国风情为话题，别开生面，谈笑风生。
利玛窦一边行医交友，一边布道，结识的人越来越多。驻肇庆的两广总督刘节斋也成了他的好友，王泮更与之深交。原礼部尚书之子、苏州人瞿太素本热心于炼丹之术。到端州造访刘节斋，与利玛窦邂逅，言谈之间对利玛窦学识与为人十分敬佩，交为挚友。
凭着瞿太素的宣传，以及赠送高官们利玛窦自己制作的天体仪、地球仪和计时用的日晷等西洋物品，利玛窦的名声逐渐在当地的达官贵人中传开。中国官绅士人看到利玛窦所带来的各种书籍，很是吃惊。书印刷到这般精美，相当有技术含量，标志着文明发展程度。尤其墙上悬挂的《坤舆万国地图》引起知府王泮极大兴趣，要利玛窦翻译为汉文，并将中国置于图中央。次年，万历十二年十月，王泮出资刊印这幅汉文世界地图，取名《山海舆地全图》，并分赠各省大员。此图世上现存四幅，分别存于梵蒂冈、日本和英国。1988年在香港曾展出一幅，后于伦敦公开拍卖。这是中国人首次以自己视角俯瞰世界，《明史》谓此图“域中大地尽矣”。清学者刘献廷谓“地圆之说，直到利氏东来始知之”，中国人第一次接触到了近代地理学知识。利玛窦不乏时机，利用解释各种西方事物的机会，同时介绍天主教信仰。
3，仙花寺
万历十三年的1585年8月，王泮将利玛窦与罗明坚所呈申报建寺状转呈刘节斋批准。于是在肇庆西江边新建的崇禧塔旁边建立教堂“仙花寺”。这是中国第一座教堂，王泮亲题两匾，一书“仙花寺”匾悬挂教堂大门；一书“西来净土”挂于圣堂内。教堂内辟有图书仪器室，展出精美西文图书、各式天文仪器，西洋镜、八音琴、自鸣钟、三棱镜、花边织物、油画圣像等。但最令人流连忘返的仍是《山海舆地全图》。
利玛窦写了第一本中文著作《交友论》，来向中国朋友们表示在欧洲他们同样重视友谊，这样的文化传统是符合明朝文人的价值观的。利玛窦“迢遥山海，以交友为务”，不远万里来到中国以示是来中国找朋友的。他与罗明坚用中文翻译第一部《祖传天主十诫》、《主的祈祷》、《圣母赞歌》、《教理问答书》。引起中国人对天主教产生兴趣，于是利玛窦开始派发罗明坚撰写的《天主实录》，以中文解释天主教的教义。但无论是创立“仙花寺”，还是《天主实录》的刊行，中国人始终只以为是佛教流派而已。
在肇庆，利玛窦以传播西方科技之名，进行传教，发殿教徒约80人。尽管他与官民关系都不错，但当地人还是称他为“番鬼”。尤其罗明坚因未能处理好诸方关系，被澳门教会召回，罗马教皇遣为使节去进京谒见皇帝。只留下利玛窦和麦安东神父主持肇庆教堂事务。1589年，事态有所发展，当地一些乡绅反对教会，甚至唆使一些小孩爬上崇禧塔向教堂扔石头，叫嚷要驱赶“番鬼”。
万历十七年（1589年）夏天，广东新任总督将利玛窦所住的西式建筑据为己有。刘节斋只得让利玛窦改赴韶州南华寺居留，并派官兵护送。在韶州，他建立起第二座天主教堂。1591年麦安东神父逝世，1593年石方西神父也辞世了，只剩下利玛窦一人在中国传教了。
在韶州，利玛窦传教之余攻读《四书》，并译为拉丁文。向西方宣扬中国传统文化。他还著述介绍中国的风情民俗，推介南方特产龙眼、荔枝、柑桔等水果。最令利玛窦兴奋的是，他又重逢挚友瞿太素，通过交谈，瞿太素对利玛窦了解更深，更佩服得五体投地，于是彻底放弃炼丹之术，跟随利玛窦两年，学习天文数学，成为他得力助手，帮助他翻译了阿基米德《几何原本》第一卷。
通过与瞿太素和其他许多中国上流社会人士的接触，利玛窦发现自己先前的佛教僧侣装扮在当时的中国社会并不受到尊重，社会地位也比较低下。为了更方便与中国的官员交往，在征得范礼安的同意后，从1594年起，利玛窦开始蓄发留须，并穿起了当时儒士的服装。利玛窦则利用他丰富的学识，结交了很多中国教友，比如徐光启、李之藻、瞿太素、冯应京等名流学士。他们既是他的朋友，也是他在中国的保护人。这些人受西方科技文化的影响信教，与利玛窦一起翻译出版了许多西方著作。
其中最为人所熟知的，应该是利玛窦和徐光启翻译的《几何原本》前六卷。在翻译时，取“geo”的音为“几何”，而“几何”二字中文原意又有“衡量大小”的意思。几何学中最基本的一些术语，如点、线、直线、平行等中文译名，都是这个译本定下来的。徐光启是当了大官的科学家，文渊阁大学士、礼部尚书。撰有《农政全书》主持编译了《崇祯历书》。此间他向利玛窦学习当时西方先进科技知识，并因此接受洗礼，成为明代官员中信天主教的“圣教三杰”之一。
三年后，利玛窦因事回了肇庆一趟，正巧碰到著名剧作家汤显祖因贬官回乡路过肇庆，两人有缘相会。利玛窦向汤显祖介绍了不少前所未闻的事物，并促使汤显祖为此到澳门一行。这使得汤显祖思想大进，对他以后的创作产生极大的影响。
利玛窦以传播西方科技知识为名，在华传教27年，在广东活动12年，在韶州居住6年。使南海沿海的广东对世界的认识，对西方科技的重视，大开风气之先。明末清初，广州人比内地人更早地掌握造钟、修钟技术，以致有“广钟”之誉。广彩陶瓷吸收了西洋画法，岭南近代建筑也融入了西方风格。广州市面上已经有自鸣钟、风琴、玻璃镜、千里镜等精巧奇妙的器具出现。“以奇器科取人”重视科技，更是蔚然成风。
而利玛窦的目标是要将宣讲福音播至北京。1595年，他北上进京。并获被任命为耶稣会中国教区区长，历居南昌、南京、北京。除与徐光启等人合作著书，还翻译了《天学实义》、《测量法义》等科技专著。他还写了《畴人十篇》、《徐光启行略》等有关我国科技界人士的传记文章。播下了中西文化交流的种子，翻开了中国人学习西方近代科技知识的新一页。他主张将孔孟之道和宗法敬祖思想与天主教相融合。在致力介绍西方文化同时，将中国传统文化介绍到西欧，不愧是“沟通中西文化的第一人”。
