早在曹魏时代的正始（240—249年）年间，王弼、何晏等人就以“好庄老玄胜之读”而引起社会的共鸣。到西晋永嘉（307～313年）时代以后，玄学逐渐成为了全国思想界、哲学界和文学界的中心学派。《周易》、《老子》、《庄子》被称为“三玄”，因为《易》谈阴阳变化，《老子、》、《庄子》谈天道，都是玄而又玄的东西。晋元帝建武元年（317年）东晋南渡，经济文化崩溃，江左草创，士族不但不面对现实，寻求上进，相反竭力逃避现实，以空虚的玄言诗来麻醉自己，以求自我主观上的满足。
玄言诗的大盛与老庄佛理融汇，与郭璞、许询和孙绰三人密切相关，弥漫诗坛近一个世纪。东晋一代，文人名士以不谈玄学为耻。其时，佛学书已传播，且被文人名士之所接受，但他们对佛理还不象对老庄那样十分熟悉，因而老庄成为当时文人名士间时髦话题。《世说新语》载，孙绰和支道林（名僧）一同去拜见王羲之，正值王羲之要出门，车已备好停在门外。支道林说：“请稍等一下，我与您讲几句话。”随口便论述庄子的《逍遥游》，口若悬河，才藻新奇。王羲之立刻下车更衣，留他作终日谈。许询年少时，自以玄学为最佳，人们把他比作王修，他很不满意。一次，众人都在会稽的西寺谈玄，许询专门跑去与王修辩驳，使其难堪。对于玄学领悟的高低，成为文人名士的品评标准。郭璞是玄言诗的倡导者，他的《游仙诗》虽也有“漆园有傲吏，莱氏有逸妻”，“啸傲遗世罗，纵情在独往”等佳句，但纵观其诗，深察其味，又是借老庄之言而表达慷慨悲愤之意的。玄言诗的大作家，以许询、孙绰为代表。《隋书·经籍志》载孙绰有诗集十五卷，许询诗集三卷，但都已佚失。因为他们的诗是老子《道德经》的讲义，《庄子》的注疏。所以孙、许二人都自诩甚高。有人问孙绰，你对自己的评价如何，孙绰说：“远咏老庄，萧条高寄，不以时务经怀，自谓此心无所与让也。”又有人问孙绰，你与许询比较，谁的诗更好的？他说：“高情远致，弟子蚤已服膺；一吟一咏，许将北面。”对自己评价甚高。他们不仅自我欣赏，世人也对他们的诗也衷心推崇。许询曾造访简文皇帝，当夜风静月明，两人共作曲室闲谈，许询辞寄清婉，使简文皇帝大加感叹，与他促膝长谈，通宵达旦，并佩服地说：“你的五言诗，真可谓妙绝时人。”
玄言诗不仅内容上贫乏空虚，而且把诗味、诗形都抛弃了。诗歌要发展，必然要改换一种新形式。这便是山水诗的兴起的原因，并以义熙元年（405年）谢琨的诗出现为标志。谢琨和殷仲文留下来的诗并不多，从实际看，山水诗是从玄言诗中脱胎并演化而来的。山水本来就是自然的一部分，也是道家理想的表现，所以谈玄和游览山水是很难分开的。玄言诗的大家孙绰就曾“居于会稽，游放山水，十有余年。”晋室南渡以后，南方秀丽的自然环境和名士们追求自然的心境相结合。顾长康从会稽还，人问山水之美，顾云：千岩竞秀，万壑高流，草木蒙笼其上，若云兴霞蔚。王献之也曾说：“从山阴道上行，山川自相映发，使人应接不暇。若秋冬之际，尤难为怀。”这样，在玄言诗兴起的同时，山水的美已感发了文人名士的灵感，但由于中心涡流的影响，对于山水美的感受也只能零星地夹杂在玄言诗之中。随着“庄老告退，山水方滋”，山水诗才逐渐从玄言诗的束缚中挣脱出来，成为东晋后期一直到齐代文学的主流，也成为这一时代对于中国文学和艺术的绝大贡献。由玄言诗到山水诗的转变，并不是文人名士的思想和对于宇宙人生的认识观的改变，而主要是一种感，一种媒介的变化。
山水诗是由谢灵运开创的而逐渐占领诗坛的，并由谢眺发扬光大而最终取代了玄言诗的。二谢是山水诗蓬勃推进的主力军。谢灵运生于晋太元十年（385年）。他是车骑将军谢玄的孙子，年少时代就以“好学，博览群书”和文章美而闻名朝野。他不耐寂寞而又富于创新，性情奢豪，车服艳丽，对于自己穿用的衣服和器物，经常改换样式，而每一次的改换总被世人接受并受到推崇。最著名的就是“谢公屐”，谢灵运在诗歌领域也同样身手不凡，他最先以大量的山水诗“实绩”向兴盛一时的玄言诗发起了冲击。他写山水诗，与他的爱好分不开。谢灵运热爱大自然。宋景平元年（423年），他任永嘉太守时，郡内有名的山水，他都“肆意游遨”，有时“遍历诸县，动逾旬朔”，甚至连民间听讼的官司，也不很关怀。每到一名胜佳地，都有新作出现。这些诗作只要有传进城市，不管是仕宦人家还是平民百姓，都争相抄传，一夜之间，全城尽知，远近钦慕，名声直达京师。景平二年（424年）宋文帝登基以后，谢灵运见原来官位不如自己高的人都超过自己，心中十分气愤，便经常称有病不上朝，却在家里“穿池植援，种竹树槿”。有时外出游览，一日行走一百六七十里，甚至经旬不归。他对于游历名山大川有着持续不衰的热情和癖好，“寻山陟岭，必造幽峻，岩障千重，莫不备尽。”有一次去临海观赏风景，他特地选最难走的一条路，跟从者有几百人，伐木开道，轰轰烈烈，临海太守甚至以为土匪来了。文帝让他任临川内史，他却本性难改，“在郡游放，不异永嘉”。谢灵运的山水诗，基本都这样创造出来的，因而诗中不乏清新动人之句，例如“密林含云情，远峰隐半规”，“野旷沙岸净，天高秋月明”，“孟夏非长夜，晦明如岁隔”等等，特别是景平元年初春写的“池塘生春草，园柳变鸣禽”是他一生中最名盛的山水诗句。他对这两句诗也十分满意，曾对人讲，这两句诗是在梦中遇见谢惠连时突然冒出来的，正所谓“此语有神助，非吾语也”。谢灵运写山水诗是由爱好而致的，他对于玄言诗的进攻也是不自觉和无意识的，他虽然从玄言诗的营垒中冲杀出来，但他的山水诗毕竟还没有摆脱玄言诗的束缚。他的作品被人们称作“有句无篇”，就是因为他的作品有老庄余音，爱引经聚典，且过于雕琢，一篇或几篇中才偶有一二佳句。谢眺生于刘宋末期的大明八年（464年），大部分文学活动都在齐代。谢眺继承了谢琨的传统。青少年时代即以“好学，文章清丽”而闻名，后任宣城太守。他的诗大多是此时写成。宣城是当时江南大郡，经济发达，又有敬亭、双溪等名胜，因此，他在宣城所写的山水诗，脍炙人口的佳句颇多，例如“寒城一以眺，平楚正苍然”，“苍翠望寒山，峥嵘瞰平陆”，“余雪映青山，寒雾开白日”等等。但是谢眺仕宦之路不顺，三十六岁就被下狱死去。他的诗歌对黑暗现实和仕途充满不满和畏惧。由于有这么一股情感在胸中骚动，所以他的山水诗成就很大，不但彻底摆脱了玄言诗的影响，而且极为清俊秀丽，当时的一代文宗沈约说他“每诵名句，渊然泛然，觉笔黑之中，笔黑之外，别有一段深情妙理。”不但其“余霞散成绮，澄江静如练”，“鱼戏新荷动，鸟散余花落”等佳句象萧疏淡远的水墨画，而且每首诗都以流动的情感贯穿始终。他不再是“有句无篇”，而是全篇浑然一体，因此有人说他的山水诗“已有全篇似唐人者。”经过大谢，特别是小谢的拨乱反正，玄言诗终于从诗坛上销声匿迹了。山水诗的兴起，前继玄言诗而后启唐诗，成为中国诗史上一个著名的过渡阶段。
