就在北齐与陈霸先签订和约还不到三个月，北齐就撕毁和约，向江南再一次发动了大规模的进攻，北齐派仪同三司萧轨为统帅，与任约、徐嗣徽率兵十万，浩浩荡荡地向江南扑来。他们渡过长江，占据了江南的一些地方。陈霸先率领江南军民奋力抗击。江南人民对北齐鲜卑军队在江南的暴行充满仇恨，他们积极支持陈霸先的军队。当他们听说陈霸先军队粮食发生困难时，就用荷叶包饭，夹上鸭肉，去慰劳军队。北齐军的处境就十分悲惨了。建康城附近的军民已疏散，他们没地方去抢掠，军粮供应不上，将士忍饥受饿。又赶上南方连日大雨，平地积水丈余。齐军昼夜坐立在泥中，手脚都泡烂了，战斗力大大削弱。陈霸先的军队在江南人民的支持下，终于打败了北齐的十万大军。北齐军损失惨重，逃回江北的不过二三万。带兵的将帅自萧轨以下，几乎全部被俘。徐嗣徽和王僧智也都被砍头。
陈霸先抗齐的胜利，使江南经济免遭浩劫，江南百姓避免了一次鲜卑贵族的蹂躏。另一方面，这也使陈霸先的威望大增。这时萧氏宗室王已再无力与他对抗，皇帝萧方智只是个孤立无援的小孩子，傀儡一个。陈霸先觉得夺取帝位的时机已经成熟，所以就在557年（太平二年）十月，令梁敬帝禅位给他。陈霸先经过十余年的奋斗，终于登上了皇帝的宝座，国号陈，改元为永定元年，他就是陈武帝。
陈霸先称帝后，第一项任务就是消灭梁朝的残余势力和地方豪强。首先是盘踞在湘州、郢州（今湖南、湖北省境）的湘州刺史王琳，据州抗陈。陈霸先派侯安都、周文育率军进攻，就在陈霸先称帝的那个月，侯安都和周文育被王琳打败，并成了俘虏。王琳把湘州军府移到郢城（今湖北江陵县北），带兵十万，占据江州。558年（永定二年）春，王琳勾结北齐，立梁元帝世子萧方之子永嘉王萧庄为帝，改元天启，封王琳为侍中、使持节大将军、中书监，准备东下攻陈。被俘的周文育、侯安都不久逃回建康，陈武帝以侯瑱为帅，统率周文育、侯安都等西拒王琳。
559年（永定三年），称帝不到两周年的陈霸先病死，由他的侄儿陈蒨继承皇位，他就是陈文帝。陈蒨继承武帝的遗志，完成他未竟的事业。
当王琳听说武帝病死时，他率大军东下，进攻陈，北齐也派兵临江，做王琳的声援。文帝派侯瑱、侯安都与徐度率兵抵御。到了560年（元嘉元年）春，王琳军队驻扎在栅口（今安徽无为县东南），侯瑱军驻在芜湖（今安徽芜湖市），两军相持百余日。这时，北周闻知王琳进攻陈的消息，出兵进攻王琳的老巢郢州。王琳怕老巢失守，便加速对陈的进攻，想速战速决，结果被陈军大败，军队、物资全部损失，王琳只带着妻妾及左右十余人逃奔北齐。陈军乘胜追击，向王琳老巢进军。北周见陈军攻来，撤兵回北方，陈军消灭了王琳的残余势力，收复了湘州和郢州。
以王琳为首的梁朝残余势力被消灭，但江南的那些地方豪强兴兵作乱，时时威胁着陈朝的安全。文帝灭王琳之后，开始集中精力，消灭这些地方豪强。
早在陈武帝时期，豫章（今江西南昌市）的熊昙朗，临川（今江西抚州市）的周迪，东阳（治所今浙江金华）的留异，晋安（今福建南安县东丰州）的陈宝应等地方豪强就互相勾结，不服陈朝的节度。当时陈霸先把主要精力都放在对付王琳和北齐的联合进攻上，无暇消灭他们，不得不采取安抚政策，以求暂时的相安无事。可是这些称霸一方的地方土豪危害地方，成为社会公害。如熊昙朗，他是乘侯景之乱，聚众起事。他以丰城县（治所今江西丰城县南）为据点，四处骚扰。他掠卖邻县居民，到处烧杀抢掠，百姓深受其害，东阳的留异，聚集当地恶少，欺侮百姓，太守们都害怕他。这些地方土豪横行不法，扰乱地方，是很难相安无事的。559年（永定三年），熊昙朗竟勾结北齐，杀死陈大将周文育，公开反陈了。
文帝消灭王琳后，首先拿熊昙朗开刀，灭掉熊昙朗；接着打败留异，留异逃到陈宝应那里；又打败周迪，周迪逃到山中，后来被捉住杀掉；最后平定晋安，杀死陈宝应和留异。至此，豫章、临川、东阳、晋安等郡都平定了，陈文帝总算统一了长江以南、蜀以东的地方。在南朝的四个王朝中，陈的国土最小，只有长江以南，今湖北宜昌以东这么一小块地方，国力也比不上其他三朝。
陈国力虽弱，但战事却不断。在陈宣帝陈顼时，北齐后主荒淫不理政事，国力大衰。陈宣帝于573年（太建五年）命大将吴明彻为都督北讨诸军事，统兵十万，进行北伐。众将士攻克不少地方，继而围攻淮南军事重镇寿阳。吴明彻掘淝水，灌寿阳城，城内北齐守军多浮肿泻肚，疫病流行，死了一大半。吴明彻乘机攻下寿阳城，活捉降将王琳等，陈收复了淮河以南地区，便不再继续北伐了。
577年（太建九年），北周灭掉北齐后，宣帝陈顼想乘北周刚建，内部不稳之机，命吴明彻继续北伐，收复徐州和兖州。吴明彻率军进攻徐州，截清水倒灌徐州城，战舰陈列在城下，声势浩大，但徐州城却久攻不下。第二年，北周派大将王轨截断陈军的后路，并在清水入淮河的入口处（在今江苏淮阴西）用铁锁锁贯车轮，横于水中，截断陈军船的退路。吴明彻见情况不妙，就掘开堰堤，想乘水势退军。可水流到清口，水流分散减弱，船无法过去，陈军大乱。北周乘机进攻，陈军溃不成军，吴明彻束手就擒。北周乘势南下，又占领了寿阳，淮南之地，都落入北周之手。陈从此也就只好在江南一隅苟且偷生了。
宣帝死后，他的儿子陈叔宝继位，他就是陈后主。他是南朝的最后一个皇帝，也是南朝最有名的荒淫皇帝之一。他不理朝政，重用江总等奸佞小人。江总既无攻战守御的谋略，也无理政治民的才能，只是善于舞文弄墨，吟诗作赋，这与陈叔宝喜文善墨的情趣非常相投。他任命江总为尚书仆射，总管朝政。江总为讨主子的欢心，经常与都管尚书孔范、散骑常侍王瑳等文人骚客十多人，到后宫陪后主陈叔宝宴饮，吟诗作赋，这些人被称为“狎客”。宫女袁大舍等人，颇通文墨，能作诗歌，陈叔宝就授任这些人为女学士。每逢宴会，陈后主就让妃嫔、女学士与狎客们鬼混在一起，推杯换盏，吟诗作赋，互相唱酬。并从中选出一些最艳丽的诗，配上乐谱，让宫人演唱，因而有《玉树后庭花》《临春乐》等歌曲流传于世。
陈后主不仅喜欢吟诗作赋，更喜欢女色。在他后宫三千佳人中，他最喜欢的是贵妃张丽华和孔贵嫔、龚贵嫔。他为张贵妃建结绮阁，为孔、龚二嫔建望仙阁，他自己住在临春阁，三阁之间架设通道，陈后主整天往来这里，对朝廷之事不闻不问。
张贵妃不仅宠冠后宫，总掌六宫大权，而且凭陈叔宝对她的宠爱，干预朝政。
陈叔宝为了极尽享乐，还大兴土木，营建宫殿，大造佛寺，闹得国库空虚。而那些贪官污吏，更是巧取豪夺，聚敛无厌。百姓流离失所，饿死荒野。国困民穷，陈朝的灭亡即将来临。
这时，北方隋朝已取代北周，占据了全国的2／3土地，见陈朝日益衰败，隋文帝决定讨伐陈，统一全国。
早在建国（581年）之初，隋文帝杨坚就想南伐陈朝，他曾问计于大臣高颎，高颎说：“江北地处寒冷，收成较晚。江南水田早熟，如果趁他们收获时，我们稍稍调集些兵马，扬言进攻他们，他们一定会放弃收获，耽误农时，全力以赴地屯兵防守。他们聚兵守备，我们就解散兵马，如此几回，他们就会以我们在吓唬他们，无意攻伐，他们就会放松警惕。到那时我们再发兵，直指建康，定能成功。况且江南土薄，收获有限，而所有积粮贮草，又多在茅竹舍中，不像江北有地窖，我们可派人渡江，放火烧掉他们的粮草。他们兵备松懈，粮草缺乏，他们能支撑多久呢？”
杨坚采纳高熲的建议，陈果然中计。他们以为有长江天险，完全可以高枕无忧，对强大的隋根本不做认真的防备，以陈后主为首的统治集团仍沉醉于酒色和搜刮钱财之中。
陈朝将领陈纳、萧岩投降隋朝，向隋文帝说明了陈朝的国情。隋文帝于是下令广造大船，准备进攻。
588年（祯明二年），隋文帝以晋王杨广为主帅，率五十一万大军，兵分八路，大举进攻陈朝。589年（祯明三年），隋将韩擒虎、贺若弼分别在采石、京口渡江。陈军不堪一击，隋军顺利攻下建康。当韩擒虎攻进陈后宫时，却找不到陈后主。他令士兵搜寻，搜遍后宫，也不见陈叔宝的踪影。后发现景阳井上，有一根绳子系着，在轻轻晃动。令士兵拉上一看，竟是陈后主和张贵妃、孔贵嫔。张贵妃被杀死，陈后主成了阶下囚，陈宣布灭亡，南北大统一。
陈自陈霸先称帝，到陈后主被俘，共历33年（557—589年）而亡。隋朝统一了全国，结束了自西晋灭亡以来长达二百七十多年的政治大分裂，中国封建社会进入一个新的发展时期。
