豫章是一个大郡，郡治在南昌县，即今江西省南昌市，全郡的管辖范围也与今天江西全省大致相当。由琅邪国阳都县到遥远的豫章郡南昌县，一路十分辛苦。诸葛亮随叔父赴任，最有可能走的路线是：由阳都南下进入东海郡，过郯城，再过彭城、下邳、梁国，转道汝南郡，由那里直向南，沿着南方大道过长江，到达豫章郡。
郯城、彭城、下邳、梁国，都是近年来各方反复交战的战场，尤其是彭城，不久之前曹军曾在此屠城，泗水为之断流。这是诸葛亮第一次走出家乡，虽然他才14岁，但心智已相当成熟。一路上所见所闻，进一步加深了他对战争的认识和对苦难的理解。路上，当听到和看到曹军留下的累累暴行时，诸葛亮的内心自然会生出更多的厌恶和极度反感。
总算到了豫章郡，接下来的事，有不同的记载。
一个是《三国志》所说：远在长安的朝廷听说周术死了，正式任命了一个叫朱皓的人来当豫章郡太守，这样豫章郡便有了两个太守。面对这种情况，诸葛玄决定放弃，但他没有回老家阳都，也没有到袁术那里，而是想到了另一位老朋友刘表，便去了荆州，依附于刘表（会汉朝更选朱皓代玄。玄素与荆州牧刘表有旧，往依之）。
另一个说法来自《汉献帝春秋》：朝廷得知周术已死，袁术私自委任诸葛玄为太守，便派朱皓来代替诸葛玄。朱皓从扬州刺史刘繇那里借来兵，攻击诸葛玄，诸葛玄不敌，退守西城，汉献帝建安二年（197）正月，西城发生民变，杀了诸葛玄，把首级送与刘繇（西城民反，杀玄，送首诣繇）。
这两个说法内容差不多，反正诸葛玄在豫章郡没待多长时间。但是，这两种说法的结果有很大出入，一个是说诸葛玄后来到了荆州，另一个说诸葛玄死在了豫章郡。相比较而言，后一种说法影响更大，很多书上都采用这个说法。《汉献帝春秋》相传作于汉末，作者失考，也有说它是西晋学者袁晔所撰，由于成书时间很早，所以是记录汉末三国历史的第一手材料。但看样子这部书并非出自大家手笔，裴松之一向对它很轻视，斥它“轻弄翰墨，妄生异端”，中间充满了“秽杂虚谬”，甚至认为它是“史籍之罪人，达学之所不取者也”。
但结合后面发生的事，《三国志》的说法似乎更为可取。前面说过，袁术任命诸葛玄当太守，看似挺风光，其实风险很大。《襄阳记》有一条记载，说襄阳城里有个“牵羊坛”，每有新任刺史到任，必先来此坛，牵着一只羊绕坛走，不管它，看它能走几圈，走几圈往往预示该刺史能干几年。现在不是太平盛世，刺史不好当，太守很难干，说走人就得走，每个人都有这样的思想准备，更何况诸葛玄这个太守并非名正言顺。所以，当朝廷正式任命的太守到任后，诸葛玄没有理由跟他对抗到底，弃官是他的正常选择。
自动放弃了豫章太守一职后，诸葛玄没有回到家乡，是因为家乡的战乱更甚于之前，曹操果然发起了新的南征徐州之战，侄子诸葛瑾已携继母离开了阳都，远赴江东避难。
诸葛玄也没有回袁术那里，一来袁术交给自己的事是这样的结局，他不想再去见袁术，二来听说袁术的野心越来越大，社会上到处流传，说袁术已经暗中做着僭越称帝的打算。在这种情况下，去投靠离豫章郡不远的故友刘表成为诸葛玄自然的选择。如果诸葛玄在豫章郡被杀了，诸葛亮姐弟四人如何到的荆州，又如何依附的刘表，就成了很大问题。
而且，《汉献帝春秋》认为诸葛玄赴豫章郡上任不是袁术所任命，而是刘表任命，这不太符合逻辑。豫章郡属扬州，袁术自认为扬州是自己的地盘，还自兼扬州牧，所以会任命豫章郡太守。刘表是荆州牧，突然想起任命扬州的官员，不太可能。换成袁绍、公孙瓒、袁术这样的人，这也许是可能的，但刘表一向表示忠于朝廷，是一名模范的地方大员，在别人都不太搭理天子的情况下，他还坚持年年向其进贡，深得朝廷好感，让他越权任命不属于自己辖区的官员，不怎么说得通。
所以，正如《三国志》所言，诸葛玄是袁术任命的，他后来去了刘表那里。
大约在汉献帝建安元年（196），诸葛亮随叔父诸葛玄来到荆州，这一年诸葛亮15岁。
刘表对老朋友的到来十分欢迎，把他们一行接到襄阳居住。中原地区连年战乱形成了多次难民潮，为躲避战争，人们开始向边境地区大规模迁移，开始只要没有战事的地方都成为迁移的目的地，后来战火越燃越广，大家只好拼命往远处跑，包括辽东、益州、荆州以及更远的交州。
在这些地方中，逃往荆州的人最多，因为相对而言这里与内地的交通最为便利，而且刘表主政后，荆州很少再起大规模的战事，相对安宁。荆州气候适宜农业发展，物产丰富，经济发达，这些都吸引大量逃难的人来此定居，其中包括大批的士人和官吏。人力资源历来都是最重要的生产力，是国力、军力的重要体现，没用几年时间，刘表就发展成为“南收零、桂，北据汉川，地方数千里，带甲十余万”的割据势力。
在当时，刘表的综合实力仅次于袁绍集团，如果把治世能臣的称号给刘表应该是没有问题的。刘表在地方治理方面确实有一套，他来荆州之前，这里并不是一片净土，人多好斗，贼寇作乱，到处不安定（人情好扰，加以四方震骇，寇贼相扇，处处糜沸），经过他的治理，这里变成了“万里肃清”之地，俨然是东汉帝国最后一片乐土。《后汉书》说刘表在荆州的治理很有成效，做到了“沃野千里，士民殷富”，官民都很高兴而且感到佩服（大小咸悦而服之），这应该不完全是溢美之词。
诸葛玄到了襄阳，并没有在老朋友刘表手下任职，推测起来，最大的可能是诸葛玄的健康出了问题，因为就在一年之后，他病逝于此。诸葛亮的父亲死得较早，叔父也在此时去世，诸葛亮自己死时也只有50多岁，这样看来他们这个家族似乎有遗传方面的问题。不过，那时候人的寿命普遍较短，这是当时的诸葛氏家族普遍缺乏长寿者的最重要原因。
诸葛玄的去世对诸葛亮姐弟四人来说又是一次打击，诸葛亮此时不过17岁，弟弟诸葛均才14岁，他们的大哥诸葛瑾又奉继母去了江东，由于通信艰难，也不知道他们那里的具体情况。
