李程虽然科场奏凯，但并未很快就被重用。原来唐代进士及第后，只是证明了身份，拿到了文凭，而做不做官，做什么样的官，就不是礼部能决定的了，礼部只管考察生员，吏部才有权任命进士做什么官。李程中状元后，《旧唐书·李程传》说李程“累辟使府”，只不过在地方上做官。李程曾做过蓝田（今属陕西）尉。据《新唐书》介绍，蓝田有一场官司，已经拖了十年，依然悬而未决。李程到任后，三言两语，理清是非曲直，原告、被告口服心服。遗憾的是，我们已经无从知道这件事的来龙去脉，但可以断定，这一定是个精彩的故事。
贞元十二年高中状元后，最初的七、八年李程一直在地方做官。贞元二十年，李程先是被召入朝，任监察御史，十一月，又和秘书正字张聿、蓝田县尉王涯一起，应召为翰林学士。
翰林院北大厅门前有花砖铺的小路，翰林学士们应该在太阳照到离门第五块砖之前上班，否则就迟到了。迟到当然很丢面子。李程上翰林院的第一天，其他学士陆陆续续都准时来了，互相寒暄之后，才发觉李程还未到。过了好一会，李程姗姗来迟。
第二天，李程又迟到了。
第三天，李程仍然迟到。
学士中有一年纪比李程稍大的，他发现，李程一连几天总是迟到，似乎每天总在那个时候来。他终于注意到，李程总是在太阳照在离翰林院大门第八块砖头之后才来上班。他就悄悄地和几个年纪小些的学士说了：“李程该不是八砖学士吧？”其余几人一听，会心地笑了。他们又商量了一阵，才各自散去。
又是一个艳阳高照的晴天，李程又迟到了。他发现，往常学士们不是书声琅琅，就是忙忙碌碌，今天呢？只听到树上的鸟雀叽叽喳喳。他还发现，翰林院门前有一道石灰画的白线，这时，白线刚好成了太阳能否晒到的地方的分界线，再北就是荫凉了。
等李程的脚刚踩到白线，翰林院里传出哄堂大笑：“快看，八砖学士来了！”
“八砖学士，啊？”有些不明白的学士向外一看之后，也掩口而笑。
一阵阵接连不断的笑声越过窗口，掠过树梢，受惊的鸟雀怎么也不明白：“怎么了？学士们怎么了？”鸟雀们后来又学习了一个新名词：“八砖学士”。
叫的多了，李程也就见怪不怪。李程懒是懒些，但并不像一般的翰林学士随波逐流，他有自己的独特处。有一次，德宗李适深秋外出打猎，因为感觉到些微凉意，就对左右侍臣随口说道：“九月了还穿单衫，二月时仍着锦袍，与季节很不相称，朕想修改月令，你们看怎么样？”随从的大臣们都说陛下英明。李适一高兴，就命令翰林大学士们讨论讨论。李吉甫这时为承旨学士，他恭维皇上此举上顺天时，下合民意，因而上书请重新编排月令。多数学士没有主见，随声附和。只有这位“八砖学士”李程不同意，他上书皇上说：“臣谨按：《月令》说：‘十月始裘。’《月令》这部书是玄宗皇帝删改过的，不可再改。”李适看后，矍然惊醒。这件事情过去了，李程因此得罪李吉甫，李吉甫也恨透了李程。
李适于贞元二十一年正月病故后，李诵即位，立即起用王叔文、王任等人推行新政。王叔文还是比较重视李程这个敢于直言的“八砖学士”的。这一年，李程任水部员外郎。唐代后期特别重视员外郎，尚书省的左右仆射和下属的六部尚书常常为节度使加的官就是员外郎。王叔文之所以任用李程，还因为李程与柳宗元私交很好，他们同登博学宏词科，“同升宪府”，为监察御史，“心志谐同”，刘禹锡：《为鄂州李大夫祭柳员外文》。有志于国家的振兴。前文说到的杨於陵这时也被王叔文重用，杨於陵很欣赏李程，何况，李程是陇西人，王叔文有可能要借重陇西李家的声望扩大影响。
然而，随着“二王八司马”革新集团的失败，李吉甫任宪宗宰相，厄运又降临到李程面前。元和三年（808年），李程出翰林院，先任随州（今湖北随县）刺史，因为干得好，宪宗李纯赐金紫服，但不仅不能回到长安，反而又被李夷简辟为成都少尹。
元和十年，正担任剑南西川节度使行军司马的李程又被召入长安，任兵部郎中，不久加知制诰，负责起草皇帝的诏令。第二年又任中书舍人，和李逢吉主持进士科的考试，录取郑獬、姚合等三十三名进士。
元和十三年四月，李程拜礼部侍郎。这一年，郑余庆任尚书左仆射。自德宗朝“二帝四王”之乱后，唐朝礼仪制度十分混乱，李纯因为郑余庆谙熟典章制度，任命他为详定使；郑又要刑部侍郎韩愈、礼部侍郎李程为副使，三人一起整顿礼乐制度。该增的增，该减的减，李纯十分满意。
敬宗宝历元年（825年）正月，李程拜吏部侍郎；五月，李程拜为宰相。敬宗朝五个宰相中，只有李程曾任翰林学士。敬宗李湛喜好宫室、打猎，曾经诏王播监造上巳节竞渡的船三十艘，花去了半年的转运费。这一次，李湛准备在宫中营造新殿，李程不同意，对皇上说：“自古以来，各位圣帝明王都以勤俭这一美德，教化天下百姓。而陛下即位未久，不应该大兴土木。陛下能把造新殿的瓦木费用，用来供奉先帝的园陵吗？”李湛认为李程说得好，很高兴地接受了李程的意见。李程又上奏请皇上设置侍讲学士，精选名臣，供皇上随时垂询。十二月，李程加官中书侍郎，又进封彭原（今甘肃宁县）郡公，食邑三千户。
李湛皇帝很喜欢李程，有一次对李程说：“高飞的俊鸟中，德高望重的长者必定在最前面。卿家你，就是本朝的长者。”于是常称李程为“朝廷羽翮”。李程如此受宠，引起另一宰相李逢吉的嫉妒。李逢吉反对永贞革新，依附宦官，姑息藩镇，结成死党。他侄子李训为人阴险，诡计多端，李逢吉厚待李训，李训就和茅汇等几个人一起造谣，说李程如何如何自负。看来，李程宝历二年九月被罢相，和李逢吉的中伤有极大关系。
