排在凌烟阁二十四功臣第五位的是房玄龄，房玄龄出生于清河房氏的一个官宦家庭，他自幼受到家庭环境的影响，喜欢读书学习，特别受父亲的影响很大，房玄龄在文学上大多继承了父亲遗风，能作诗、能写文章，他博览经史，精通儒家典籍，又从父亲那里学习了书法，写的一手好字，年仅十八岁时，房玄龄便已经高中进士，先后被授予羽骑尉、隰（xí）城县尉等官职。隋朝末年，天下大乱时期，晋阳留守李渊领兵入关，房玄龄在渭北投靠了李渊的次子秦王李世民，担任秦王府中的记室参军，多次随军出征，为李世民出谋划策。
为了报答李世民对自己的知遇之恩，房玄龄竭尽心力谋划军政事务，每每消灭一方割据势力或是战胜归来后，军中的将士们无不为自己极力的搜寻奇珍异宝和财物，只有房玄龄对这些不感兴趣，他只是专注于收拢人才，挑选那些腹有良谋和骁勇善战的人，安排在自己的幕府中，私下里与他们交朋友，共同为秦王李世民效力，这些人中，就包括像才思敏捷的薛收，聪慧敏捷、具有王佐之才的杜如晦等人，他们都是经过房玄龄举荐后，得到李世民重用的，后来也都一个个都位极人臣，为创立李唐基业立下了不朽功勋。房玄龄在李世民秦王府中做幕僚长达十多年，一直掌管军中大事，每次遇到写军书奏章时，他都停下马，一气呵成，很快就能写完，所写的奏疏文字简约，义理丰厚，深受李世民的信任。甚至连皇帝李渊也对房玄龄很欣赏，曾对身边的侍臣们说：“这个人腹有韬略，能参透时机，可以委以重任。每当他替秦王李世民陈说政事时，对细节之处都把握的很清楚，回答问题对答如流。”
后来，太子李建成向皇帝李渊上奏，建议斥逐外迁秦王府的属官幕僚，李渊听从了李建成的意见，将房玄龄和杜如晦一并被流放到京城之外任职。武德九年（626年），房玄龄参与策划玄武门之变，帮助李世民争得帝位后，李世民称赞他有“运筹帷幄，定江山社稷的功劳”。李世民登基后，论功行赏，房玄龄因功被进爵为邢国公。
房玄龄一生追随唐太宗李世民出入生死、戎马一生，最终平定了天下，尝尽了创国立业的艰难之苦，但即使是在成功之后，他也时刻不忘当初创业之难，时刻提醒自己力戒骄奢淫逸，告诫大家要警钟长鸣、警醒自己，这样才能维持国家的长治久安。房玄龄做了宰相后很重视吏治，他认为吏治问题是国家治理的根本，而在选拔官吏时的公平公正和官员们的正直又是治国之要。在选举朝廷官吏的问题上，李世民主张“量才授职、务省官员”、“审查官吏，如果让官员们都能够发挥各自的长处和作用，那么国家就可以无为而治了。”房玄龄始终贯彻李世民的这一思想，大力简政放权，精简机构，提高了行政效率，取得了良好的效果。唐朝建立之初，房玄龄精减官员、简化机构的做法，对刚刚经历了隋末大乱、人口锐减的大唐来说，既提高朝廷各部门的办事效率，同时也节省了国家的财政开支，实实在在的减轻了百姓肩上的担子。
房玄龄还精通政令典制，贞观初年，天下初定，当时国家的各项规章制度还很不健全，当时，他和尚书右仆射杜如晦一起管理朝政，小到所有建筑物的规模、法令、礼乐制度等都是由他们二人牵头制定，经过他们的努力，国家的礼制基本完善，在当时获得了很高的社会评价。在修定律令方面，房玄龄秉持“审查并确定法律和命令，以“宽容”作为国家法律的宗旨，简化律令，去掉了隋朝时期实行的严酷刑法，经过房玄龄之手制定的制度和法律，后期基本上没有大的改动，对后世整个唐朝的影响都很大，房玄龄在当时朝中的作用可谓是“国之肱骨”。
贞观三年（629年）二月，房玄龄被改封为魏国公，兼任尚书左仆射，负责监修国史，面对新的工作任务，房玄龄仍旧尽心竭力，早起晚睡，工作上很是用心，加上他精通朝廷吏事，法令宽平，用人上任人惟贤、不分卑贱，在当时赢得了广泛认可，人们都称颂他为良相。房玄龄担任宰相十五年，他的女儿是韩王的妃子，儿子房遗爱也迎娶了高阳公主，家族地位可谓尊贵至极，即便如此，但他为人还是特别谦卑，常常自我反省，从来没有因为自己的地位和取得的成绩炫耀或是骄傲。
贞观二十二年（648年），房玄龄愈发病重，唐太宗李世民派名医为他医治，每日从朝中提供御膳，并亲自前去探望。在即将临终之时，房玄龄对自己的儿子们说：“当今天下清平，百姓安居乐业，只是陛下下令多次征讨高句丽，连年征战劳民伤财的做法为国家埋下了一些隐患，现在陛下决议已定，臣子门都不敢再提起这件事，我明明知道这件事的利害，但如果不说出来的话，我就会含恨而死啊。”于是，房玄龄在垂危之际仍然选择抗表进谏，请求唐太宗李世民以天下苍生为重，停止征讨高句丽。李世民看见奏表后，感动地对房玄龄的儿媳妇高阳公主说：“一个病重都快要死的人，心里还能惦念国家的事，这真是太难得了啊。”房玄龄临终之际，唐太宗李世民亲自来到他的床榻前，和他握手诀别，又封他的儿子房遗爱为右卫中郎将，房遗则为中散大夫，目的就是想让房玄龄在死之前能看到自己的两个儿子被加以重用的样子，好让他安心的离开，这也大概就是唐太宗李世民在和自己一生的老友、兄弟分别之际，能为他做的最后一件事情了吧。不久后，名相房玄龄与世长辞，终年七十岁，李世民为之废朝三日。
永徽三年（652年），房玄龄的次子房遗爱和妻子高阳公主被指控谋反，房遗爱因此被处死，高阳公主则被赐自尽，他其他的儿子也被发配流放到了边疆，房玄龄的嫡长子房遗直也被这件事连累，被贬为铜陵尉，房玄龄配享太庙的待遇也就此终止。