唐太宗即位之初，对文武百官论功行赏，房玄龄的功劳排在第一。唐太宗曾要求宰相王珪，当着别的宰相的面，对他们一一加以评论，并且要跟自己作比较。王珪评房玄龄说："孜孜奉国，知无不为，臣不如玄龄。"王珪有知人之明，他的话是符合事实的。
房玄龄的一大功绩是领导了机构改革。贞观元年(627年)，唐太宗对房玄龄等说：任命的官员不必多，但要称职。优秀的官员，少一些，也能办好事情；不良的官员，多了也没用。他要求房玄龄等本着"量才授职，务省官员"的原则，制定全国官员编制。房玄龄等拟定了全国文武官员730名（一说640名，一说643名）的编制。唐太宗批准了这个编制，并且说：我以这个编制安置天下贤才，够了。
房玄龄的另一大功绩是按照唐太宗的要求，参考隋律，主持制定唐律（贞观律）。贞观律跟古代刑法相比，死刑减少一大半，得到广泛好评。《资治通鉴》记载：房玄龄等定律五百条，立刑名二十等。跟隋律相比，降死刑为流放九十二条，降流放为徒刑七十一条，"凡削烦去蠹，变重为轻者，不可胜纪"。这是古代一部有重大意义的法典，影响深远。
杜如晦为人机敏，军国事务繁冗，他一一剖明、决断，毫不迟疑，连同时代的一些名人都佩服他。房玄龄每次在唐太宗那里讨论政事，都要说，杜如晦不在这里，此事不能谋划。房玄龄和杜如晦，一个善于谋划，一个长于决断。两人相知甚深，同心协力辅佐唐太宗。
杜如晦掌管文官铨选、封赏、考绩，深知铨选的弊端，有改革之意。据《贞观政要》一书记载，贞观三年，太宗对杜如晦说：近来吏部选拔官吏，只看其言谈、文笔，不了解其德行。数年之后，本性暴露，犯了重罪，虽被惩处，但百姓已受其害。他问杜如晦：如何才能得到善良的人呢？杜如晦回答说：汉朝选官，先由州郡选，要了解被选拔的人在本乡本土的一贯表现，然后推荐到朝廷，所以汉代人才济济。唐太宗准备参照汉朝的做法，对选拔官员的制度进行改革，后来因故没有实行。
杜如晦英年早逝，46岁就去世了。唐太宗痛悼不已。有一次吃瓜，吃了一半，想起了杜如晦，马上派人把剩下的半个瓜送到杜如晦灵前祭奠。