在公元618年的某一段时间里，秦王李世民空前地难受。由他策划、他和父亲李渊共同实施的太原起兵大获成功，乘虚占领长安，李渊登帝位，建立唐朝，李世民被封为秦王；但他与太子李建成争夺皇位继承权的斗争中却处在下风。李建成居长，先入为主，又得李渊欢心，也有军功。李世民功劳略大，但不足以撼动其地位。李世民很清楚：最后的结果取决于双方实力的对比，而实力的关键在于人才。李世民在起兵过程中罗致了许多人才，府中谋士如云，猛将林立，但都被李渊一个一个调走了。面对人才流失，李世民无能为力，急火攻心，却又说不出来，心里的难受简直难以形容。
这时候，聪明绝顶的房玄龄对李世民讲：府僚走了那么多，都不可惜，只有一个人您得注意：您如果安于当个规规矩矩的藩王，用不着他；您如果要夺取天下，非此人不可！
李世民急问：是谁？
房玄龄不紧不慢地说：此人便是杜如晦。
李世民惊呼：“尔不言，几失此人！”立即入宫面见李渊，奏请杜如晦为秦王府属官。
从此，默默无闻的杜如晦走上了唐初政坛，成为当时杜如晦善断的风云人物。
杜如晦字克明，是京兆杜陵人，处在长安近郊。杜如晦的曾祖父和祖父在北周作过高官，他的叔祖到了隋朝还任过工部尚书。杜如晦的父亲在隋朝担任中下级官吏。
杜如晦生长的年代，正是隋文帝统一全国、励精图治的日子。自东汉末年以来，封建割据势力一直占据优势，西晋时虽然实现了全国统一，但为时不久又有十六国大乱，南北朝时期，朝代更迭很快，乱纷纷你方唱罢我登场。朝代变换总伴随着战乱，割据的国与国之间也兵戈不息，给人民带来了深重的灾难。隋文帝杨坚在谋士高等人的支持下，发动政变，于公元581年灭周，建立隋朝。隋文帝实行各种措施，巩固统一，历行节俭政治，宽简刑法，轻徭薄赋，在官制、兵制、刑律、科举等方面进行革新。公元588年，隋朝军队一举灭掉割据南方的陈国，不爱江山爱美人的陈后主沦为臣虏。隋文帝又利用突厥内部的矛盾，以谋略为主，军事为辅，削弱了突厥的势力，保证了边境安宁。开皇年间，全国的人口和社会财富大幅度增长。史载：公元592年，府库都藏满了，只好堆在廊庑下，隋文帝别立左藏院来容纳绢匹，并命令人口稠密的河东、河北地区，减三分之一的田租、调全免。这一富饶景象也只有在汉朝文景之治时才出现过。
生长在这样的年代，又处在天子脚下的近郊，杜如晦的少年时代是在安静的读书声中度过的。史载：“如晦少年聪悟，好谈文史”，同时，他很特别的性格也在年轻时就形成了：“少英爽，以风流自命，内负大节，临机辄断。”
隋炀帝杨广即位时，杜如晦15岁。杨广荒淫无道，穷兵黩武，隋朝开始走下坡路。不过，这种下坡的倾向，在当时一般人觉察不出来。杜如晦也没有很明显地感觉到这种倾向，大业年间，他还“以常调预选”，希望能得个一官半职。当时的吏部侍郎高孝基是个慧眼识英雄的伯乐，他对杜如晦说：“公有应变之才，当为栋梁之用，愿保崇令德。今欲俯就卑职，为须少禄俸耳。”杜如晦当了个小小的滏阳县尉。但没过多久就辞职不干了。说辞职就辞职，也表现了杜如晦“当断则断”的性格。
高孝基不但有“知人之明”，也有“知事之明”，他是看到了隋朝的下坡倾向的，他的这一番话里也有“微言大义”。他对青年房玄龄也有过一个特别的评价，断定他“必成伟器，但恨不睹其凌霄耸壑耳”。这句话也是意味深长。看来，高孝基不但看到了隋朝的下坡倾向和必然结局，甚至看到了即将取而代之的另一集团的两根中流砥柱。
名实相符，杜如晦确实能够韬光隐晦，才不外露。他第一次出现在李世民面前是不声不响的。史载：“太宗平京城，引为秦王府兵曹参军。”看样子是武德元年以后的事情，因为李渊即位后李世民才成了“秦王”，在此以前他被封为“敦煌公”。至于具体细节，是杜如晦毛遂自荐呢，还是谁走马荐诸葛呢，史书没有记载，不可考据。可以肯定一点，绝对不是李世民闻名求贤。这比起房玄龄、褚亮等人充满戏剧性的出场可就逊色多了。
杜如晦深藏不露，连精明过人的李世民也没看出来。多亏了房玄龄也有知人之明，一句话治好了李世民的心病，也为杜如晦创造了一个大展鸿图的机会。
从此，李世民和房玄龄、杜如晦组成一个三人小组，房玄龄“善建嘉谋”，杜如晦“能断大事”，再加上文武全才的英明领导，在平定薛仁杲、刘武周、王世充、窦建德之战中，在后来与李建成争嗣的斗争中，互相配合，相得益彰，无往而不胜。李世民和房玄龄议事，常有拿不定主意的时候，就说：“非如晦莫能筹之。”等杜如晦来了，往往采用房玄龄的计策。三个人几乎是“三位一体”，李世民的意见往往就是这个智囊班子的意见。可以说，让后人称赞得无以复加的“煌煌太宗业”的前半段，就是在这三人小组领导下创出来的。
武德元年至四年，李世民击败薛仁杲、刘武周，最后一战又击溃窦建德，迫使王世充投降，一举消灭了两大割据势力。李世民的三大战役打完后，李唐王朝统一全国的大局已定。李渊认为李世民功高无比，自古未见，所以过去的官号也不够大，配不上这样的功劳，所以加封李世民为天策上将，位在王公之上，开天策府，设置属官。杜如晦被任命为天策府从事郎中。
就在这前后，李世民在宫城西建起了文学馆。据《旧唐书》记载：“始太宗既平寇乱，留意儒学，乃于宫城西起文学馆，以待四方文士。以属大行台司勋郎中杜如晦，记室考功郎中房玄龄及于志宁，军咨祭酒苏世长，天策府记室薛收，文学褚亮、姚思廉，太学博士陆德明、孔颖达，主簿李玄道，天策仓曹李守素，记室参军虞世南，参军事蔡允恭、颜相时，著作佐郎摄记室许敬宗、薛元敬，太学助教盖文达，军咨典苏？并以本官兼文学馆学士。及薛收卒，复征东虞州录事参军刘孝孙入馆。寻遣图其状貌，题其名字，爵里，乃命（褚）亮为之像赞，号为《十八学士写真图》，藏之书府，以彰礼贤之重也。诸学士并给珍膳，分为三番，更直宿于阁下，每军国务静，参谒归休，即便引见，讨论坟籍，商略前载。预入馆看，时所倾慕，谓之‘登瀛洲’。”
李世民当时征聘的这十八位学士，基本上都是当时的俊彦。而能得到这样一种礼遇，于时人也是一种尊荣，所以人们羡慕地称之为“登瀛洲”，好像做了神仙般的快活。实际上远没有那般浪漫超脱。他们也是三班倒，还要值夜班，和李世民讨论经史和统治艺术。这里边既有理论学习的“讨论坟籍”，也有借鉴历史经验教训的“商略前载”。在十八学士之外，李世民也让其他人来值班讨论，杜正伦就奉命值过班。
李世民开文学馆的着眼点和主要目的还是为了争取人心，罗致人才，和李建成争嗣。首先，搞这件事情，有助于强化自己文武全才的形象，历代帝王都承认，取天下要靠武力，安天下要靠文治。其次，李世民重视经史的学习，一方面是给朝中上下和天下人一种重文的印象，另一方面也是真的要从儒家经典和历史中寻找一种好的统治方法。俗话说：“只说不练是假把式，只练不说是笨把式，会说会练才是好把式。”李世民就是这样的好把式，既要做足样子，造足印象；又要学到东西，以利实行。
从十八学士的人员构成说，也可以发现一些蛛丝马迹。粗看十八学士，除了学者便是属官，但仔细分析，还是能分出几类人的：
一、心腹谋士，如杜如晦、房玄龄、薛收等；
二、儒家学者，如陆德明、孔颖达等；
三、有可能对李渊或朝臣产生影响的，如李渊的故友苏世长、颜师古之弟颜相时等；
四、代表社会某一势力的，如士族代表李守素等；
可以说，李世民采取的这一措施是起了作用的，但当时情势很复杂，战乱初定，李建成和李世民的矛盾还处在地下状态，颇像一出激烈的哑剧，力量的对比也是呈拉锯状态。但有一点是肯定的：双方都不会作出让步。在李世民而论，自负其功劳才能，绝不甘心只作个小小的藩王，李渊在起兵时大概曾许诺过夺天下后立世民为太子，李世民就根本没想过这天下是他哥的；再说功高震主，李世民即使愿意作个藩王也做不到，李建成绝不会容他。反过来，李建成也绝不会把即将到手的天下拱手让出。最后的决战不可避免。在决战没到来前，双方心照不宣地做准备，拼命地争功，争宠，争人才，争势力。
武德四年末，窦建德部将刘黑闼聚兵起义，席卷河北。秦王李世民和齐王李元吉领兵征讨，苦战半年，平定河北。李世民刚回到长安，刘黑闼又二次起兵，河北起义军旧部纷纷“杀官吏以应”，仅仅一个月就恢复旧地。十月，李渊派李元吉前往镇压，形势不利。猛将李道玄战死，史万宝败归。
刘黑闼的再度起义为李建成提供了一个机会。太子中允王皀、太子洗马魏徵对李建成说：“秦王功盖天下，中外归心，殿下但以年长居东宫，无大功以镇服海内，今刘黑闼散亡之余，众不满万，资粮匮乏，以大军临之，势如拉朽。殿下宜自击之以取功名，因结纳山东豪杰，庶可自安。”
这一番分析基本上是正确的，刘黑闼二次起兵，地盘虽然恢复了，但兵马不多、战斗力不强也是事实。不过也不至于“众不满万”，数字上的差错，大约是贞观史臣为了贬抑李建成的功劳，做了点小小的手脚罢了。
李建成采纳了王皀、魏徵的建议，李渊也马上批准了李建成出兵的请求，并命令陕东道大行台及山东道行军元帅、河南、河北诸州皆受李建成节制。李渊此举显然是在搞平衡，稍稍压一压日益强大的秦王府，加强东宫方面的实力。
李建成采用魏徵的建议，对刘黑闼起义军采用了招抚政策，收到了出奇致胜、事半功倍的效果。前一年李世民击败刘黑闼后，对农民起义军将领采取的是镇压政策，“其将帅皆悬名处死”，也就是缺席宣判死刑，妻子儿女都抓了起来。即使如此，唐高祖李渊还觉得不够严厉，在刘黑闼二次造反后还报怨李世民说：“前破黑闼，欲令尽杀其党，使空山东，不用吾言，致有今日。”这样残酷的政策使得河北起义军在失败后也不敢投降，而是等待时机，东山再起。可以说李世民镇压刘黑闼起义后采取的政策是完全失败的，究其责任，至少有一大半板子应打在李渊屁股上。李世民在历次大战中都优待降将，取得洛阳后也只杀了罪大恶极的十余人。此次平刘黑闼一反常态采取滥杀政策，应是执行或部分执行李渊旨意的结果。李建成吸取教训，采用招抚政策，放回俘虏，安定人心，瓦解了起义军。刘黑闼众叛亲离，被唐军捉住处死。
李建成讨平刘黑闼，一举而多获：其一，立下个人历史上最大的一件功劳，增加了和李世民对抗的资本；其二，收罗了一批猛将，如薛万彻等，其三，笼络了山东、河北一带的人心，以致于“玄武门兵变”后，河北、山东还有人想起兵为他报仇，其四，与齐王李元吉结成对抗秦王李世民的同盟。
从此之后，太子李建成和秦王李世民争夺皇位继承权的斗争更趋激烈，明争暗斗，杀机四伏，武德七年初，李元吉劝李建成除掉李世民，并表示：“当为兄手刃之”。六月，李世民随李渊来到齐王府，齐王元吉竟然埋伏了杀手准备刺杀李世民，被李建成阻止，“元吉愠曰：‘为兄计耳，於我何有！’”同在这个月，李渊避暑到仁寿宫，李世民、李元吉随行，李建成居守京师，李建成一方面让李元吉“就图世民”，另一方面调动自己的地方势力庆州都督杨文干准备乘机谋变。结果，他派出去的人向李渊坦白自首，李渊立即召见李建成到仁寿宫，同时派李世民出兵消灭杨文干，并许诺要立李世民为太子，李世民出征后，李元吉和各个嫔妃不停地向李渊求情，封德彝又外为游说，李建成自己“叩头谢罪，奋身自掷，几至于绝。”在这样的感情攻势下，李渊原谅了李建成，对李世民的许诺也落了空。
几乎是与此同时，突厥多次进犯朔州、原州、并州等地，有人建议说：“突厥所以屡寇关中，以其子女玉帛皆在长安故也，若焚长安而不都，则胡寇自息矣。”对这种荒唐透顶的意见李渊竟准备认可，李建成、李元吉和裴寂等纷纷赞同，萧蠫等比较正直的大臣虽知其非，却不敢进谏，只有李世民力主征讨，并说“不出十年，必定漠北”。而李建成和李渊的嫔妃们轮番在李渊面前进谗言：“突厥虽屡为边患，得赂即退，秦王外托御寇之名，内欲总兵权，成其篡夺之谋耳。”不打自招，原来他们是为了私心才力主妥协突厥、辱国乱政，李渊最终停止了迁都之议，并派李世民和李元吉共同出兵，抗击突厥。这样的部署依然是搞平衡，防止李世民独揽兵权。
在太子与秦王争夺皇位继承权的斗争中，李渊的大臣，嫔妃都有明显的倾向性，最得宠的宰相裴寂支持李建成，善于察颜观色，揣摸领导意图的封德彝“潜持两端，阴附建成”，而比较正直的大臣萧蠫，陈叔达则支持李世民。
李渊好色，晚年嫔妃众多，这些嫔妃的意见对李渊有较大影响，李建成长期留居长安，经常拉拢讨好嫔妃，尤其得到张婕妤、尹德妃的欢心，史书上甚至说李建成、李元吉和这两个嫔妃有不正当的关系。而李世民在笼络嫔妃方面却没下功夫，有时还得罪他们。武德五年的一次宴会上，李世民想起生母早亡，没享受帝王之家的荣华富贵，因而伤心流泪，李渊很扫兴，张、尹二妃便说：“海内幸无事，陛下春秋高，唯宜相娱乐，而秦王每独涕泣，正是憎疾妾等，陛下万岁后，妾母子必不为秦王所容，无孑遗矣！皇太子仁孝，陛下以妾母子属之，必能保全。”李世民平定王世充时，李渊派了几个嫔妃去洛阳拣选隋宫中的美女和珍宝，贵妃们私下向李世民索要财宝，并为亲属求官，李世民说：“宝货皆已籍奏，官当授贤才有功者，”这些嫔妃怀恨在心，李世民曾把一片地赏给淮安王李神通，张婕妤的父亲也看上这块地，李渊写个手诏赐给他。李神通认为李世民的教令在先，不给地，张婕妤便乘机挑拨，李渊大怒大骂李世民：“我手敕不如汝教也！”
在太子与秦王的明争暗斗中，杜如晦和房玄龄等与李世民同舟共济，颠簸在波峰浪谷之间，杜如晦还曾受了十分窝囊的奇耻大辱，一天他骑马路过尹德妃之父尹阿鼠的门前，尹阿鼠指使家僮把杜如晦拉落马下，乱打一顿，且打且骂：“汝是何人？敢经我门而不下马？”尹阿鼠又指使尹德妃恶人先告状，倒打一耙说杜如晦欺负他们家，李渊信以为真，训斥李世民：“我妃嫔家犹为汝左右所凌，况小民乎！”李世民再三辩解无效。
与此同时，李建成双管齐下，对李世民的部属进行打击或者拉笼。他对元吉说：“秦府智略之士，可惮者独房玄龄、杜如晦耳。”于是他俩在李渊面前大进谗言，将这两人调出秦王府又建议李渊把李世民的部将程知节、秦琼等安排在外地，对于尉迟敬德，李建成先是送一车金银器收买，敬德严辞拒绝，又派人刺杀，敬德洞开重门安卧不动，刺客屡至其庭，终不敢入。李元吉又诬告敬德谋反，李渊命令下狱，李世民再三固请而免，李建成收买骁将段志玄和李安远也未获成功。
李世民也针锋相对地挖李建成的墙脚，收买了负责东宫宿卫的将领常何和掌管机密的王。
武德九年，双方的斗争进入决战阶段，“建成夜召世民，饮酒而鸩之，世民暴心痛，吐血数升，淮安王李神通扶之还西宫。”房玄龄深为忧虑，对李世民的妻兄长孙无忌说：“今嫌隙已成一旦祸机窃发，岂惟朝府涂地，乃实社稷之忧，莫若劝王行周公之事以安国家，存亡之机，间不容发，正在今日！”长孙无忌转告李世民，李世民召见房玄龄问计，房玄龄与杜如晦共劝李世民除掉李建成，李世民心存顾虑，决心未定。
恰在这个关口，突厥又来进犯，李建成建议李元吉与罗艺出兵抗击，李渊一口答应，李元吉还要求秦王府将领尉迟敬德、程知节、段志玄、秦叔宝随他出征，李建成与李元吉密谋：“今汝得秦王骁将精兵，拥数万之众，吾与秦王饯行于昆明池，使壮士拉杀之于幕，奏云暴卒，主上宜无不信，吾当使人进说，令授吾国事，敬德既入汝手，宜悉坑之，孰敢不服！”
王把这一密谋告诉了李世民，李世民召集长孙无忌，高士廉，尉迟敬德，侯君集，张公谨等人商议，敬德等力劝李世民先下手为强。李世民顾忌李建成私养的长林兵和齐王李元吉的府兵数千人，自己私养的壮士才八百人，迟疑不决，众人再三苦劝，终于下定决心，派尉迟敬德和长孙无忌召房玄龄和杜如晦进府商议。为了避人耳目，房玄龄和杜如晦化装成道士，随长孙无忌进入秦王府，尉迟敬德从另外一条道进入，六月二日一夜商议，定下了大计。
六月三日，李世民向李渊报告了李建成、李元吉与张婕妤、尹德妃淫乱之事，并说李建成、李元吉要杀他为窦建德、王世充报仇、李渊听后很吃惊，通知李建成、李元吉等次日上朝由众大臣公断，李渊没想到事情会那么严重，还想通过众大臣进行调解。
六月三日夜，李世民通过常何的关系，率领尉迟敬德、侯君集等九人埋伏在玄武门内，秦叔宝、程知节、长孙无忌等在玄武门外伏兵接应。
张婕妤探得动静，报告了李建成等，李元吉建议托病不朝，以观形势，李建成却认为“兵备已严，当与弟入参，自问消息。”他根本没想到他的老部下常何会背叛他。他俩行至临湖殿发现形势不对，正准备回东宫，李世民迎面而来，李元吉张弓射之，三射不中，李世民取弓还射，一箭射死李建成，李元吉弃马逃入树林，李世民拍马追击，被树枝挂住衣服，跌落马下，元吉趁机夺了李世民的弓箭，企图杀死李世民，紧要关头，尉迟敬德赶来，元吉仓皇逃窜，被尉迟敬德射死。
李建成的部将冯翊、薛万彻等攻打玄武门未果，又围攻秦王府，尉迟敬德出示李建成、李元吉的人头，薛万彻等散去，李世民派尉迟敬德报告李渊，李渊见事已至此，只好顺水推舟，立李世民为太子，房玄龄、杜如晦担任太子左、右庶子。
不久，李世民登基称帝，尊李渊为太上皇，杜如晦担任兵部尚书。李世民论功行赏，以房玄龄、长孙无忌，杜如晦、尉迟敬德、侯君集为一等功，封蔡国公，赐实封1300户。
贞观二年，杜如晦又担任了侍中，并代理吏部尚书，次年，担任尚书右仆射，还主管着选拔官吏的事务，“与房玄龄共掌朝政，至于台阁规模及典章人物，皆二人所定。”
唐太宗李世民采用了魏徵的建议，以民为本，休养生息，“中国既安，四夷自服”，尤其强调“善政”，他多次告诫大臣“官在得人，不在员多”。他深所倚重的两位肱股之臣房玄龄和杜如晦，就奉命负责这项工作。
李渊起兵之初，为收买人心，大量地赐官，在进军长安途中，“民年七十已上，皆除散官，其余豪俊，随才授任，口询功能，手注官秩，一日除千余人，受官皆不敢告身，各分渊所书官名而去。”唐朝建立后，又多次选调官员，这样就造成了官职过滥，增加百姓负担，行政效率低下，唐太宗命令房玄龄把中央政府官员从两千多人减到643人，完成了历史上最彻底的一次机构精减。
此外，唐太宗还对任用官员的道德水平提出了要求，贞观三年，他对杜如晦说：“比见吏部择人，惟取其言辞刀笔，不悉其景行，数年之后，恶迹始彰，虽加刑戮，百姓已受其弊，如何可获善人？”
杜如晦建议道：“两汉取人，皆行著乡闾，州郡贡之，然后入用，故当时号为多士，今每年集选，何数千人，原貌饰词，不可知悉，选司但配其品阶而己。铨简之理，实所未精，所以不得才耳。”
杜如晦所主张的由基层推荐人才的想法：唐太宗是赞成的，不过由于其他事情而未予实行，后来科举制度实行，成为选官的基本办法，推荐的办法终于没有实施。
杜如晦与房玄龄共同努力，为唐王朝建立了一套高效有序的管理体系。贞观初年，大臣劝谏皇帝蔚然成风，杜如晦在其中作用不大，劝谏不多，但保持着他不鸣则已，一鸣惊人的风格，贞观二年，突厥内部的突利可汗与颉利可汗发生战争，突利请求唐朝予以援助，唐太宗举棋不定，杜如晦谏道：“戎狄无信，终当负约，今不因乱而取之，后悔无及，夫取乱侮亡，左之道也。”
唐太宗没有抓住这一战略时机削弱突厥，主要的顾虑是国内初平，不宜大动干戈。但突厥患边的问题不解决也不行。贞观三年冬，突厥又一次进犯河西，唐太宗这才下了决心，派李靖、李眅、柴绍、薛万彻领兵数十万，分道出击突厥。
贞观三年冬，杜如晦因病辞职。唐太宗很担心，不断地派人问候，“名医上药，相望于道。”次年，杜如晦病重，唐太宗派太子前去探问，自己又亲临杜如晦病床前，“抚之流泪”。杜如晦病逝后，唐太宗“哭之甚恸，废朝三日。”唐太宗还对虞世南说：“朕与如晦，君臣义重，不幸庵从物化，追念旧勋，痛悼于怀，卿体吾此意，为制碑文也。”
失去了“能断大事”的杜如晦，唐太宗有失左臂右膀，痛感良佐难得，不能暂忘。唐太宗对房、杜的倚重无以复加，感情也极为亲近。在十八学士中，杜为第一，房列第二，在《凌烟阁二十四功臣图》中，杜、房分列二、三位。
杜如晦逝去许久，唐太宗犹念念不忘。有一次吃瓜，觉得瓜味道很好，就留下一半，让人捧到杜如晦灵前祭奠。他“每得佳物，辄思如晦。”每当提起杜如晦，太宗都要流着泪对房玄龄说：“公与如晦同佐朕，今独见公，不见如晦矣！”
十多年后，唐太宗赏赐给房玄龄一条黄金带，又想起了杜如晦，让房玄龄再取一条送到杜如晦灵前。唐太宗还有一次梦见杜如晦，早上起来“以告玄龄，言之唏嘘”。他还时时派人去祭奠杜如晦。
杜如晦为李唐江山运筹帏幄，剖断大事，立下了大功；反过来说，杜如晦遇到李世民，生前得到重用，死后备享哀荣，走到了一个封建知识分子所能达到的最高境界，也让后来的封建士子们羡慕不已。其后千余年间，一代又一代的封建知识分子“恨不生身贞观间”，除了赞美唐太宗李世民开创的贞观盛世以外，也在羡慕着杜如晦、房玄龄等为代表的封建士子的幸运。
杜如晦有二子，长子杜构任慈州刺史，次子杜荷娶了城阳公主。后来杜荷参与了太子承乾谋反，被杀，杜构也遭牵连，流放岭外。
杜如晦的弟弟杜楚客，小时候随族叔杜淹生活。杜淹心术不正，向王世充之子王行满进谗言，致使杜如晦的大哥被杀。杜淹还把杜楚客关起来，差点饿死。但杜楚客毫无怨言。李世民打下洛阳，杜淹本在罪大当斩的10余人之中，杜楚客哭着让杜如晦去救，杜如晦不从，杜楚客便哭道：“叔已杀大兄，今兄又结恨弃叔，一门之内，相杀而尽，岂不痛哉！”说着就要自杀。杜如晦无法，只好出面救下杜淹。
杜楚客随后隐居嵩山。贞观四年，唐太宗派人请他下山，任命他为蒲州刺史。杜楚客到任，以能力强，政绩好闻名。后来，他任魏王府长史，兼工部尚书，主管的还是魏王府事。他替李泰收买朝臣，被人告发，唐太宗压下此事，到后来问题发生了才说出来。又因为杜如晦之功，免于一死，罢官回家。后来又任他为虔化令，不久病逝。
杜如晦的族叔杜淹是个特别的角色。此人有能力却没德性，本事用不到正经地方上。他小时候就以聪明、口才好，多才多艺闻名。他揣测隋文帝心理，与人商量：“上好用嘉遁，苏威以幽人见征，擢居美职。”于是，他俩也跑到太白山“隐居”，打算邀求时誉，走终南捷径。但隋文帝很烦这一套，把他们赶到偏僻的南方。后来，杜淹又因高孝基之荐而得官，在大业末，官至御史中丞。
杜淹在隋为官，有时助纣为虐，有时随波逐流，反正没做什么好事。王世充称帝，杜淹是大红人。由于杜如晦保护，他后来免于一死，却没官做了。他准备投奔李建成去，房玄龄怕他去了给李建成出坏主意，赶紧找李世民，任命杜淹为天策府兵曹参军。
武德八年，李建成联络杨文干对付李世民。事情败露后，李渊为了把大事化小，迁罪于李建成部下的韦挺、王皀和李世民部下的杜淹，说是他们挑拨的，把他们流放。杜淹吃了冤枉却没吃亏，李世民送给他黄金300两，在即位后又任他为御史大夫，安吉郡公。随后又任他为吏部尚书，参议朝政。
在李世民的领导下，杜淹开始做好事。他前后推荐40多人，都比较优秀。李世民对付杜淹这样的有才无德之人也有办法，不时地敲打，整着，用着，让他们尽其才，却不许他们做坏事。杜淹曾推荐一个人，李世民问其才行如何，杜淹举例说：昔日里隋炀帝要幸江都，此人苦谏，我亲眼看见。李世民便笑问杜淹为什么不谏。杜淹说职位低，谏不顶用。李世民又问在王世充那儿为什么不谏，杜淹撒个谎，说：“亦有谏，但不见从。”李世民说：“世充若修德从善，当不灭亡；既无道拒谏，卿何免祸？”杜淹无话可说。李世民又问他现在会怎样，杜淹赶快回答：“臣在今日，必尽死无隐。且百里奚在虞虞亡，在秦秦霸，臣窃比之。”
杜淹当然比不上百里奚。他在唐朝虽不敢害人，但贪财之类的毛病还是没改。不过，在两朝的表现还是判若泾渭。同样的，在隋为非作歹的裴矩，在唐居然忠诚称职。这也说明了大环境对个体人的影响力是何等巨大。
贞观二年，杜淹病故，赠尚书右仆射，谥为襄。
