裴寂，字玄真，蒲州桑泉（今山西临猗）人，裴寂的父亲在他幼年时就已去世，因此被他的哥哥抚养长大，少年时的裴寂生得眉清目秀，仪表不凡，十四岁时，就被补任命为并州主簿，在隋朝年间历任左亲卫、齐州司户参军、侍御史、驾部承务郎、晋阳宫副监等不同职务。
大业十二年（616年），唐国公李渊出任太原留守，裴寂因为和李渊有旧交，深受李渊的礼遇，两人经常在一起宴饮，十分亲密。当时，李渊的次子李世民准备谋划起兵反隋，但又不敢对父亲李渊直言，李世民知道裴寂和李渊私交甚好后，便在私下里拿出很多钱财，交给龙山县令高斌廉，让他在赌前时，将钱故意输给裴寂，裴寂赢了钱之后非常高兴，与李世民的关系在不知不觉中逐渐亲近了起来。不久后，李世民就把想让裴寂劝说李渊发兵起事的事告诉了他，裴寂因为欣赏李世民的为人，听了后也当即答应了下来。
后来，为了说服李渊发兵，裴寂私下里挑选晋阳宫中的宫人服侍李渊，自己又陪同李渊饮酒取乐，并趁着酒酣之际对李渊说道：“二郎（即李世民）现在正在暗中招兵买马，准备干一件大事，现在我私下里让宫女侍奉您，如果有一天事情泄露，我们一定会被皇帝诛杀，如今天下大乱，盗贼四起，如果只是一味拘于小节，难免一死，如果能发起义兵，必定能成就一番大事业啊，唐公您意下如何呢？”在裴寂、刘文静等人的不断劝说下，李渊终于决定发兵，说道：“我儿既已决定，那就这么办吧。”
义宁元年（617年），李渊在太原起兵，裴寂为李渊挑选并进献宫女五百人，还将晋阳宫中的九万斛粮草、五万段丝绸以及四十万副甲胄充为李渊的军需。不久后，李渊任命裴寂为长史，赐爵闻喜县公。当时，隋朝大将屈突通坚守河东，李渊发兵后久攻不下，转而想要先取长安，又担心会腹背受敌，为此犹豫不决。裴寂建议李渊先进攻屈突通，再夺取长安，李世民则坚决反对，认为用兵应该崇尚权变，权变在于神速，因此应该先速取长安，李渊听了后认为双方说的都有道理，于是一方面留兵围攻河东，另一方面命李世民率军入关，同年十一月，李渊攻取长安，立代王杨侑为帝，自己担任大丞相，任命裴寂为大丞相府长史，进封魏国公。
武德元年（618年），杨侑再也坚持不住，准备禅位给李渊，李渊推辞没有接受，裴寂率领众臣劝进，再次被李渊拒绝。裴寂说：“夏桀、商纣王等人都有后代，但氏成汤、周武王等人却没有辅佐他们，我裴寂现在得到的爵位、官职，都是大唐所封，陛下如果不称帝，我这个官就做的名不正言不顺，臣应该辞官才是。”李渊这才同意接受禅位。同年五月，李渊受禅称帝，建立唐朝，裴寂因功被拜为尚书右仆射，成为宰相，每日获赐御膳。李渊做了皇帝后，每次临朝，都要请裴寂同坐，散朝之后也会把他留在宫中，对他言听计从，只是称呼他为“裴监”，从来不直呼其名，当时裴寂所享有的待遇，满朝文武无人能及。
武德二年（619年），刘武周麾下部将黄子英、宋金刚入侵太原，太原行军总管姜宝谊、李仲文相继战死，李渊为此忧虑不已，危难之际，裴寂主动请缨，请求率军征讨，于是，裴寂被任命为晋州道行军总管，还被授予便宜行事的特权。当时唐军的营地中大量缺水，山涧水路又被敌军挖断，为了寻求水源，裴寂只好移营，宋金刚却趁机出兵，唐军大败，死伤惨重。裴寂兵败后，慌忙骑马跑了一整个昼夜，才得以逃回晋州（今山西临汾），因为裴寂的失败，唐朝晋州以东的城镇全部丢失，宋金刚又进逼绛州（今山西新绛），裴寂只得上表请罪，李渊下诏慰谕了他，又让他镇抚河东。同年十月，宋金刚又继续攻陷浍州（今山西翼城），军威大振，而裴寂则生性怯懦，因为他实在没有将帅之才，缺乏御敌之策，只是下令让虞泰两个州的百姓进入城堡，又将他们的积蓄焚毁，结果反而却使得百姓们人心不安。此时，夏县百姓吕崇茂杀死县令，趁机叛乱，又积极响应刘武周，还将前来征讨的裴寂打败。眼看裴寂在前线一败再败，李渊便将裴寂召回朝中，指责他说：“起兵初期，你有辅佐的功劳，获得的官爵和封赏都已经到达了极点，此番抵御刘武周，在兵力足以破敌的情况下，你却败亡至此，难道你就不感到愧疚吗？”说完便将他下狱，但因为李渊和裴寂二人感情实在深厚、情同手足，李渊不忍，不久后又将他释放，不但不计前嫌，反而对裴寂更加的优宠。此后，李渊每逢出巡，都要命裴寂留守长安，显然，裴寂是李渊的绝对心腹。
武德四年（621年），麟州刺史韦云起告发裴寂谋反，李渊命令有关部门对裴寂启动调查，但最后却查无实据，于是，李渊只得抚慰裴寂说道：“朕能取得天下，你本来就有很大的功劳，你又怎么会怀有二心呢？朕之所以把你交付审查，是想在全面下人面前为你证明清白，让天下之人都相信你是不会谋反的呀。”说完，又命三位贵妃携带美食宝器到裴寂的家中与他一同饮宴，直道次日方才回宫，以示对裴寂的恩宠。后来，李渊改铸钱币，又赐给裴寂可以自行铸钱的特权，还特聘娶裴寂的女儿做了赵王李元景的妃子，二人又成了儿女亲家，关系更进一步。
武德六年（623年），李渊再次提拔裴寂为尚书左仆射，并在含章殿赐宴，裴寂趁机请求李渊说道：“当初太原起兵时，臣曾与陛下约好，天下平定之后准许臣辞官回乡，如今四海太平，请陛下准臣退休吧。”李渊对裴寂极力挽留，眼泪打湿了衣襟，表示自己要与裴寂一同终老，没有同意裴寂的退休申请。武德九年（626年），李渊册拜裴寂为司空，还命尚书员外郎每日到他的府中值守。
裴寂和李渊的关系愈加亲密，但他和他的好友刘文静之间的故事却朝向了另外一个方向发展。