裴矩字弘大，是河東聞喜人。
祖父裴他，曾任魏國都官尚書。
父親裴訥之，曾任北齊太子舍人。
裴矩在襁褓中就成了孤兒，到長大成人，勤奮好學，很愛好寫文章，有聰明才智。
伯父裴讓之對他說：「看你超凡的才識，足以成為人才，但是要求得為官顯達，還應學習一些處理世事的學問。」裴矩開始留心當時的政事。
北齊北平王高貞做司州牧，徵召裴矩做兵曹從事，隨後，又轉任高平王文學從事。
直到北齊滅亡，裴矩都沒有得到調遷。
高祖做定州總管，召來裴矩並授給他記室職務，很親近尊重他。
後來，裴矩因母親去世離了職。
高祖做國相後，派使者騎快馬召來裴矩，讓他參與相府記室事務。
到高祖受禪得到皇位，他又遷升為給事郎，掌管舍人要事。
在討伐陳的戰事中，他又兼任元帥記室。
隋軍已經攻破丹陽，晉王楊廣讓裴矩同高赹收集陳國的地圖和戶籍。
次年，奉詔巡撫嶺南，還沒起程，就遇上高智慧、汪文進等聚眾作亂，吳、越一帶道路被堵塞，皇上難以派遣裴矩前去。
裴矩請求迅速出發，皇上同意了。
走到南康，獲得數千兵卒。
當時，俚人的元帥王仲宣逼進廣州，並派遣部將周師舉圍攻東衡州。
裴矩同大將軍鹿願趕到那裡，賊軍已經設置了很多柵欄，兵馬駐紮在大庾嶺，互為援助。
裴矩進兵攻破敵人，賊軍害怕，就放棄了東衡州，佔據原長嶺。
裴矩又進兵攻破原長嶺，於是斬周師舉。
接著，他又從南海發兵援助廣州。
王仲宣因害怕就潰逃了。
裴矩安撫的地區有二十多個州，又按隋朝制度設置官職，安排那些首領任刺史、縣令。
等到回報皇上，皇上非常高興，讓他上殿慰勞他。
皇上對高赹、楊素說：「韋光率領二萬士兵，不能早過庾嶺，我還時時擔心他的兵少。
裴矩憑借三千殘破之兵，一直打到南康，有像這樣的臣子，我還有什麼憂慮的呢！」裴矩因功被授為開府，賜封為聞喜縣公，得賞布帛二千段。
後來，又被授為民部侍郎，接著又遷升為內史侍郎。
當時，突厥很強盛，都藍可汗的妻子大義公主，就是北周宇文氏之女，因此多次製造邊患。
後因大義公主同隨從的胡人私通，長孫晟先揭發這件事。
裴矩請求出使，勸說都藍可汗公開懲治大義公主。
皇上同意了他的請求。
果然像裴矩說的那樣，大義公主被殺。
後來，都藍可汗與突利可汗勾結作難，多次侵犯亭障，皇上命令太平公史萬歲任行軍總管，出兵定襄，命令裴矩做行軍長史，在塞外攻破達頭可汗。
史萬歲被殺，裴矩的戰績竟未被敘錄。
皇上因為啟民可汗剛剛歸附，就命令裴矩撫慰他，回京後裴矩任尚書左丞。
那年，文獻皇后去世，太常卿不知道禮節制度，裴矩和牛弘參照《齊禮》制定殯葬禮儀。
轉任吏部侍郎，有稱職之名。
煬帝即皇位，要在洛陽建造東都，裴矩任修府省，九十天就完成了。
當時，西域各蕃邦大多到張掖同中原往來通商。
煬帝命令裴矩掌管那裡的事務。
裴矩瞭解煬帝正努力經營遠方的謀劃，於是，對那些到張掖來經商的胡人，裴矩就引誘他們，讓他們說出自己國家的風俗習慣和山川險要，撰寫了《西域圖記》三卷，回朝把它上奏給朝廷。
其序說：我聽說夏禹平定九州惡水，疏導黃河沒有超越積石，強秦兼併六國，設防禦也只到達臨洮。
故知西域蕃胡種族混雜，居住地方偏遠，是禮儀教化不容易到達，典章文化很少傳播到的地方。
自從漢朝興起，開拓黃河以西地區，才開始有名稱的，有三十六個國家，那以後又分崩離析，這才有五十五個國王。
那時，仍然設置校尉、都護等官職，以便存恤招撫。
然而，那些胡人時而歸順時而背叛反覆無常，屢屢經過戰爭。
到了後漢，才逐步廢了這些官職。
雖然自大宛以來，還略略知道人戶的多少，但是各國的山川地域沒有名目。
至於那些姓氏風俗、服飾物產，全無編纂記載，所以世上沒聽說過。
又因朝代的更替，時代相隔久遠，討伐兼併，有的興，有的亡。
有的地方原是舊的種族，卻又用現在的稱號，有的人不屬原來的氏族，卻又沿襲往時的名稱。
加上部落百姓交錯居住，疆界改變，戎人狄人語言不同，情況實在是難以全部驗實。
于闐之北、蔥嶺以東地區，從前朝史書中考證，有三十多個國家。
後來又遭陷沒，僅有十個存在。
其他被消滅俱盡，空有廢墟的，就無法記載了。
皇上膺受天命，化育萬物，不讓華夏和四夷隔絕，四海之內百姓，沒有不仰慕教化的。
凡是風吹到的地方，太陽能照臨的地方，各地賦稅貢獻全都到了朝廷，不管多遠沒有不到達的。
我既然撫納了他們，觀察瞭解邊關要塞的貿易情況，尋找探索書傳，採訪胡人，對有些有懷疑的事情，我就廣泛聽取鎊自不同的說法，按照他們本國的服飾儀態，從國王到一般百姓，表現出他們各自不同的形貌舉止，又即刻用丹青摹仿勾畫出，寫成《西域圖記》，一共是三卷，記有四十四個國家。
又另畫地圖，畫出其要害，從西頃以遠，到北海之南，縱橫綿延，將近二萬里。
我推想這裡從來就是富商大賈周遊經過的地方，所以，對各國情況沒有不普遍瞭解的。
還有一些地方，因地荒路遠，倉猝尋訪，還很難一下弄明白，但是又不能憑空虛造，因此缺如。
而兩漢相繼立國，西域作為驛捨，幾十戶百姓就稱一個國家，有名號，名不符實。
現在編入戶冊的，都有千多戶，他們利盡西海，多產珍貴奇異之物。
那些在山裡居住的人們，沒有國名，至於那些小的部落，大多也沒有記載。
從敦煌出發，到達西海，共有三條路，各條路又有它的路線。
北道從伊吾，經過蒲類海鐵勒部，突厥可汗處，渡過北流河水，到拂林國，到達西海。
那中道從高昌、焉耆、龜茲、疏勒，越過蔥嶺，又經過發汗、蘇對沙那國、康國、曹國、何國、大安國、小安國、穆國，到波斯，最後到達西海。
那南道從鄯善、于闐、朱俱波、喝般木陀，過蔥嶺，再經過護密、吐火羅、挹怛、凡延、漕國，到北婆羅門，最後到達西海。
三條路上的各個國家，也各有各的路，南北往來通達。
那東女國、南婆羅門國等，如果一齊順著要去的地方前行，各處都能通達。
所以瞭解到伊吾、高昌、鄯善都是西域的大門戶，全都匯合到敦煌，是西域的咽喉之地。
憑借國家的威望和恩德，將士的勇猛雄健，旌旗一舉則能渡過蒙汜，戰馬騰躍能跨過崑崙，像翻一下手掌那樣容易，哪裡不能到達呢！只是突厥、吐谷渾分別管轄羌族和匈奴，成為那裡的障礙，所以給朝廷貢獻的物品不能到達。
現在又因為西域商人秘密送來財物，盼望歸附朝廷，願意作臣子。
聖上福澤給養人類，恩惠普及天下，如果使他們信服，讓他們得到撫恤，那麼就一定能歸順安定。
所以，皇上派遣使者，不要發動戰事。
只要各蕃邦歸順，吐谷渾和突厥也就能夠消滅。
我朝統一四夷和華夏，大概就在此時了！如果不記載什麼情況，就無以表達皇上聲威教化的深遠。
煬帝看後非常高興，賞給裴矩布帛五百段。
每天召裴矩到殿上侍坐，親自詢問西域的情況。
裴矩盛讚胡蕃中有很多珍寶，吐谷渾容易併吞。
煬帝因此很快意，將溝通西域，經營四方的重任全都委派給裴矩。
裴矩轉任民部侍郎，還沒開始辦事，就又調遷黃門侍郎。
煬帝又命令裴矩前往張掖，引導西域蕃邦入朝貢獻，到朝廷貢獻土產的有十多個國家。
大業三年(607)，煬帝到恆岳祭祀，這十幾國都來助祭。
煬帝將要巡視黃河以西地區，又命令裴矩前往敦煌。
裴矩派使者勸說高昌王曲伯雅和伊吾的吐屯設等，用豐厚的利益好處來引誘他們，讓他們入朝。
到煬帝西巡，駐紮在燕支山時，那高昌王、伊吾設等人和西蕃的二十七國國主，都到道路左邊拜見煬帝。
煬帝讓他們都佩金玉，披錦緞，焚香奏樂，歌舞喧嘩。
又讓武威、張掖等郡的官家女子穿著盛裝跟隨觀看，車馬堵塞，綿延十多里，來顯示中原的強盛。
煬帝看到這情景，非常高興。
隋軍終於擊敗了吐谷渾，擴展疆土數千里，朝廷都派兵把守，每年輸出的物產以億萬計。
各蕃邦害怕，來朝廷上貢的絡繹不絕。
煬帝認為裴矩有安撫民心的才略，提升他為銀青光祿大夫。
那年冬天，煬帝到東都，裴矩因前來朝貢的蠻人夷人，就勸諫煬帝命令都府大演百戲，召集天下奇怪的技藝，排列在端門街。
當時，身穿錦綺、披金戴銀的人達十多萬。
煬帝又命令文武百官和平民百姓列坐棚閣任意觀看。
人們都披著色彩鮮麗的衣服，一月之後才結束。
煬帝又命令豐都、大同、通遠三市飲食店都設置帷帳，擺著豐盛的酒席，並且派掌管蕃邦的官員帶領那些蠻夷商民與漢民貿易交往，凡是蕃民到達的地方，店肆就把他們全部邀請入席，讓他們喝醉吃飽才離開。
那些蠻夷讚歎不已，稱中原是神仙之地。
煬帝讚賞裴矩的摯誠，回頭對宇文述、牛弘說：「裴矩很理解我的心意。
凡是呈奏的事情，都是我做了打算的事，我還沒有宣佈的時候，裴矩就已經說出來了。
假如不是盡心奉國，哪能像這樣呢？」煬帝派將軍薛世雄在伊吾建造城市，命令裴矩一同前往西域經營策劃。
裴矩諷諫西域各國說：「天子覺得蕃人貿易經商相距太遠，所以才在伊吾建造城市。」蕃人都認為是這樣，也就不再來干擾。
裴矩回到朝廷，煬帝賞給他錢四十萬。
裴矩又上奏皇上，請求讓他用反間計，讓射匱秘密進攻處羅，這些話記載在《西突厥傳》裡。
後來，處羅被射匱逼迫，終於隨使者入朝進見。
煬帝非常高興，拿豹皮和西域珍寶賞給裴矩。
裴矩隨從煬帝到塞北巡視，煬帝駕蒞啟民可汗帳篷。
那時，高麗已先派使者與突厥溝通，啟民不敢隱瞞，便帶領高麗使者前來拜見煬帝。
裴矩於是上奏皇上說：「高麗這地方，本來是孤竹國，周代把它封給箕子，漢代又把它分為三個郡，晉代也統轄遼東。
現在竟然不稱臣，另為外域。
所以先帝對它很憎恨，要討伐它也很久了。
只是因為楊諒無能，發兵征討沒有結果，陛下在這個時候，怎麼能不成就大業，讓這文明之地仍為蠻夷之鄉呢？現在，高麗的使者向突厥朝拜，拜見啟民，他們全國百姓順從歸化，高麗一定害怕皇上的神通廣大，考慮到後降伏的要先滅亡。
如果強迫他們入朝，應該是能達到目的的。」煬帝問道：「怎麼辦？」裴矩回答說：「請讓我當面告誡使者，放他們回到自己的國家，派他們告訴他們的國王，命令他們的國王迅速來朝廷進見。
如果不這樣的話，就要帶領突厥，馬上除掉他們。」煬帝聽取了這個建議。
後來，因為高元不聽命，才考慮征討遼東的策略。
軍隊到遼東，裴矩以本官身份兼任武賁郎將。
第二年，他又隨軍隊來到遼東。
後來，兵部侍郎斛斯政逃到高麗，煬帝命令裴矩兼管軍隊事務。
因為裴矩前後到遼參戰，又被遷升為右光祿大夫。
在當時，朝廷綱紀不振，人們都改變了節操。
左翊衛大將軍宇文述，內史侍郎虞世基等濫用職權，徇私枉法，文武百官也多因行賄受賂而聞名，只有裴矩還保持原來的節操，沒有貪贓枉法的名聲，因此，被人們稱頌。
裴矩回到涿郡，煬帝因剛剛平定楊玄感叛軍，命令裴矩安撫隴西一帶。
裴矩因此到會寧，撫慰曷薩那部落，派闕達度設騷擾吐谷渾，常有俘虜劫獲，部落漸漸富裕。
裴矩回到朝廷，上奏煬帝，煬帝很讚賞。
後來裴矩隨軍隊到懷遠鎮，煬帝命令他總管北蕃軍事要務。
裴矩因始畢可汗部落逐日強大，就向煬帝獻計分散突厥勢力，要把王室女兒嫁給始畢弟弟叱吉設，並授叱吉設為南面可汗。
叱吉設不敢接受，始畢聽到這件事後，就逐漸產生怨恨。
裴矩又對煬帝說：「突厥本來就淳樸，容易離間，只是由於他們內部多有群胡，又全都凶狠狡猾，把突厥人教壞了。
我聽說史蜀胡悉最多奸詐詭計，受始畢寵信，請讓我誘殺他。」煬帝說：「好。」裴矩於是就派人告訴胡悉說：「皇上現在在馬邑大擺奇珍異物，要供蕃內貿易交換，如果先來，就能換得上等物品。」胡悉貪圖好處，就相信了這話，沒告訴始畢，就帶領他的部落，趕著六畜，連夜急馳，爭先恐後，希望能最先交易。
裴矩在馬邑埋伏軍隊，引誘他於是殺了他。
煬帝告訴始畢說：「史蜀胡悉突然帶領部落人馬來到我這裡，說是要背叛可汗，請求我收容他。
突厥已經是我的臣子，那裡有叛臣，我們應當協同處治。
現在已經殺了他，因此讓人前往相告。」始畢知道其中情況，因此不入朝。
大業十一年(615)，煬帝到北方狩獵，始畢帶領數十萬騎兵，在雁門圍困煬帝。
煬帝命令裴矩和虞世基每天住在大堂，以便咨詢。
到解除雁門的包圍，裴矩隨從煬帝到東都。
射匱可汗派他兄弟之子帶領西蕃諸胡來朝廷進貢，煬帝命裴矩設宴接待他們。
不久，裴矩隨從煬帝駕臨江都宮。
當時，四方叛軍蜂擁而起，郡縣上奏作亂之事不可勝數。
裴矩把這情況告訴煬帝，煬帝很氣憤，派裴矩到京師接待蕃客，裴矩因病就沒有去。
到義軍入關之時，煬帝命令虞世基到裴矩住捨詢問對策。
裴矩說：「太原已有變化，京城又不安寧，相隔遙遠作出處理，恐怕失去機會，希望皇上早點從江淮回京都，才能平定事態。」裴矩又復出管事。
不久，驍衛大將軍屈突通兵敗的消息傳來，裴矩把這件事告訴煬帝，煬帝臉色劇變。
裴矩平時勤勉謹慎，沒有觸犯他人的事，又見天下正處於混亂，怕造成殺身之禍，於是，他對待別人，大多超過那些人所希望得到的，所以，即使是服勞役的下人，他都能得到他們歡心。
當時，跟從煬帝的驍勇之士，大多數都已逃亡，煬帝擔心這事，就詢問裴矩，裴矩回答說：「現在，皇上滯留這裡，已經兩年了。
這些驍勇之士都沒有家室，人沒有妻偶，就不能長時間安居，我請求讓士兵在這裡成家。」煬帝聽了非常高興，說：「你必定多智謀，這是個妙計啊。」於是，煬帝就命令裴矩核實將士情況，給將士們娶妻室。
裴矩召集江都境內寡婦和未出嫁的女子，把她們都集中在宮監之中，又召來將帥以及兵眾任憑他們挑選。
讓她們自首，讓那些先前就已與人通姦的婦女和尼姑、女道士等，也都配人。
因此，驍勇之士都高興，都相互稱道說：「這是裴公的恩惠啊。」在宇文化及叛亂之時，裴矩早晨起來將去上朝，走到坊門，遇到幾個叛逆黨徒，他們挾持裴矩的馬到孟景的住處去。
叛軍都說：「這不與裴黃門相關。」一會兒，宇文化及帶領百多人馬到來，裴矩相迎拜見，化及安慰諭示他。
化及命令裴矩參照制度，推舉煬帝侄子秦王楊浩做皇帝，授裴矩為侍內，隨宇文化及到黃河以北。
宇文化及僭越皇位，將裴矩遷升為尚書右僕射，加任光祿大夫，封為蔡國公，任河北道安撫大使。
宇文化及失敗，裴矩被竇建德俘獲。
因為裴矩是隋朝老臣，竇建德待他很優厚。
又任裴矩為吏部尚書，接著又遷職為尚書右僕射，專管銓選之事。
由於竇建德出身於群盜，沒有禮節，裴矩替他制定朝綱制度。
十月之間，典章法度就已經很齊備，就像君王一樣。
竇建德非常高興，經常向裴矩詢問要事。
竇建德渡黃河討伐孟海公，裴矩同曹旦等留在名州留守。
竇建德在武牢兵敗，將帥不知歸從哪裡，曹旦長史李公淹、大唐使人魏征等人歸勸曹旦和齊善行歸順大唐。
曹旦等人聽從了他們的勸告，於是就讓裴矩把八枚傳國玉璽，給魏征和李公淹，將崤山以東的土地全部歸順到大唐。
裴矩被授為左庶子，後轉任詹事、民部尚書。