蘇孝慈是扶風人。
父親蘇武周，是北周的兗州刺史。
蘇孝慈年少時沉著謹慎，很有才幹，容貌俊美。
北周初年任中侍上士，後來又拜授都督的官職，他出使到北齊，因其奉命出使，讓皇上滿意回京後升為大都督。
這年他又出使到齊國，回來以後授予宣納上士。
以後他又跟隨武帝討伐齊國，因為功高而升為開府，皇上賞賜他文安縣公的爵位，食邑一千五百戶。
不久又改封為臨水縣公，增加食邑一千二百戶，以後連續陞遷做到工部上大夫。
高祖接受北周禪讓，登基稱帝以後，蘇孝慈又晉陞爵位為安平郡公，授予他太府卿的官職。
這時皇家大業剛剛奠定，各種建築剛剛開始，朝廷徵召天下的工匠，即使只有一點點技巧的，也無不把他們全部集中起來，交由蘇孝慈統領，世人稱蘇孝慈很有管理才能。
不久，他又陞遷為大司農。
一年多以後，又授予他兵部尚書的官職，皇上待他更加親密。
當時皇太子楊勇對時政非常瞭解，皇上想提高東宮官吏的聲望，就常讓朝廷大臣兼任東宮的官職。
這時皇上就授命蘇孝慈做太子的右衛率，仍舊擔任兵部尚書的職務。
第二年，皇上在陝州設置常平倉，以便把糧食轉運到京城。
由於渭水含沙量大，水流忽深忽淺，漕運的人都很苦惱，於是朝廷決定疏通渭水，挖一道水渠同黃河相連，命蘇孝慈監督這項工程。
水渠修成後，皇上認為他做得很好。
後來又讓他兼任太子右庶子，轉而授予他左衛率的官職，仍舊擔任工部尚書、民部尚書，人們都稱讚他很幹練。
幾年以後，他晉陞為大將軍，轉任工部尚書，任左衛率如故。
先前，因為官吏薪金不足，台省愛寺都設置貸錢的機構，收取利息作為官俸。
蘇孝慈認為官府和百姓爭利，不是教化天下的辦法，就上表章請予禁止，請求對於公卿以下的官吏按職位差別分給田地，皇上都很贊成並採納了這些建議。
開皇十八年(598)，皇上將要廢除太子，又擔心蘇孝慈在東宮輔助太子，於是就調蘇孝慈出京任淅州刺史。
太子因為蘇孝慈離開了他，心中很不平，面色上也表露出來。
蘇孝慈就是如此的受太子倚重。
仁壽初年，升任洪州總管，在兩地他都有仁政。
這以後，桂林山越人糾結叛亂，皇上命蘇孝慈任行軍總管，擊敗了叛軍，平定了叛亂，這一年蘇孝慈死在任上。