於青字元武，身高八尺，豐髯美須。
北周大塚宰宇文護見了，很器重他，把小女嫁給他為妻。
不久，因為父親的功勳，賜他新野郡公爵的爵位，食邑三千戶。
授他大都督，升任車騎大將軍、儀同三司。
其後累因軍功，授為上開府。
歷任左、右宮伯、郢州刺史。
大象中(579～580)，他以水軍總管身份隨韋孝寬經略淮南。
於青率領開府元紹貴、上儀同毛猛等，率水軍從穎口進入淮河。
陳國防軍主帥潘深丟棄軍營而逃走。
於青進而與韋孝寬攻佔壽陽。
他又帶兵圍困硤石，守將許約懼怕而投降，於青於是拜官東廣州刺史。
尉遲迥反叛時，總管趙文表與於青平素就關係不好。
於青將要殺他，因此睡在家裡，假裝說有心病，對左右說：「我見到兩三個人到跟前的，就大驚，就想砍他們，我不能控制自己。」凡有賓客來問候的，都讓把左右留在外面。
於青逐步假稱快死了，趙文表去問候他，他讓文表的隨從到大門口停下來，讓文表獨自一個到於青的臥室。
於青突然跳起來，抽刀殺了他，因此高聲說：「趙文表與尉遲迥通謀，所以殺了他。」文表的麾下，沒有敢動手的。
這時高祖因尉遲迥未平，怕於青又生邊患，因此慰勞他，就授他吳州總管。
陳國將軍錢茂和率幾千人，襲擊江陽，於青迎戰並打跑了他們。
陳國又派將領陳紀、周羅目侯、燕合兒等襲擊於青，於青抗擊並打退了他們。
皇上賜他縑采幾百段。
隋高祖受北周之禪後，趙文表的弟弟到朝廷稱其兄長無罪。
皇上下令調查這事。
太傅竇熾等人認為，於青應處死。
皇上因於家功勳卓著，特別原宥了他，只貶他為開府。
於青後來承襲了燕國公的爵位，食邑一萬六千戶。
不久因病免職。
開皇七年(587)，授他澤州刺史。
過了幾年，免職，在家去世。
他兒子於世虔繼承爵位。