劉行本，沛人。
父親劉瑰，仕梁朝，歷任職務都很清顯。
劉行本開始當武陵國的常侍。
碰上蕭修以梁州投降北周，行本於是與叔父劉潘一起歸順北周，寓居於京兆府的新豐。
他常以讀書為事，忘記疲勞，雖然缺衣少食，仍安然自若。
他生性剛烈，有不可奪之志。
北周大塚宰宇文護引為中外府記室。
周武帝親理萬機後，行本轉任御正中士，另兼職負責作起居注。
累次陞遷，到當掌朝下大夫。
北周的規矩是，天子臨朝，掌朝官員負責把筆墨紙硯拿到天子的寶座跟前，然後由承御大夫拿著給皇上。
到劉行本任掌朝官員時，將要把筆硯等拿給皇帝，承御大夫又要去拿，行本高聲對承御大夫說：「你不能拿筆！」皇上驚問何故，行本對皇帝說：「我聽說，設立官職，各有所司。
我既不能佩戴承御大夫的刀，承御大夫怎能拿我的筆？」皇上說：「說得對。」因此下令兩個部門各負其責。
宣帝繼位後，大多失德。
行本切諫，忤逆聖旨，出京任河內太守。
隋高祖任北周丞相後，尉遲迥作亂，攻打懷州。
劉行本率領官吏百姓抵抗叛軍。
授為儀同，賜為文安縣子爵。
高祖即位後，調他回京當諫議大夫，代理治書侍御史。
不久，升任黃門侍郎。
高祖曾對一郎官發怒，在宮殿前鞭笞他。
劉行本上前說：「這個人一向清廉，過錯又小，望陛下稍稍寬宥他一下。」皇上連頭都不回一下。
行本於是到高祖面前，說：「陛下不因我不才，把我放在您身邊。
我的話如是對的，陛下怎能不聽？我的話如是錯的，那應當按理處置我，以明國法。
怎能輕視我，連頭都不回一下呢？我所說的不是私事。」因此把官笏放在地上而退下。
皇上為之動容，向他道歉，於是原諒了所打的那個郎官。
當時天下統一，四夷歸順。
劉行本因黨項羌族靠近大隋疆城，但卻最後歸順，因此上表彈劾其使者說：「我聽說，南蠻遵從校尉的統轄，西域仰承都護的威嚴。
近見西羌鼠竊狗盜，無父無子，無君無臣，在所有的異類殊俗中，西羌是最差勁的。
他們不領悟朝廷籠絡他們的恩惠，又豈知大隋涵養他們的恩情？他們狼戾為心，獨違正朔，拖到最後才來朝見。
他們的使者最近到了，請將他交給司法部門處理。」皇上驚奇他的為國之志。
雍州別駕元肇對皇上說：「有一個州官，接受別人貴贈的三百文錢，按法律應打一百棍子。
但我從剛到雍州時，就與他們約好不貪污。
這個官吏故意違反，請加他一年徒刑。」劉行本反駁他說：「法律又推行了，又下了詔書，這就是給人民的約束。
如今元肇膽敢看重自己的教命，而輕視法律；想表明自己的話一定要執行，忘記了朝廷的大信譽，損害法律，自取威嚴，這不是人臣應守之禮法。」皇上嘉獎他，賜他絹一百匹。
劉行本在職幾年，拜授太子左庶子，仍舊兼任治書。
皇太子在他面前，虛心受教，很敬畏他。
當時唐令則也任左庶子，太子親暱他，常讓他教內人唱歌跳舞。
劉行本責備他說：「庶子，應當用正道匡扶太子，為什麼會有嬖暱於房帷之間的事呢？」唐令則很慚愧，但不能改正。
當時沛國人劉臻、平原人明克讓、魏郡人陸爽都因文學而被太子親近。
劉行本恨他們不能調教、匡護太子，常對這三個人說：「你們只知道讀書罷了。」當時，左衛率長史夏侯福被太子親近，曾在閣內與太子開玩笑，夏侯福大笑，聲音傳到了外頭。
劉行本當時正在閣房之外，聽到笑聲，待他出來，數落他說：「殿下寬容，才賜給你顏色。
你是什麼東西，敢怠慢殿下？」因此，把他交給執法者處理。
過了幾天，太子為夏侯福求情，行本才放了他。
太子曾得一良馬，讓夏侯福騎而觀之。
太子很高興，又想讓行本去騎。
行本不聽，正色進言道：「皇上之所以把我放在左庶子的位置上，是想讓我用正道輔佐殿下，不是要我作殿下的弄臣。」太子慚愧而作罷。
行本又以本官身份兼任大興縣令，權貴們怕他的方正剛直，沒誰敢到他門下來。
因此托情開後門的路給堵死了，法令清簡，官吏百姓都感懷於他。
不久，行本在官任上去世，皇上很傷心，很惋惜他。
到太子楊勇被廢黜時，皇上說：「唉唉，若是劉行本在，楊勇當不會到這個地步。」行本無子。