大多數人對於張作霖的認知基本來自於影視作品，一頂高帽子，兩撇大鬍子，一張嘴就媽了個巴子，活脫脫一個走了狗屎運的大老祖，而真正的張作霖並非如此。
張作霖自幼家寒，祖父在清道光年間隨闖關東大潮由河北來到東北落腳，家裡幾代無一人做官。父親在他尚未成年時被人打死，由寡母含辛茹苦地拉扯成人。
張作霖是在一無學歷、二無錢財、三無背景靠山的情況下，完全憑借自身的努力由浪跡鄉間的小混混，到奉天王、東北王，最終坐上北洋政府陸海軍大元帥的寶座。
心存百姓
1916年4月，當上盛武將軍兼奉天巡按使的張作霖，上任伊始就把自己的施政主張用白話文的形式告知市民。「向來官府所出的告示多半是些文言文語，遇著那不通文墨的人，每每看不明白。今日我們兩人的言語，是要人人聽見，人人明白。所以要用一篇白話兒，與我們奉天的父老子弟說一說。」張作霖白話文官文，讓老百姓看得清清楚楚，解決了當時官方與民間的溝通弊端。在施政方針中，他提出需治理的三件大事，即剿滅土匪、治理財政、整頓吏治，都與百姓息息相關。
1926年，張作霖在孔夫子誕辰脫下軍裝，換上長袍馬褂，跑到各個學校，向老師們打躬作揖，說我們是大老粗，什麼都不懂，教育下一代，全虧諸位老師偏勞，特地跑來感謝。可見其對教育界人士和知識分子的重視與尊敬。
張作霖在北京就任陸海軍大元帥後，不止一次對張學良、對部下說，不要想著糊弄老百姓，你糊弄老百姓，老百姓就糊弄你，到頭來，老百姓反了，咱也就下台了。晚年張學良作口述歷史時，也說過：「我和我父親從來不刮地皮。」
大青樓建成後，張作霖親自在樓前的假山石壁上方寫了「天理良心」四個大字，以使自己每天進院抬頭就能看見這四個字。邊業銀行開業，張作霖在發行的鈔票上印上「天良」印跡，明白昭示，不能坑害老百姓，辦事要對得起良心。
知人善用
張作霖的最成功之處，在於他會用人。他深知，要想打天下，光靠自己不行，必須得有一批肯干、能幹、會幹的人襄助。早在辦保險隊時，他就說：「地方賢俊，如不棄我，當厚幣以招之。」吸引了杜泮林、劉春烺等一批鄉紳文人為其出謀劃策、籌備錢款，還結交了張作相、張景惠、湯玉麟等一批生死弟兄，培養和形成了奉系最初的班底。
張作霖當上奉天督軍後，針對匪患猖獗的情況，準備調王順存來主持剿匪。王順存何許人也？1900年，張作霖在新民府捕盜營當哨官時，王順存在海城當縣知事。為政期間，他勤政愛民，治匪有方，曾將土匪「二連子」捕獲正法，二連子的親哥哥張海鵬為了給他弟弟報仇，帶了數十個土匪，將王順存姑母家男女老少十八口都打死了。張作霖並不認識王順存，只知道1913年王順存在黑龍江任清鄉督辦兼全省警務處長和省會警察廳長時，在三年內肅清了全省匪患。張作霖讓其秘書長談國桓去電邀王來奉，王順存復電同意來奉就職。而此時，將王順存姑母家滅門的張海鵬正在張作霖手下當旅長，他聽說王順存要來，在會議上即拍案而起，說：「來吧！我正想找他報仇呢！」張作霖說：「你們的事，我知道得很清楚，當時你是私，王順存是公。他身為縣知事，職責就是為地方除害。當時不論是誰，只要是為匪害民的，被他抓住了都是要殺的。比方說，我們現在有時也要殺些犯法的人，那些被殺的人，對我們來說能算私仇嗎？」張海鵬說：「我不管什麼公私，大帥既不肯與我做主，我就辭去旅長的職務，以個人的身份對付王順存。」說完，張海鵬一跺腳離去。第二天，王順存來到奉天。張作霖找來談國桓，把張海鵬要報仇的事告訴了談，氣惱地說：「我想用一個人都不能隨便，我現在沒有臉見王公。你通知他趕快離開，張海鵬手黑，說得出就做得出，如果王公出什麼意外，我張作霖更對他不起了。」王順存得知後，即乘當日晚車去了大連。張海鵬探知王順存在大連後，派了一個殺手去大連刺殺王順存，因王住在日本租界內，殺手未敢動手。事過三年，張作霖始終不忘王順存。1919年秋，張作霖當上了「東北王」，再把王順存請到奉天，說：「上次我很對不起你，此次請你留下吧！現在我說話能算數了。」於是電請北京政府，任王順存為東三省清鄉督辦。王順存上任後，征剿得力，三年之內，即將各地土匪肅清。
張作霖有一個航運公司，多年來經營不善，一直虧損。後來有一個小職員給張作霖寫了一封信，提了些建議。張作霖看信後，對這個小職員大加讚揚，並且隨即將這個小職員提為總經理，委他全權管理航運。身邊人勸說：「這個人咱們不瞭解，能不能辦事不好說，僅憑一封信就委以如此重任，辦砸了咋辦？」張作霖說：「我看這小子行，我看準的人錯不了！」果然，一年後，航運公司扭虧為盈，小職員帶著一年掙的十萬大洋面交張作霖。張作霖說：「好小子，我沒看錯你，這十萬大洋就獎給你了，好好幹！」
以德報怨
第二次直奉戰爭奉軍大獲全勝之後，段祺瑞執政府任命奉系將領楊宇霆為江蘇軍務督辦、姜登選為安徽軍務督辦。當時孫傳芳正盤踞浙、閩兩省地盤，唯恐奉軍對己不利，決定先發制人，突然率部向奉軍駐地猛烈襲擊。奉軍因事前毫無防備，楊宇霆倉皇出走，總算逃得性命。一年之後，孫傳芳被國民革命軍打垮逃回南京。不得已掉頭來，想乞援於張作霖。當時張作霖正駐在天津蔡家花園，孫傳芳見張時行晚輩大禮，連說對不起。張作霖撫慰說：「過去的事不要提了。」楊宇霆當時也在蔡家花園，極力勸張作霖殺了孫傳芳，以洩舊恨，根絕後患。張作霖對楊說：「你的氣量要放大些，過去的事情又何必再提呢？歷史上的人物，多半由於利用降兵降將，才能夠成其大業。現在馨遠(孫傳芳字)因九江失敗，力弱勢孤，來投靠我們，我們如果懷念舊恨，乘機殺之，不僅要招天下人的笑罵，將來誰還肯歸服我們，幫助我們，為我們用呢？這不等於拒絕賢路嗎？」此事傳到孫傳芳耳中，孫傳芳被感動得幾乎落了淚，從此對張作霖感恩戴德，甘效犬馬之勞。
不計前嫌
郭松齡被殺後，與郭有關係的人人心惶惶，生怕張作霖追究。有人乘機把一些人與郭松齡來往的信件拿給張作霖，張作霖看也不看，當著眾人面把信全燒了，還是那句話：「過去的就過去了，以後大家好好幹！」
類似的事還有很多。張作霖用人不分畛域，不問出身，恩威並舉，以德報怨，一旦相中就敢用而且也會用，使大批有才幹的人聚攏到他身邊，心甘情願、嘔心瀝血地為他做事。
你不仁我不能不義
張作霖雖然個子不高，但心胸寬廣，對部下、對朋友講仁講義，你可以不仁，但我不能不義。第一次直奉戰爭中，張景惠背後搞鬼，導致張作霖兵敗，張作霖氣得反覆說：「這還是兄弟嗎？」後張母去世，張景惠不敢回來奔喪。張作霖派吳俊升去北京，傳話給張景惠：「大家都是兄弟，你的母親也是我們的母親。」令張景惠大為感動。湯玉麟因張作霖庇護王永江起兵反張，兵敗後逃往他鄉，張作霖派張學良帶著自己的親筆信前去相請，感動得湯玉麟痛哭失聲。
後記
張作霖是個複雜的人，他的所作所為，經常很難用一句話概括。但張作霖又是個透明的人，往往一句話，一件事就能讓人看出他的誠意，感動於他的真情。他從一個窮小子在亂世中崛起，之所以能在大起大落中縱橫捭闔，游刃有餘，最終成就大業，就在於心中堅定地守有為人處事的原則，那就是他親筆寫在大青樓前的那個橫幅：天理良心。