前文說過，清朝的最後一塊土地，清廷雖有心而無力維護，日本強勢介入，沙俄虎視眈眈，革命黨人也在東北開展活動，幾大勢力都看準了東北這塊肥肉，但是出人意料的是，東北最後竟然落在了從草根崛起的，沒啥背景的張作霖手上，而且此人運籌帷幄、長袖善舞，竟然牢牢地掌控住了東北局勢，即使當時十分強勢的日本人也對他一籌莫展。
張作霖，字雨亭，奉天省海城縣小窪村人。1875年3月19日(清光緒元年二月十二日)生。張作霖的祖上應該是闖關東一族。因生活無著，其先祖張永貴從河北省河間府跑到了東北，那時東北正在招墾，凡是勤勞而又願意出苦力的人都有一片土地從事農業開墾，因此生活很快安定了下來。到其祖父張發時，家裡已經經營得比較富裕了，張發有四子，其第三子是張作霖的父親，即張有財。張發死後，兄弟幾個分了家產，有財帶著分到的那份財產來到了海城。有財的名字雖然叫做有財，但其實是有了財產也守不住的，因為他好賭，整天賭博胡混，欠了一屁股賭債，把個家裡弄得赤貧如洗。張作霖14歲時，其父張有財被他的賭友——同村的一家兄弟亂棍打死。
這一年是光緒十五年(即1889年)，年僅14歲的張作霖得到凶信後，他和一位堂兄去幾里外收屍。當時家裡太窮，置辦不起棺木，張父就被收殮在一個半大不小的櫃子裡。櫃子雖不大，兩個半大不小的孩子卻也抬不動，只好拽根繩子拖拉著回村。依照當地的老規矩，橫死的人是不能進祖墳的。他們走著走著實在走不動了，就地找個地方將屍體掩埋了。因為是冬天，天寒地凍，埋得也不深，只說春暖花開後再妥善安葬。第二年開春早，雨水也勤，那個櫃子恰好在河床上，又順水下移了幾里，家裡尋找到的時候，櫃子已深陷在河泥裡，只好就這樣隨遇而安了。
張作霖發跡後，決定給父親遷墳，專門從瀋陽請來風水先生查勘，風水先生仔細看了張有財的落葬處後說不用遷了，老先生自選的埋葬之處風水最好，後人有望出將入相。關於出將入相的話，有可能是後人杜撰，但當年張作霖窮得埋不起父親卻是事實，可見當時之落魄潦倒。
父親橫死，張作霖和他的二哥張作孚決定報仇。他們沒有報告官府，因為當時報官要先交一筆錢，如果不給錢就連官府的門都進不去。當時張家已經赤貧，哪有錢財去給官府？兩個少年於是決定自己報仇，他們拿著一桿借來的土槍翻牆進入了仇人王姓人家，沒想到正好被王家一個女傭發現，這個傭人以為來了土匪，立即大喊大叫。張作霖和他的二哥趕快上去將她制服，那個女人被按倒以後拚命抵抗。在搏鬥期間，張作霖手中的土槍突然走火，當場將這個女人打死。聽到槍聲以後，王家很多男人拿槍衝了出來。張作霖他們的土槍一次只能打一槍，一看形勢不妙，趕緊翻牆逃跑了。官府很快就查出來是誰幹的，派人去抓張作霖和他二哥。結果張作霖跑了，而他二哥跑慢了一步被捉住。王姓家裡要求將他槍斃，可憐張作霖的母親砸鍋賣鐵去行賄。最後官府說開槍的是張作霖，不是他二哥，將他二哥判處10年徒刑才算了事。張作霖二哥坐滿10年牢以後才被釋放，跟著剛剛起家的張作霖幹了一陣子，後來在一次戰鬥中被土匪打死。他二哥的兩個孩子都在張作霖家養著，張作霖把他們當做親生兒子一樣。
張作霖殺了人，被官府通緝，在老家自然待不住了。他一咬牙離開了家，隻身去江湖上闖蕩，因為年紀太小，基本上以乞討度日。後來他流浪到了今天的大石橋市高坎鎮。鎮北八里處有一個磙子泡村，村裡有一家姓孫的，很有錢，每年都要雇長工，張作霖常常到長工伙房要飯吃。起初還給點，後來管事的見他總是來，就不再給了。孫家的主婦年輕喪夫，總想積德行善做好事。她知道張作霖的情況後，便告訴管事的，讓張作霖天天到伙房吃飯。張作霖為了報恩，便主動給孫家掃院子、放豬，幹些零活。時間長了，他便管這位主婦叫乾娘。乾娘見張作霖知情達理，手腳勤快，還有股機靈勁兒，就常給他補衣服，張作霖很受感動。張作霖當上大帥後，沒有忘記這位乾娘的恩情。1924年乾娘死後，他還讓副官前去為乾娘立碑。碑高八尺、寬二尺，有碑座，正面刻著「節烈松筠」，背面刻有歌頌乾娘貞節、勤勞的事跡。碑下落有張作霖及孫家兒孫的名字。
16歲時，張作霖離開乾娘到了黃家店村，給一戶姓孫的財主家放馬。這位孫財主跟乾娘相比那就差遠了，為人刻薄寡恩，一次僅僅因為張作霖丟失了一匹馬，孫財主就將張作霖打了個半死，奄奄一息，並於風雪之夜將他扔在了路邊溝裡。那年月，因凍餓而死在路邊的人常有，官府也不深究，眼看張作霖就要糊里糊塗地喪命在一條不知名的陰溝裡了，也是命不該絕，一位姓樊的好心人路過，將他救回家裡，經過一個多月治療方才痊癒，張作霖感激萬分，便在樊家幹活報恩。樊家在大路邊開了一個大車店，他在店裡打雜。當時大車店裡主要住的是來往的客商。東北地域遼闊，一個縣城到另一個縣城往往數百公里，光靠步行怕是要凍死在路上，所以一般客商全部騎馬或者趕大車。這樣一來，大車店除了照顧人以外，還要找人專門照顧牲口。店裡面照顧牲口的工作由一個夥計負責，他是一個半截子獸醫。張作霖跟這個夥計的關係很好，業餘時間就學習了不少獸醫的技術。
離開樊家後，張作霖就去了高坎鎮，以半拉子獸醫技術為生。應該說，張作霖是很聰明的，他很快成為一個農村的赤腳獸醫，治好了不少牲口，也逐漸有了名氣，開了一家獸醫店。當時東北土匪眾多，而土匪大多是騎馬的。他們的馬生病也要治療，如果馬死了，土匪就跑不過追捕的騎馬官兵，自己也就要完蛋。所以土匪對獸醫相當尊敬，他們的行規中明確註明不能搶劫獸醫。張作霖的獸醫店中也經常有土匪出沒，他之前經常混跡賭場，對土匪流氓都很熟悉，所以也樂於和他們結交，借此居然認識了遼西巨匪杜立三。張作霖身價突漲，成了高坎鎮上有名的人物。
錢包鼓了的張作霖又繼承了他父親的本性，常常出入賭局，附帶還拈花惹草，不小心得罪了鎮上的惡霸於二爺，被於二爺手下追殺，那時跟張作霖交往的有一個老常頭，他把張作霖卷在鋪蓋卷裡躲過了於二爺，救了張作霖一命。高坎鎮看來是沒法再待下去了，於是老常頭又湊了些路費，還把自己的毛驢送給了張作霖讓他遠走高飛，張作霖這一去，從此就告別了他人生中的苦難時代，一個新的屬於他的輝煌時代即將開始。而那位救了張作霖命的老常頭，日後也在張作霖的關照下迅速發家致富，在當地開了「三畬當」、「三畬車店」、「三畬雜貨鋪」，有長工三四十人，土地250多畝，坐享股金，生活極為豪富。