1912年10月份以後的東北，總兵力共有三支，除了張作霖的陸軍第二十七師以外，另外還有馮德麟的陸軍第二十八師以及吳俊升的陸軍騎兵第二旅，此外就是一些地方部隊。在這些部隊當中，張作霖的實力最強，又佔據著當時東北的軍政中心奉天，可以說天時、地利、人和三方面因素均已具備，但要成為真正的「東北王」並沒有那麼順利，他還有很多路要走，前面路上等著他的對手先後有張錫鑾、段芝貴、馮德麟、朱慶瀾和孟恩遠等人。
先說張錫鑾，張作霖對他採用的是攻心計，也就是採取種種方法逼其自動讓位。清帝退位後，袁世凱掌權，袁世凱怎麼會相信前清旗人趙爾巽？所以很快趙爾巽就被調去任清史館館長了，代之而起的是袁世凱的把兄弟張錫鑾。1914年5月，袁世凱任命張錫鑾為奉天巡按使，旋又改任奉天將軍，授鎮安上將軍。這奉天將軍除奉天之外，還節制吉林和黑龍江兩省軍務。
張錫鑾也算是張作霖的老上級了。1907年張作霖調任前路巡防營統領的時候，這個人就已經是節制五路巡防營的巡防營總辦了。袁世凱以為把他派來，憑著昔年的上下級關係，多多少少可以牽制張作霖。但是今天的張作霖跟那個時候已經完全不可同日而語了，張作霖有實力，有野心，而張錫鑾卻什麼也沒有，他已經是個71歲的老人了，只想平平安安地過日子，因此面對咄咄逼人的張作霖，他很有些力不從心。那個時候奉天各界都對張作霖很看好，他所在之地成為全省的政治中心，每天進出的文武官員絡繹不絕，大小事情都與他相商或徵求他的意見，大家普遍認為張作霖會是下一任奉天將軍，張作霖也有意或者無意地縱容這種風聲，目的是向張錫鑾施壓。在這種情況下，張錫鑾處境尷尬，勉勉強強履任了一年之後向袁世凱提出辭職。1915年8月，張錫鑾被調走。張作霖排擠張錫鑾的目的達到了，但是奉天將軍這個位子並沒有給他，相反，袁世凱派來了一個更難纏的對手——段芝貴。
下面我們就說第二個對手段芝貴。段芝貴是大有來頭的，此人北洋武備學堂出身，留學過日本，1912年任武衛軍總司令，1913年授陸軍上將，任陸軍第一軍軍長。無論是原有職位、資歷、學識、聲望都遠遠超過張作霖。尤其重要的是，與張錫鑾不同，段芝貴是帶兵的人，他有自己的部隊。袁世凱用他來牽制張作霖，可謂用心良苦。
1915年8月，袁世凱授予段芝貴鎮武上將軍，兼奉天巡按使，節制奉天、吉林、黑龍江軍務，此時段芝貴才46歲，比張作霖大不了多少，正是年富力強的時候，精力無比充沛。張作霖深知段芝貴來頭很大，自己惹不起，因此只能韜光養晦，等待時機。為了取得段芝貴的信任，張作霖還不惜搜購珍珠古玩，送給段芝貴的父親，以此博取歡心。從張作霖對待張錫鑾和段芝貴的不同態度上，諸位大致可以看出張作霖這個人審時而動的本領了。時利於我，則果斷進擊毫不容情；時不利我，則俯首貼耳極盡忠心之能事。這是張作霖在亂世之中每每勝出的關鍵。
如果不是發生了意外的事情，段芝貴這個太上皇那是坐穩了東北，張作霖一輩子也爬不起來。但是，上蒼暗助，張作霖的機會來了，而且來得是那麼的快。
這個意外的事情就是袁世凱稱帝和取消帝制，時間也就在段芝貴履任東北一年左右。袁世凱稱帝又取消帝制，在袁世凱自己看來那是一除一抵，什麼也沒有發生。但在全國人民看起來就不是那麼回事了，尤其是孫中山等為首的革命黨人，藉著袁世凱稱帝的機會舉起了反袁的大旗，豈會因為袁世凱取消帝制而煙消雲散？當時雲南蔡鍔組織了護國軍，各省先後響應宣佈獨立，袁世凱地位岌岌可危。
袁世凱地位動搖也就牽連到了段芝貴身上，原本被段芝貴壓得大氣也不敢喘的東北軍人看到形勢突變，趁這機會提出了「奉人治奉」的口號，這裡面叫得最凶的是陸軍第二十八師師長馮德麟。前文說過，馮德麟這人以前也是土匪，其土匪級別比張作霖當時還要高一個等級，當年張作霖在八角台避難的時候，原本想投奔的人就是馮德麟，馮這人也有很大的野心，他跟張作霖想法一樣，都想當東北王，以後他們會成為最主要的對手，不過此時兩人利益是一致的。因此馮德麟找到張作霖商量，說段芝貴是帝制禍首和清朝餘孽，這樣的人不配統管東三省，因此需找個方法驅逐他。至於什麼方法，馮德麟已成竹在胸，他讓張作霖的第二十七師扮紅臉，而自己的第二十八師不怕做惡人，扮白臉跟段正面起衝突，一唱一和把段芝貴嚇走。
要在以前給他們十個膽也不敢，可眼下袁世凱風雨飄搖，段芝貴又粘染了復辟帝制這一不佳的名聲，兩人都覺得時機到了。於是張作霖入見段芝貴，說是馮德麟這個土匪不管三七二十一，硬要進奉天來懲辦帝制禍首段芝貴，張作霖勸段芝貴暫且避避風頭。段也不是嚇大的，不過對於馮這樣的土匪出身還真沒有把握，兼且自己的兵不在身邊，躲躲也不失為一條好計，於是就攜帶一批官款和軍火乘專列去天津，路上由張作霖派一營兵馬護送。車到溝幫子，扮演惡人的第二十八師登場了。第二十八師汲金純旅的一個團在溝幫子火車站攔住了專列，團長邱恩榮上車，要查處帝制禍首段芝貴。當時張作霖派的一營兵馬由旅長孫烈臣帶領，孫旅長假裝下車處理此事，之後回報段芝貴說群情激憤，保命要緊。段芝貴只好忍痛將軍火和官款留了下來，隻身一人逃到了天津。經此一事，段芝貴恨死了馮德麟，在袁世凱問詢事情經過時，說了很多馮德麟的壞話。
段芝貴被逐，奉天保安會參議總長袁金鎧等又上書「奉人治奉」，留給袁世凱的選擇其實已經不多，袁已經被革命黨人的「護國戰爭」弄得焦頭爛額，又很怕東北跟革命黨人走在了一起，於是在萬般無奈之下，只好在有資歷的「奉人」中選一個了，當時情況下有資歷能穩住局面的也就張作霖和馮德麟兩個人，這兩個人選誰不用說諸君也知道了。馮德麟充當黑臉那可是把段芝貴得罪到骨頭裡去了，選誰也不可能選馮德麟。所以這馮德麟啊，野心不小，但是盡幹些為他人做嫁衣的事情，沒有馮德麟唱這一齣戲，張作霖要想坐上奉天寶座估計是猴年馬月的事了。
1916年4月22日，袁世凱任命張作霖為奉天盛武將軍，督理奉天軍務兼奉天巡按使。經過多年的不懈努力，張作霖終於成為奉天省軍政的最高統治者。
1916年6月6日，袁世凱在全國人民的一片反對聲中病死，副總統黎元洪繼任大總統。黎元洪宣佈恢復國會，改各地將軍為督軍，巡按使為省長。這樣，1916年7月6日，張作霖又改任奉天督軍兼省長。
張作霖費盡心機終於當上了奉天督軍，但並沒有完全掌控奉天，其原因就在於攫取職務相對比較容易，只要政府一紙命令就可以實現。但要讓奉天各種勢力俯首聽命可就不那麼容易了，這裡面主要的反對者就是前文提到過的曾與張作霖平起平坐的馮德麟。相比張錫鑾和段芝貴而言，馮德麟更難對付，因為他是土生土長的奉天人，手握重兵。從實際情況分析，張作霖兵力佔優，又駐紮在奉天，且已取得奉天督軍的職位，天時地利人和佔盡，已經在較量中勝出，只不過張作霖所要的是馮德霖全部的人和心，這個不能硬碰硬，只能春風化雨，細水長流，所以他採取的是收服的策略，一步步安撫和收買人心。
馮德麟，字閣忱，又名麟閣，1866年生，比張作霖大9歲，奉天海城人，與張作霖同省同縣。1900年7月沙俄入侵東北，到處燒殺搶掠，導致奉天各地紛紛組建民團。與張作霖在趙家廟組建民團一樣，馮德麟也在遼陽組建民團，這個民團的規模還比較大，有數百人，手下有各幫頭目自稱一百零八將。前文述過，張作霖在趙家廟失敗後，走投無路的情況下曾一度想投奔馮德麟，只不過路經八角台時被留了下來，從而以八角台為起點，逐步成就了自己的一番霸業。假如當初沒被留在八角台而是順利投奔了馮德麟，那麼張作霖就只能屈居在馮德麟手下，這樣的話還會有以後的張作霖嗎？也許東北王就不是張作霖而是馮德麟了，當然這只是假設，歷史從來不容許假設。
馮德麟由於組建民團與俄國作對，在俄國的一次突襲中被抓，被流放到庫頁島，兩年後才千辛萬苦地逃了回來。人都說大難不死，必有後福。果然，在日俄戰爭時期馮德麟很自然地幫著日本人打俄國，日本人勝利後就把馮德麟推薦給了當時的東三省總督趙爾巽，趙爾巽不敢怠慢，招安了馮德麟，大約在張作霖升任前路巡防營的時候，馮德麟就已經升至巡防營左路統領，駐北鎮。
從上述情況可以看出，馮德麟走的路線其實與張作霖一樣，都是先匪後軍的模式。這裡面也有一個人曾經想走這條路的，就是前文所說過的杜立三，為什麼杜立三沒走通這條路結果還被殺？這裡面有一個關竅，就是並不是誰都能憑實力由黑漂白的，得要有機緣。張作霖的機緣是護持了奉天總督增祺的夫人，馮德麟的機緣更厲害了，是得了日本人福島少將的直接保薦。反觀杜立三，做盡壞事不說，也沒有任何機緣。當時的東北，像杜立三這樣想漂白的土匪不在少數，但最終走通的就只有張作霖和馮德麟。
1912年9月，張作霖和馮德麟兩個人同時被提升為師長，前文已經說過，此時看起來他們是平級的，但高下已經分出來了，因為他們的駐地不同，兵力差別也很大，自認為前輩高人的馮德麟估計那時就有些不高興，只是沒有表現出來而已。1916年張作霖被任命為奉天督軍，而馮德麟只是奉天軍務幫辦，職位在張作霖之下。這下子這位綠林前輩不幹了，認為是奇恥大辱，拒絕接受這個任命。
馮德麟有自己的一幫兄弟，有自己的地盤，也有自己的軍隊，後面還有日本人撐腰，對這樣的人張作霖不敢也不想硬來，所以他極盡懷柔之能事，先派孫烈臣攜30萬元巨款到北鎮慰問，又派人在奉天修建二十八師辦事處，又設宴款待為其洗塵等等，總之態度是極其謙恭，就是當年東三省總督趙爾巽也沒享受到這份待遇。但待遇歸待遇，一旦涉及到原則問題比如馮德麟要求幫辦權力與將軍平等，或者要求擴充兵力等等，張作霖則是一條也不答應。兩人就這麼貌合神離地僵持著，雖然張作霖很努力，但是小恩小惠對於馮德麟這樣的人根本就沒有任何作用，除非張作霖有大恩於馮德麟，這樣的可能性微乎其微。
關鍵時候老天爺又來幫助張作霖了，讓張作霖真的做到了有大恩於馮德麟，這要從1917年7月份北京發生的張勳復辟事件談起。這個張勳與康有為等人一起，把廢黜多年的清帝溥儀請了出來，重新扶上了龍椅。照理北京離奉天遠得很，復辟不復辟的壓根兒影響不到馮德麟。但是諸位別忘了，馮德麟是舊派軍隊起家的，對清室有一定的忠誠度。張勳電召馮德麟進京，正在奉天與張作霖爭得焦頭爛額的馮德麟以為借此上位的機會來了，心想只要清帝一復辟，這奉天的大權不就歸自己了，所以他就派先遣隊200人急馳入京以示支持，並命令二十八師火速進京「贊襄復辟，保衛皇室」。
馮德麟的這個算盤打得並不怎麼精明，原因是他也不看看大氣候，以前袁世凱稱帝全國人民都反對，袁世凱那麼強勢的人都因為稱帝弄得身敗名裂，何況僅僅只有6000人的辮子軍張勳？果然，復辟只維持了12天就失敗了，張勳逃進了荷蘭大使館，馮德麟則在逃回奉天途中被抓。8月15日，時任民國總理段祺瑞宣佈馮德麟背叛共和的罪狀，剝奪了其二十八師師長、陸軍中將等一切官職和勳位，馮德麟被關押在北京，成了階下囚。
馮德麟被囚，最開心的應該是張作霖了，等於是北京幫他除去了一個勁敵。但是張作霖並沒有落井下石，反而不念舊怨，積極營救，因為馮德麟的軍隊還在。張作霖雖然沒有讀過幾天書，卻很明白以德服人的道理。他以二十七師、二十八師以及新整編的二十九師各旅、團、營長名義，電請段祺瑞釋放馮德麟，還以遼西16縣士紳的名義向段祺瑞請願，要求從寬處理。段祺瑞和張作霖背後都有日本人支持，且當時北京政府內部直皖之爭已經很厲害，為了拉攏和安撫手握重兵的張作霖，這個面子還是要給的。所以過不多久北京政府就把馮德麟放了，理由也很荒唐，說是馮德麟參與復辟證據不足。
從7月10日被抓到10月15日釋放，馮德麟被囚了三個月，這是他一生中第二次坐牢。前文已經講過，馮德麟剛剛起家時因組建大團與俄國人作對，被俄國人流放到庫頁島，自己九死一生才逃了回來。而這次完全有賴於張作霖的幫助。東北人很講義氣，尤其是他們這些從土匪窩中走出來的，更把義氣看得比命還重。自此以後，馮德麟把二十八師完全交給了張作霖。而自己，在張作霖的爭取下當了一個三陵守護大臣，名聲好聽，可以與張作霖平起平坐。事實上就一虛職，負責看護滿洲入關以前的三代祖陵。1926年8月11日，這位很有傳奇色彩的同張作霖一個縣城的老鄉，頗有既生瑜何生亮之感的馮德麟，安安靜靜地病死在三陵守護大臣任上。
從危難之中施救馮德麟之後，張作霖贏得了二十八師官兵的支持，張作霖將二十八師旅長汲金純提升為師長，自此以後，張作霖完全掌握了奉天的軍政大權。