張作霖的一生都在爭議中度過。有人說他賣國，原因是他跟日本人的關係剪不斷理還亂；有人說他愛國，原因是他守住了東北100多萬平方公里的領土，而東北是當時中國形勢最複雜、競爭最激烈的地方。如果沒有張作霖在東北的崛起，這塊土地也許早就落入敵手，不是被沙俄侵吞，就是被日本人佔據，或者被滿蒙獨立勢力所控制。
所以，從實際結果上來看，張作霖是非常愛國的，在他手上未曾丟失東北一寸土地；從表象上看，張作霖又是賣國的，而這其實是他生存發展的一種策略。簡單地說張作霖是個務實派，既有自己的底線，又不會硬碰硬地跟日本人較量，以免不可收拾。這個策略是當時東北所能採取的最好策略了，張作霖一直運用得很成功。
在愛國與賣國之間，張作霖採取了如下策略：
一是堅守底線，抵制分裂。二十世紀初的日本對中國的策略就是分裂中國，最好中國軍閥混戰，越亂越好，這樣中國永遠構不成對日本的威脅，反過來日本可以從中漁利。而對東北的策略，自1905年日俄戰爭以後，日本就已經把東北視為自己的勢力範圍，因為日本認為東北原本被沙俄佔去了，是日本通過戰爭從沙俄手上搶回來的，如果沒有日本，東北早就不是中國的東北了。日本的這種想法倒也是事實，所以它在把東北搶回來以後，很想自己獨佔，但是遭到了德國及英法等國的反對。英法德等國之所以反對，本質上也並不是為中國的利益考慮，而是從列強瓜分中國機會應當均等的角度出發，反對日本獨霸東北。日本並沒有實力與當時的德國及英法等國對抗，萬般無奈之下，才想到了在東北扶植自己的代言人這一策略。當時他們看中了張作霖，一來張作霖在東北各種勢力角逐中迅速崛起，具有代理人的資本；二來張作霖主動向日本靠近，與日本各方面關係良好，讓日本以為張作霖會是一個很聽話的角色，可以有效保護日本人在東北的利益。為此，日本出錢出槍，在歷次較量中均站在了張作霖一邊，使張作霖登上了奉天督軍的寶座。
張作霖登上奉天督軍寶座後，並沒有按日本的預想積極回報日本。此時日本國內對張作霖產生了兩種意見，一種意見以日本外相石井、參謀次長田中等為首，主張繼續支持張作霖統一東北，然後策動張作霖獨立，使東北脫離中國；另一種以關東都督中村覺大將為首，認為張作霖不可信，待其羽翼豐滿後一定會對日本不利，因此應以非常手段誅殺張作霖，反過來可以扶持前清遺老宗社黨控制東北。兩種意見相較不下的時候，關東都督中村覺大將下手了。1916年5月27日，日本天皇的弟弟由俄國返回路經奉天，張作霖為示友好前去迎接。在迎接完畢返回大帥府的路上，突然一聲巨響將張作霖的馬車炸飛了天，坐在馬車上的衛兵全被炸死。所幸張作霖命大，當時坐在另一輛馬車上。事後張作霖明知暗殺行動是日本人幹的，但考慮到今後要和日本人交往，並沒有深入追究下去。
日本關東軍暗殺張作霖未能成功，於是通過川島浪速策動蒙匪巴布扎布與前清宗社黨首領善耆相互勾結，發動滿蒙獨立運動。巴布扎布有蒙匪3000名騎兵，善耆經過多年的經營，也集合了支持清王朝的所謂滿洲特殊部隊4800餘人，另有招募的4000餘人，三股力量合在一起計有1萬餘人，編成三個旅團，指揮骨幹均是日本軍官。1916年7月1日，巴布扎布率3000餘人，由日軍大尉青柳勝敏指揮，從哈拉哈河出發，向突泉、洮南方面進犯。張作霖對於滿蒙獨立運動採取的措施是堅決予以鎮壓，這方面他深知日本人的脾氣，只有堅決徹底地消滅這股勢力，才能從根本上斷絕日本在這方面的企圖，也才能更加有效地鞏固自己的地位。為此，他指示吳俊升率部把蒙匪擊退，吳受重傷後，巴布扎布捲土重來，攻勢很猛，張作霖又派第二十八師第五十五旅進駐鄭家屯平匪。巴布扎布不敵，退入南滿鐵路屬地內的郭家店，托庇於日軍保護。9月2日，巴布扎布在日軍的護送下撤離郭家店。儘管有日軍護送，張作霖依舊令部下尾追，等到日軍脫離巴布扎布所部後，即行發動攻擊，終在蒙匪撤到阿魯科爾沁旗、巴林等地時將巴布扎布擊斃。滿蒙獨立運動遂告失敗。滿蒙獨立運動失敗後，果然如張作霖所料，日本不得不調整政策，重又回到扶植張作霖的道路上來。
二是明修棧道，暗度陳倉。日本支持張作霖統一東北後，就以控制東北的主要鐵路及其沿線為基礎，妄圖通過控制鐵路線上的戰略樞紐從而達到控制東北局勢的戰略目的。彼時日本控制的南滿鐵路縱貫東北全境，張作霖如果想從黑龍江調兵，北端可以使用中俄共管的中東路，但是到了長春以後就只有南滿鐵路可用了，長春以南一直到奉天以東、彰武以北完全受日軍控制。到了奉天以後，奉天通往山海關有張作霖控制的京奉路可以使用。從以上鐵路線控制情況可以看出，日本控制的南滿鐵路最為要緊，關東軍可以利用南滿鐵路來控制奉軍的行動。按照日本當年與民國政府簽訂的條約：奉軍調兵要乘坐南滿鐵路，必須經日本駐奉天總領事及關東軍司令部批准後才可以，而且奉軍需要解除一切武裝，槍支彈藥另行托運。奉軍的軍事物資，必須得到關東軍司令部批准才給運輸，日本隨時可以拒絕。也就是說，張作霖幾十萬大軍的後勤保障握在日本人手裡，只要日本人把南滿鐵路關閉，奉軍就將陷入癱瘓狀態。這種狀況張作霖尤其不能忍受。
張作霖羽翼豐滿後，所思量的就是要改變這種被動局面。為此，由楊宇霆和常蔭槐出面，制定了東幹線和西幹線計劃。東幹線自奉天修至吉林，然後再沿已經修好的省辦鐵路至哈爾濱，可以有效連通東北三省的省會城市；西幹線從打虎山經通遼至齊齊哈爾，也可以有效溝通奉天、吉林和黑龍江三省的聯繫。兩條幹線所起到的作用其實就是對日本控制的南滿鐵路進行替代。
張作霖要修建這樣的兩條鐵路，當然不會得到日本當局的同意。為了保障鐵路修建計劃得以實施，張作霖想出了很多點子。對於西幹線南部的打通鐵路，剛修建的時候是以京奉鐵路的支線名義修建的，日本人當時也沒太在意，以為不過一條支線而已，起不了啥作用。但是張作霖修著修著就把打通鐵路延長了。1926年8月，延長工程向彰武施工，這下子引起了日本高度關注，日本外務大臣幣原喜重郎訓令駐奉天總領事吉田茂，要其向張作霖詢問打通鐵路到底要修到哪兒？它的計劃是什麼？日本政府明確向張作霖表示不能允許有與南滿鐵路進行競爭的平行線。9月9日，吉田茂訪問張作霖又質問此事，張作霖說東北當局沒有修建南滿鐵路平行線的計劃，即使有計劃也沒有築路資金。12月28日，日本代理總領事要求東北當局停止彰武以北計劃，張作霖安排楊宇霆出面說奉天省政府沒有彰武至通遼計劃。京奉路局把奉天以西換下的舊軌用於打通路的延長，是由北京政府和交通部說了算，東北當局並未參與，把修建責任推給了北京換來換去的民國政府。後來日本為阻止該線的實施還提出了外交照會，甚至採取了切斷滿鐵鐵路等措施。這時打通鐵路的延長線已經與四洮鐵路在通遼接通軌道，西幹線已經完全接通。1927年11月15日，西幹線正式營運，從此避開了日軍控制的南滿鐵路，發揮了軍事運輸和開發地方經濟的重要作用。
至於東部幹線，分為南段和北段兩部分進行。修建南段奉海鐵路的時候受到日本阻力較小，原因與上面西部幹線一樣，也採取了瞞天過海的手法，只說修一條官商合辦的模範鐵路，起點為奉天，終點至海龍縣城，中間經撫順和清原。日本一看這鐵路不過是通往奉天的一條小小支線，沒啥作用，對南滿鐵路也根本不會造成任何影響，所以也就同意了。奉海幹線於1925年7月開工，1927年8月即已完工。後來張作霖又故伎重施，如上文西部幹線延長打通路一樣，又開始了奉海線的延長，一直延長至朝陽鎮。按張作霖的意思，接下來還要繼續延長，一直延長到吉林省的吉林市，這條鐵路即東部幹線的北段吉海鐵路。此時日本人總算看出了張作霖的企圖，日本駐奉天總領事和駐吉林總領事分別向張作霖和張作相抗議，還利用東京報刊和東北報刊宣傳吉海路是南滿路的並行線和競爭線。但是張作霖授意楊宇霆回答說吉海路只是奉海路的延長線，奉天省政府已經用借款洮昂路為妥協條件，換得了日本政府放棄奉海路的借款權。當時簽協議時並未規定奉海路不得延長，因此日本沒有理由再抗議。日本駐奉天總領事吉田茂非常生氣，認為奉海鐵路當然是從奉天開始至海龍結束，怎麼到了海龍還能延長到朝陽，到了朝陽還能一直延啊延得沒完沒了，最後還能延長到吉林省的吉林市，那與新修一條鐵路有何區別？但是道理是這個道理，吉田茂還是無法反駁條約裡沒有規定奉海路不得延長的這個事實，只好拿出照會表達日本政府的極度憤怒，要求該計劃即行中止。但是張作霖在這件事情上沒有妥協，照修不誤，鐵路就在抗議和嗟商中不斷延長，至1929年6月朝陽鎮至吉林總站完工，吉海鐵路正式通車。吉海鐵路在海龍與奉海鐵路接軌，實際上已完全實現了東部幹線的目標。不過張作霖沒能看到東部幹線建設完工的那一天。完工前1年的6月份，惱羞成怒的日本人終於下了狠手，將張作霖炸死在離奉天不遠的皇姑屯，留下了千古遺憾。