至當年秋季，近千名官軍鄉勇逼近了杜立三的老巢後插拉村。這個村子的陳、於兩家大戶都有院牆和炮台，且地形險要，便於攻守。除此之外，便只有十幾家孤零零的小戶了。官兵進村後，全部駐紮在陳、於兩家，準備休息一陣再尋找杜立三。
孰料杜立三用的不過是一招誘敵深入而已，當官兵進村時，他已率領精選的五百悍匪鑽入那十幾家小戶裡，官兵剛要休息，他們就從四面八方包圍過來。頓時，槍聲四起，炮火紛飛。
杜立三為了將官軍一網打盡，頗花血本。他親畫圖樣，讓人把大樹幹挖空，外面裹鐵皮，裡面放火藥，再加入鐵釘、鐵砂、碎石等，製成了一門門土炮。軍官鄉勇幾次欲強行突圍，都被槍炮打了回去。
三天後，院中糧食斷絕，只得殺馬代食，飲水斷絕，只得拿馬尿當飲料。得悉剿匪部隊陷入絕境，後方指揮官趕緊組織救援，一時卻又無兵可調，情急之下，只好向附近的俄軍炮兵求援。俄軍炮兵架起大炮，向後插拉村連發數彈。
俄造大炮的威力自非土炮可比，當炮彈掠過村莊上空時，村民都十分驚恐。不過其實杜部並未受到什麼損失，因為他們都散處於各小戶中，反而陳、於兩大戶受到的震動更大，官軍人人自危，都害怕炮彈正中落到院裡來。
杜立三見俄國炮威力強大，又不知道俄軍到底來了多少兵，在村民的再三懇求下，遂撤兵離去。官軍雖然絕處逢生，但已狼狽不堪，之後他們便偃旗息鼓，收兵回營，自此再不敢和杜立三進行直接較量。
在官軍與杜立三大戰的過程中，張作霖只是個旁觀者，但是看到杜立三如此不好惹，就算他的邀功之心再迫切，暫時也只能先退避三舍了。
1903年，朝廷對地方軍進行整編，張作霖所部由八角台移駐新民府街，並與新民街巡捕隊合併。張作霖依舊出任管帶，繼續與昔日的綠林同行們演著兵捉匪、貓捉鼠的遊戲。在這一整年裡，他就像是那個被釋出五行山，跟著唐僧取經的齊天大聖一樣，不惜使出渾身解數，對遼西的各路「妖魔鬼怪」東征西討，被他擊潰的大小「鬍子」不計其數。
當然，剿從來都不是官軍對付盜匪的唯一手段。有個叫侯老疙瘩的「鬍子」，長期在新民西北和彰武邊界一帶竄擾，居民甚以為苦。他見張作霖做了受撫的榜樣，也想學著陞官發財，便通過一個中間人告知知府增韞，說自己要投誠。增韞答應下來，讓侯老疙瘩做好準備，將所部開到新民府聽候點編。
點編那天，增韞令張作霖率眾站堂，以防不測。隨即，侯老疙瘩帶著四十餘人進入大堂，看到他們身上都帶著武器，站堂的兵丁忙喝令他們把槍放下。不料侯老疙瘩見大堂內外戒備森嚴，以為官軍要強行繳械，竟然在增韞升堂時操起了槍。張作霖及部下早有防備，一陣亂槍打過去，當場擊斃侯老疙瘩，還繳獲了二十多支俄國快槍。
增韞受了一場虛驚，對張作霖大加稱讚。事後，他除了將侯老疙瘩的手下全部交給張作霖改編，繳獲的快槍也歸其所有外，又從府庫裡撥出一部分銀兩，買了兩百多支槍械送給張作霖，以示獎勵。
與「侯老疙瘩案」相似的還有「五大哨案」。所謂「五大哨」，是五股綠林武裝的別名，他們事前也同意接受改編，雙方相約在新民府的大堂進行點編。由於有了經驗教訓，張作霖不待增韞吩咐，就已早做準備，在大堂上埋下了伏兵。
「五大哨」進入大堂後，循例要跪在地上，聽知府宣讀點編命令。可是這些人聽完命令，卻認為與接洽時所談條件不符，竟然立即翻臉，並當堂鳴槍。增韞這回嚇得躲到了公案底下，又幸虧張作霖及其部下開槍還擊，對方抵敵不住，除當場死傷者外，其餘人全都逃之夭夭，「五大哨」也從此瓦解。
張作霖逐漸成為增韞不可缺少的左膀右臂。錦西有一對「鬍子」兄弟苑四、苑五，領著四百多人在當地燒殺搶掠，錦州官府束手無策，就請新民府派兵助剿。增韞命張作霖前去掃平，張作霖出手不凡，開到錦州不久就把苑氏兄弟打了個灰飛煙滅。