衛所制度是明代最主要的軍事制度。衛所制度吸取了歷史上的屯田經驗，是一種寓兵於農、守屯結合的建軍制度。明太祖曾深以創設這一軍制為榮，他曾誇口說：「吾養兵百萬，不費百姓一粒米。」
明代從京師到府州，都設立了衛、所。按照明制，5600名軍人為一衛，1120人為一所，120人為一個百戶所。自衛指揮使以下軍官都是世襲的。衛所軍隊都有固定的戍所。衛所由朝廷根據各地的防衛、戰略需要而設置，或數府一衛，或一府數衛，視各地戰略地位之重要與否而定，固定駐屯戍守。
明代山東以其連接兩京的重要形勢，成為朝廷最為關注的地區，設衛之多、設衛之早，尤其不同他省。明政府為了鞏固大運河這一朝廷經濟大命脈，加強山東境內運河沿岸衛所的軍事力量，有的擴充衛所軍員，有的則增設衛所。而山東之內又以魯西北與沿海地區最為要害，山東多數衛所和主要兵源皆佈局於此。
而位於魯西的東昌，位於京杭大運河河道上。元為東昌路，明初改為東昌府。東昌府南接濟南、充州，北連臨清，「襟衛河而帶會通，控幽薊而引淮泗，泰嶽峙，漳水西環，實齊魯之會也。」
明初的東昌府為練兵、駐兵重地。太祖洪武元年(1368年年)七月，「敕徐達詔山東諸將會兵東昌」。洪武十年(1377年)正月，「都督僉事藍玉練兵東昌」。洪武二十三年(1390年)閏四月，「東平侯韓勳、西涼侯濮興、瀋陽侯察罕、左軍都督僉事王憲練兵東昌」。大量的官軍駐紮在此，不僅因為東昌具有適合練兵的廣闊平坦地形，還因為其地處交通要道，便於派遣和徵調。可見，東昌府沿襲元代而設衛，是因其位於運河沿岸，有便於南北交通的水路和陸路優勢。
朱元璋明代東昌府內設有平山和東昌二衛。平山衛於洪武四年(1371年)六月建，史書記載，「城中有二阜，謂之平山，明初建衛於此，因名。」治所在東昌府內。而東昌衛系湖廣武昌衛調至東昌，於宣德六年(1431年)而建。其時明朝處於建國以來最為穩定之時，大運河位於東昌府城東門外，為了保護大運河的暢通，因而增建東昌衛。
在羊使君街東段路口西南角刻有「東昌衛」的石碑是兩個衛所的分界線。平山衛主要負責界碑以南至龍灣減水壩之間運河漕糧的運輸安全，而東昌衛不僅負責該界碑以北至梁水鎮之間的漕糧運輸，還負責東昌府轄區的治安。
明中期以後，各地衛所官軍大量逃亡，雖然衛所數量及建置方面已經沒有太大的變化，但是實際存在的衛所官軍人數與規定數額相差甚遠，衛所官軍戰鬥力大大削弱，已經名存實亡。