戰國中後期，趙國的實力越來越衰落，在與齊、秦、魏等國的戰事中屢次戰敗，損兵折將，不得不忍辱割地，就連周邊的小國都不斷向趙國發兵，進行掠奪，但趙國卻無力還擊。公元前326年，趙武靈王即位，即位之初，他的父親趙肅侯剛剛去世，魏、楚、秦、燕、齊以弔唁為名，組織了萬人的聯軍想趁機佔領趙國。15歲的趙武靈王在大臣肥義的幫助下，從容應對，終使五國退兵，使趙國免於滅國。年輕的趙武靈王胸懷大志，痛定思痛，決定奮發圖強，改變被動挨打的狀況。
趙國地處北方，東接東胡，北鄰匈奴，西邊和林胡、樓煩相接。這些部落都是以遊牧為生，非常擅長騎馬射箭，經常以騎兵進犯趙國邊境。在頻繁地與這些遊牧民族接觸的過程中，趙武靈王深刻意識到騎兵的優越性。他對部下說：「這些遊牧民族的騎兵來去如飛，反應快速靈敏，這樣的軍隊馳騁疆場，怎會不打勝仗？」
經過長期觀察總結，趙武靈王發現，胡人的士卒穿窄袖短襖和長褲，不管是在平時的生活起居中，還是作戰時騎在戰馬上，都比較靈活方便，而趙國軍隊的軍服類似於平民的短打，顯得不太適合作戰，因此在與胡人騎兵的交戰中往往處於劣勢。而且趙軍以步兵和車兵為主，而胡人作戰時用騎兵、弓箭，與兵車、長矛相比，戰馬、弓箭具有更大的靈活機動性。
趙武靈王認識到：趙國在戰事中敗績連連，並不是趙國軍隊的士兵衰弱，而是因為軍隊軍裝不適於騎兵，同時車戰的作戰形式落後。中原傳統的步兵和戰車配合作戰的方式不適合現在的作戰需要，因為戰車笨重，只有在較為平坦的地方作戰時才能發揮效力，而遇到複雜的地形，運用起來就會非常不便，並且趙國以步兵為主，怎能是迅猛如飛，靈活機動的騎兵的對手？為了增強趙國軍事力量，趙武靈王決定學習這些遊牧民族的長處，組建騎兵，同時改中原地區寬袖長袍的服裝為短衣緊袖的胡服，以適應騎戰的需要。
趙武靈王堅信以騎射改裝軍隊必然能增強趙軍軍隊的戰鬥力，徹底改變趙國總是被動挨打的局面，但他也知道中原國家向來鄙視夷族，因此這番改革一定會遇到非常強大的阻力。於是為了提高國民對在全國實行胡服騎射政策的信心，他在頒布改革法令前，為胡服騎射的好處做了現實而有說服力的宣傳。趙武靈王事先對少數人進行了騎射的訓練，組成了一隻人數不多但很精銳的騎兵，然後就帶領著有限的騎兵向北進攻中山國，取得了一系列的勝利，使趙國國民的信心受到極大鼓舞。接著，他率領騎兵渡過黃河，在黃河西側進入林胡人長期活動的地帶。這個過程中，趙武靈王多次與遊牧民族騎兵作戰，從未戰敗。
這一系列的勝利有力地證實了騎兵的優越性，趙武靈王改革的信心也更加堅定。他先找大臣肥義和將軍樓緩商議，說：「我國處於強敵包圍之中，如今我想改革軍裝，穿胡服，胡服便於騎射。」肥義、樓緩等人有戎狄背景，都十分贊同，而且他們分析了趙國的國情、地形、人文等現實情況，認為施行胡服騎射對結束國家分裂，增強軍事力量和競爭力都有好處。
趙武靈王的叔叔公子成及趙文、趙造、趙俊等，認為胡服的改革會損害自己的利益，以新法違背古法，不得人心為由，反對變法。趙武靈王反駁了他們的觀點，說：「聖人做事是以實際情況為基礎，因地制宜，採取相應的對策，只要是有利於國家昌盛的，何必拘泥於古人的舊法？」
趙武靈王立志將西北少數民族納入趙國版圖，決定採用以胡制胡的策略，衝破守舊勢力的阻攔，力排眾議，毅然頒布了「胡服騎射」法令。法令的中心內容是穿胡人的服裝，即窄袖短衣，腳登皮靴，腰繫皮帶，束金鉤，戴有貂尾蟬蚊裝飾的武冠。
趙武靈王帶頭穿起胡服，將趙國軍隊的軍裝全改成胡服，裝備齊全後，就開始訓練將士，騎馬射箭，並在圍獵活動中進行實戰演習。
趙國的貴族沒想到趙武靈王改革的決心如此堅決，便散佈謠言說：「平時，趙武靈王就看不慣我們，這次是藉機給我們難堪。」趙武靈王聽後非常生氣，把滿朝大臣召集起來，當眾彎弓搭箭，射穿了門樓上的枕木，聲色俱厲地說：「再有膽敢散佈謠言阻撓變法者，枕木就是他的下場！」貴族們知道事情已經無法阻止，都不敢再說反對的話了。
趙武靈王改穿胡服的變法很徹底，他下令除了軍隊的將士，全國上下，不論大臣百姓都要改穿胡服。趙武靈王帶頭穿著胡服去會見群臣，並派專人去見他的叔父公子成，請他改穿胡服。使臣回報說，公子成不願意穿胡服。武靈王便親自去見公子成，耐心地勸解，公子成被說服，也穿著胡服上朝。趙國的宗室貴族見公子成都接受了胡服，就都跟著同意了。就這樣，胡服就在趙國上下推行開來。
實行胡服後，趙國建立起一支以騎兵為主體的軍隊，胡服的便利在戰鬥中立刻顯現出了威力。趙國打敗了宿敵中山國，奪取了林胡、樓煩之地，國土向北方拓展了上千里，軍事力量日益強大，在雲中、雁門、代郡設置行政區，管轄範圍達到今河套地區。