在這個危急的時刻，首先起來打擊叛軍的是常山（今河北正定）太守顏杲（音ｇǎｏ）卿。
顏杲卿本來是安祿山的部下。安祿山發動叛亂以後，顏杲卿就準備反抗。叛軍到了稿城（在今河北省，稿音ｇǎｏ）的時候，顏杲卿已經招募了一千多名壯士。他知道自己力量不夠，不能跟安祿山硬拚，就跟手下的官員袁履謙向叛軍假投降。安祿山仍舊讓他守常山，但是心裡不放心，一面把顏杲卿的兒子、侄兒帶到軍營裡做人質，一面派了一個叛將守在井陘關（在今河北井陘）。
安祿山渡過黃河，攻下洛陽之後，顏杲卿決心起兵，他的堂弟平原（今山東平原）太守顏真卿也招募了一萬多人馬，派人跟顏杲卿聯絡，要他攻佔井陘關，截斷安祿山的後路。
顏杲卿打聽到守井陘關的叛將是個糊塗的酒鬼，就假傳安祿山的命令，派人帶了美酒好菜去慰勞他，等叛將喝得酩酊大醉的時候，把叛將殺死，佔領了井陘關。
顏杲卿攻下了井陘關，士氣振奮。第二天又接連活捉了兩名叛將。顏杲卿派人分頭到河北各郡去告訴官吏說：現在朝廷派出三十萬大軍討伐安祿山，已經出了井陘關，早晚就到河北各郡了。受安祿山脅迫叛變的，趁早投降，可以受到重賞；如果頑抗，罪加一等。
河北各郡官員一聽到安祿山站不住腳，都紛紛響應顏杲卿。河北二十四個郡，有十七個郡又站到唐軍一邊來。
安祿山正準備向潼關方向進兵，一聽到河北各郡都響應顏杲卿，後方不穩，只好改變主意，回到洛陽。他在洛陽自稱大燕皇帝，派大將史思明、蔡希德各帶一萬人馬分兩路攻打常山。
顏杲卿雖然打了幾個勝仗，但是起兵只有八天，常山周圍的防禦工事都沒修好，兵力又少，怎樣敵得過兩路叛軍！叛軍到了常山城下，顏杲卿派人到太原去求援，但是太原守將王承業不肯出兵。
史思明叛軍把常山緊緊圍困，顏杲卿帶領常山軍民拚死抵抗了四天，城裡糧食斷了，箭也完了。常山終於陷落在叛軍手裡。
史思明縱容叛兵殺害了一萬多常山軍民，又把顏杲卿、袁履謙抓起來，押送到洛陽去見安祿山。
安祿山命令兵士把顏杲卿押到他跟前，責問顏杲卿說：「你本來只是個范陽小官，我把你提拔為太守，為什麼反叛我？」
顏杲卿怒氣沖沖地罵著說：「你是一個牧羊的小子，國家讓你做了三鎮節度使，有哪點對不起你？我為國除奸，恨不得斬你的頭，叫什麼反叛？」
安祿山惱羞成怒，要左右兵士把顏杲卿、袁履謙拖到一座橋邊的柱子上縛起來，使用殘酷的刑罰折磨他們。
顏杲卿神色凜然，一面忍受著酷刑，一面仍舊痛罵安祿山。叛軍兵士用刀割了顏杲卿的舌頭，顏杲卿滿口鮮血，還發出含糊的罵聲。
袁履謙看到顏杲卿受刑的慘酷情景，氣得自己咬碎舌頭，連血帶舌噴在旁邊一個叛將的臉上。
顏杲卿、袁履謙罵不絕口，一直到他們嚥氣。
顏杲卿從起兵到失敗，雖然只有十幾天，但是他們的抵抗，拖住了叛軍的兵力，為唐王朝調兵遣將爭取了時間；他們的誓死抵抗的精神，鼓舞了更多的人抗擊叛軍。
顏杲卿被殺後一月，河東節度使李光弼率領步兵騎兵一萬多人、太原弓箭手三千人出兵井陘關，打退叛軍，收復常山。接著，朔方節度使郭子儀也帶領精兵到常山和李光弼會合。河北的一些百姓受盡安祿山叛軍擄掠的痛苦，聽到郭子儀、李光弼大軍打過來，自發集合起來，修築營壘，抵抗叛軍；等郭、李大軍一到，就參加了大軍隊伍。郭、李兩支大軍兵強馬壯，士氣旺盛，接連打擊安祿山叛軍，河北十幾個郡重新回到唐軍手中。
河北大捷，截斷了叛軍的後路，叛軍軍心動搖。安祿山大起恐慌，埋怨謀士高尚、嚴莊說：「幾年來你們勸我起兵造反，說這是萬全的計策。現在西邊打潼關，幾個月也打不進去；北邊的路也被截斷。我們困守在這裡，叫什麼萬全！」他打算放棄洛陽，逃回范陽去。
正在安祿山進退兩難的時候，唐王朝統治者自己卻替叛軍打開了潼關大門。