擁有強大力量和先進制度的齊國，爭霸之路卻並不順利，原因是當時的中原局面，怎一個亂字了得。各諸侯間相互攻伐不說，北方蠻族也不斷進犯，內戰外戰打得亂七八糟。做諸侯的，今天還是大國，明天說不定就國破家亡。你說「尊王攘夷」，誰聽你的？
不過齊桓公確實不是一般人，以往諸如鄭莊公那樣的「小霸」，雖然也搞分化瓦解拉攏這一套，但基本是不服就打，連周天子也照揍。齊桓公認為，這樣是不對的，暴力並不能解決一切問題，周天子這面大旗，雖然內裡破敗不堪，但還是可以拉來做虎皮的，所以要稱霸，既要軟硬兼施，又要拉大旗做虎皮。齊桓公首先抓住的機會是宋國內亂。在春秋早期，宋國也曾經是一個大國，但自從被鄭莊公狠狠修理後，宋國的國力就每況愈下，內亂不斷。公元前681年，宋國發生內亂，國君被殺，其子御說即位，但地位不穩。這事本來和齊桓公八竿子打不著，但齊桓公卻利用了這不是機會的機會，他先派人朝見周天子，請求承認宋國新國君的合法身份。這一朝見非同了得，多年不被人待見的周天子當即感動得熱淚盈眶，立即授權齊桓公代表周王室來辦理此事。
公元前681年三月初一，齊桓公會合宋、魯、陳、蔡、衛、鄭、曹在北杏會盟，宣佈宋國國君的合法地位，並以諸侯頭領的身份訂立盟約。北杏會盟，也就成了齊桓公稱霸道路的第一步。但這第一步卻摔了個大跟頭。諸侯們不是傻瓜，齊桓公這套把戲瞞不過大家的法眼，什麼會盟諸侯，什麼代表周天子，我傻乎乎去了，以後就要聽你吩咐，憑什麼？
結果會盟邀請下發後，但凡有點實力的都不答理齊桓公。實際到會的只有宋、陳、蔡、邾四國，熱火朝天的會盟，搞成了只有四國參加的「慘淡經營」。就這「慘淡經營」也出了岔子，本來作為會盟幌子的宋國國君，會開了幾天明白過來，這是要我給齊國當小弟啊！這怎麼成，當下腳底抹油跑路了。大張旗鼓地忙活了半天，到最後卻被人家給曬了，本想長面子的齊桓公，這面子卻丟大了。
但丟了面子的齊桓公，脾氣還是好得很。宋國國君嘛，跑了就跑了，不但沒計較，反而派使者跟過去噓寒問暖，乾脆一張熱臉貼到底。但對有些人，就不能給熱臉了，比如拒絕來開會的魯國，這就是要給顏色看看的。齊桓公大手一揮，立刻重兵集結魯國邊境，嚇得魯國國君慌不迭地連忙跑來認錯，雙方在柯地補了個會盟。可在會盟期間，有魯國壯士曹劌突然挾持齊桓公，要求齊桓公歸還佔領的魯國國土，可沒面子到極點的齊桓公臨危不亂，刀刃面前鎮定自若。不就是還土地嗎？好說好說。大手一揮，慷慨地把土地還給了魯國，落了個「大國風範」的美名，又逼得魯國道歉認錯，向齊國屈服，自然是很有面子的事情。
消息傳出後，宋國國君腦袋還算轉得快，連忙派使者向齊桓公認錯，並送上重禮。齊桓公也就順水推舟原諒了宋國。就這樣，原本只是「慘淡經營」的北杏會盟，終於成了七大諸侯聯合會盟，推舉齊桓公為盟主的盛事。栽了大跟頭的齊桓公，以其大國國君的胸懷，軟硬兼施的手腕，終於第一次確立了霸主地位。北杏會盟的內容，主要包括如下幾條：一是各諸侯國之間要協同互助；二是要尊重天子；三是要聯合對付蠻族侵略。這三個內容，前兩條尊王，後一條攘夷，內在的核心，卻是齊桓公昭示給各諸侯的「仁德」面目。聽我的話，就給仁德；不聽我的話，就揍你沒商量。
北杏會盟後的齊桓公，在「尊王」的大旗下，其實已成了一方盟主，但這時候他的勢力範圍，主要還局限在今天河南、山東地區。聽命於他的諸侯，也就只有宋、魯、蔡、陳等小諸侯。要想號令天下，當時最重要的，就是要壓服北方的各路諸侯國，尤其是齊國北面的燕國。這個燕國也是有來頭的，它是春秋諸侯國裡的「姬姓諸侯」，也就是周天子的宗室，在當時擁有正統地位。燕國的國都，在薊地一帶，就是今天的北京地區。周邊的北方小部族，也都服從它的統治。要想壓服這樣一個大國，是很困難的。偏偏機會說來就來了。燕國遭到了北方山戎的進犯，眼看國都不保，齊桓公二話不說，出兵！
訓練有素的齊軍，在燕國的地盤上給燕國人上了一堂生動的軍事教育課。三下五除二打敗了山戎的進犯，用強大的實力讓燕國軍民心悅誠服。此戰戰鬥過程簡單，追擊過程卻異常艱苦。吃了虧的山戎和齊國一接觸，立刻撥馬北逃，齊桓公深知除惡務盡，堅決追擊，一直追殺到草原地區，將這一支蠻族徹底殲滅。值得一提的是，在追擊過程中，齊軍一度迷路，是靠了軍中幾匹老馬帶路，方才脫離險境，「老馬識途」的典故，就是由此而來。
燕國的得救，對齊國成就霸業有著重要的作用，原本歸附燕國的渤海周邊的部族，這次齊刷刷地倒向了齊桓公。逃過一劫的燕國軍民對齊桓公更是感激萬分。齊桓公班師的時候，燕國國君燕莊公一路送行，竟然不知不覺走進了齊國境內。這下可糟了，按照周天子的禁令，諸侯沒有周天子的授權，不能隨便進入其他國家的疆界。可這對齊桓公來說卻好辦，當場大手一揮，歸你了。捨了這一小片國土，換得了燕國上下對齊國霸主地位的死心塌地。
燕國事件是齊桓公霸業中具有「跳板」意義的一步，燕國事件之前的齊桓公，充其量與鄭莊公一樣，算是「小霸」，但燕國事件之後，齊國的號召力已經擴展到了今天中國北部中原一帶，包括北方的晉國、燕國，以及各路諸侯小國，無不向齊桓公俯首。在此期間，齊桓公又做了另外一些事，比如救援了北方另一個受蠻族進犯的諸侯國邢國，幫助他們在河北邢台一帶重新建國，又幫助滅國的衛國在河南滑台地區重新建國。齊國的恩威之名，從此傳遍了大江南北。聽齊國的話，就有好處；不聽齊國的，就要挨揍，幾乎成了當時諸侯們的共識。
但是，還是有不服氣的——楚國。在齊桓公時期，如果說誰能與齊國較量，答案恐怕只有楚國。齊桓公四處稱霸的時期，也同樣是楚國人跨過長江，大舉擴張的時期。齊桓公時期的楚國，向南已經吞併了各路越族勢力，擁有了廣袤的國土和充足的兵源。和中原國君不同的是，楚國的國君自稱「楚王」，大有與周天子平起平坐之勢。齊桓公在位時期，楚國的國君是楚成王，他的眼睛也早已經跨過長江，盯上了富饒的中原大地。趁齊桓公用兵北方的機會，楚國也不斷北進，蠶食中原國家的國土，尤其是毗鄰楚國的宋國、陳國、蔡國受害最深。在山戎被齊桓公重創以後，楚國已經成了中原國家生存安全的公敵，更是齊桓公霸業的又一強大敵人。
對這樣一個敵人，齊桓公的方法也一樣——尊王攘夷。楚王不尊重周天子，就是和整個中原諸侯為敵，欺負中原諸侯，我是霸主當然也要保護。在經過精心準備後，公元前656年，齊桓公聯合陳、宋、魯、衛、鄭、曹、許八國，發動了對楚國的聯合征伐戰爭，聯軍進展順利，很快擊敗了楚國的邊境部隊，進入了楚國境內。在此期間，楚成王也曾派使者求和，表示願意恢復對周天子的進貢，請求齊桓公退兵，但這個大好的機會，齊桓公怎能放過，他一面申斥楚國的不法行為，一面持續推進，但開進到楚國的重鎮涇時，聯軍遇到了麻煩。集結了主力部隊的楚國，憑藉著江水的天險以及獨特的城防頑強抵抗。聯軍先後發動了幾次小規模的進攻，卻始終碰壁，全無齊桓公當年征戰中原時摧枯拉朽的氣概。
明白楚國不好對付的齊桓公，也只好見好就收，趁著楚國使者屈完出使的機會，他先在昭陵前向屈完炫耀武力，接著又就坡下驢，在楚國向周天子謝罪之後，同意了楚國退兵的請求。這場雷聲大雨點小的征伐就落下了帷幕，但對雙方來說卻是「雙贏」。齊桓公打退了楚國，鞏固了他在中原諸侯中的領袖地位，聲望如日中天。而楚國也保存了自己的領土完整，雖然暫停了對中原的擴張，卻繼續休養生息，他下一次北進中原時，其聲威將更加驚天動地。
如日中天的齊桓公，霸業也越做做大。就在壓服楚國的第二年，即公元前655年，他又介入到周天子的爭權鬥爭裡，會合諸侯保全了周朝太子的地位，並派兵懲罰了拒絕參加會盟的鄭國。四年後，當年得到齊桓公扶持的周太子鄭登基，為報答齊桓公的幫助，他再次賜予齊桓公祭肉和車馬，齊桓公趁機聯合諸侯在葵丘會盟。
葵丘會盟，是齊桓公一生裡多次會盟裡最大的一次，幾乎所有的中原諸侯國都來參與，會議定下了各諸侯國相互遵守的盟約，並繼續鞏固了齊桓公的霸主地位。如此霸業，後來的春秋霸主們，幾乎無人可望其項背。霸業蒸蒸日上的齊桓公，卻在頂點之後，很快跌入了深淵。
對於霸主齊桓公來說，他和管仲可謂一生的君臣，但管仲除了是一個輔助者之外，更重要的角色，卻是一個制衡者。他以國相的身份，多次勸阻了齊桓公的不當行為，才使得齊桓公能夠少犯錯誤，霸業持續勃興。但公元前645年管仲去世以後，如日中天的齊桓公，卻徹底失去了制衡。
晚年的齊桓公已不復盛年時的銳意進取，相反開始志得意滿，貪圖享樂。特別是在管仲死後，他寵信易牙、豎刁等小人，這些人長於阿諛奉承，更善拉幫結派，而齊桓公的六個兒子，相互間也勾心鬥角。這些都是沉迷於對外霸業的齊桓公所無視的。無視的後果，就是公元前643年，齊桓公病死後，他的寵臣易牙、豎刁等人發動政變，幾個兒子相互爭鬥，超級大國齊國陷入了內戰之中，最後還是靠了原先的小弟宋國輔助才得以平息。但齊國的霸業，也就因此而結束了。縱觀整個過程，或許正應了後來宋朝開國皇帝趙匡胤的話——國家若無外患，必有內憂。