淮南牛肉湯起源之說，在淮南有多種版本。相傳，五代十國的趙匡胤據兵八公山，攻打壽春（安徽壽縣），壽春守將劉仁瞻軍紀嚴明，守城如命，儘管趙部頑強作戰，仍屢攻不下，久之，外無救兵，內無糧草，趙匡胤反被兵困南塘(今壽縣境內)。地方老百姓看在眼裡，急在心裡，最後把自家耕牛紛紛宰殺掉，煮成大鍋湯，送進趙營，官兵喝後士氣大振，一鼓作氣攻破壽春城。公元959年，陳橋兵變，趙匡胤登基，始終忘不了南塘的牛肉湯，後來在民間把淮南牛肉湯傳為“神湯”，又傳為“救駕湯”。
淮南學者方川認為，如果說淮南牛肉湯源自趙匡胤，純屬傳說，這是民間傳說“箭垛式”人物思維模式使然。也就是說當某個傳說人物具有某種特定精神品格後，人們就會把與之類似的事件加到他的身上，成為箭垛，還有箭在不斷射來，渾身綴滿了類似的故事，一如魯班、阿凡提。因為趙匡胤，成就了“大救駕”糕點，再添一個大救駕的牛肉湯多排場，一干一稀，一軟一硬，吃得勻溜舒坦。淮南牛肉湯起源於何時？多年來眾說紛紜，淮南作家金妤認為，淮南牛肉湯最早不是漢族人發明的，是民族大融合的產物。在以農耕經濟為主的中國，男耕女織是農耕文化的基礎和典型表現形式，其中，牛的作用極其重要。牛不僅是農耕文化的一個符號，同時又是運輸工具。
正因為牛與人民生活關係這樣緊密，自古以來，宰殺牛的行為是受到嚴格限制的，食用牛肉更是有嚴格規定：天子祭祀社稷的時候才能用牛、羊、豬，稱“太牢”；諸侯祭祀只能用羊和豬，稱“少牢”。食用上，周朝禮制規定，天子食用牛；諸侯平時食用羊，朔月（每月初一）才能食用牛；大夫平時食用豬、犬，朔月才能食用羊。
不過，到了元朝，中國民族的大家庭中出現了一個新的成員——回族。公元13世紀，蒙古軍隊西征，西域人大批遷入中國，吸收漢、蒙古、維吾爾等民族成分，逐漸形成了一個統一的民族——回族。《古蘭經》是伊斯蘭教信仰和法律的源泉，是穆斯林行為的最高規範。伊斯蘭教所倡導的食物，都是“佳美的食物”。“佳美的食物”就是純潔的、可口的、富於營養的食物，更具體地說就是要有良好的外觀形象、鮮香的嗅覺口感和豐富的營養價值。牛，合乎這個標準，所以，成為伊斯蘭教規定可以供食的食物。雖然各個朝代政府嚴禁屠牛，但是對伊斯蘭教區還是網開一面，尊重回族人民的生活習慣。
既然牛肉是回族人民餐桌上的食物，作為牛肉的一種烹調方法，牛肉湯早就成為一道常見的菜餚在回族人民中代代流傳。淮南牛肉湯起源於淮南的回族人民，是最先遷入淮南的回族先民把他們的傳統飲食牛肉湯帶入淮南，再加入淮南地區的特色食物——千張、粉絲等，最終融合成一道美味悠長、聞名四方的特色美食。