提起三國時的赤壁之戰，可能大家都比較熟悉，曹操號稱80萬大軍，卻敗在東吳水軍手下。宋金時黃天蕩之戰，韓世忠、梁紅玉率兵大敗金兀朮。這些都是靠水戰獲取的勝利，它說明我國歷史上早就建立了一定規模的水軍。但水軍究竟何時建立？至今仍是個謎。
水軍在我國古代稱舟帥，是當代海軍的前身，軍隊的一個軍種。我國是水軍的誕生地之一。它是隨著造船業的發展，武器裝備的改進和作戰區域的擴展而產生的。傳說在原始公社末期就出現了獨木舟和木筏，用於交通運輸，後來用於漁業和通商。《周易。系辭下》就有「刳木為舟，剡木為可楫」的記載。當時部落之間爭戰頻繁，黃帝與九夷作戰，是否渡過淮河、長江，有沒有建立水軍，還有待考證。
商代甲骨文中多次出現過「舟」字，西周金文中不僅有「舟」字，而且開始出現了「船」字。周時舟船的數量顯著增加，已有多人撐駕的大船。商和西周的軍事力量，開始由中原地區逐漸向東南擴展，商已有向東南夷的記載。西周的勢力已達到東南沿海和我國南方多水地區。當時軍隊已具有相當規模，並有運用舟船輸送軍隊或實施渡河的記載，但尚未發現記載舟師建立的時間。
春秋時期臨江傍水的吳國、越國、楚國和面臨東海的齊國等都有水軍，並多次在水面上交戰。那時水戰中使用的舟船，具有相當的規模。據《神機制敵太白陰經》載：「水戰之具，始於伍員。以舟為車，以輯為馬」。這些代替陸上車馬的舟楫，為水軍的建立創造了條件。《越絕書》記載，伍子胥還著有水戰法，規定舟船的尺寸、水軍的編制和船隊的戰法。《伍子胥戰法》說，「大翼一艘，廣丈六尺，長十二丈，容戰士二十六人，擢（手）五十人，舳艫（手）三人，操長鈞、矛、長斧各四，吏、僕、射長各一人，凡九十一人」。水戰使用的武器，有刀矛弩矢和長鉤、長斧。魯國公輸般還創製水戰的裝具——「鉤拒」，這是一種帶鐵鉤的竹篙，對敵船「退則鉤之，進則拒之」。用這些戰船和武器實施水戰，使水戰具有相當的規模。如《中國大百科全書。軍事》戰術條記敘「公元前485年，吳、齊在黃海進行了海戰」，當時吳國的舟師，從長江口出海北上，實行遠航奔襲，聲勢浩大。但齊國舟師，沒等吳軍到達，就在水面上實施截擊，結果吳軍戰敗。顯而易見，雙方進行這樣大規模的水戰，一定早就要建立一支強大的水軍。
公元前549年，楚國派水軍進攻吳國，《左傳》敘述：「夏，楚子為舟師以伐吳」，這次水戰比上述吳齊黃海水戰早64年。這說的是進行水戰的時間，建立水軍將比水戰還要早。那麼我國水軍究竟何時建立？還有待進一步探討考證。（李之遇）