在收復新疆的戰爭進行過程中,清政府多次同俄國交涉,要求歸還伊犁,但沙俄政府製造種種借口,拒不交還。阿古柏侵略勢力被消滅以後,清政府乘勝向俄國索還伊犁,並要求引渡白彥虎等。沙俄政府一面答稱,如果賠償俄國佔領伊犁之軍費,可以交還伊犁;一面唆使白彥虎、伯克·胡裡殘部等多次回竄,騷擾邊境,企圖借口邊境未靖,緩交伊犁。清軍粉碎了敵人的騷擾,並從俘虜口供及查獲俄國所給的路票,證實這些騷擾均系俄國政府所指使。
俄國政府的陰謀敗露,只得答應進行談判。清廷派吏部侍郎崇厚為欽差全權大臣赴俄交涉。1878年底,崇厚到達俄都聖彼得堡(今蘇聯列寧格勒)。這時,俄土戰爭已經結束,狡猾的沙俄政府利用清政府深恐與俄國作戰的心理,趁機敲詐。在沙俄的威脅訛詐下,崇厚於1879年10月在黑海岸邊的裡瓦基亞(靠近雅爾達)與俄方代表簽訂了喪權辱國的《交收伊犁條約》(即《裡瓦基亞條約》)。條約規定:俄國歸還伊犁東部地區,但由中國賠償俄國佔領費五百萬盧布(合銀二百八十萬兩),並割讓霍爾果斯河以西地區和伊犁南部特克斯河流域領土,修改《塔城界約》1所規定的齋桑湖地區國界,增辟由新疆到西安、漢口、天津的通商路線;在嘉峪關、烏里雅蘇臺、科布多、哈密、吐魯番、烏魯木齊、古城七處增設領事館。這樣,伊犁雖在名義上歸還中國,實際上卻變成一座三面臨敵、險要皆失的孤城。這一訛詐性條約傳出後,激起了中國朝野的極大義憤,以致「街談巷議,無不以一戰為快」2。左宗棠也表示反對,主張對於解決伊犁問題必須「先之以議論,委婉而用機;次決之以戰陣,堅忍而求勝」3。而李鴻章則主張履行崇厚所訂的賣國條約。清政府懾於朝野輿論,最後拒絕批准這個條約,並判崇厚「荒謬誤國」之罪,逮捕下獄。1880年2月19日,清政府正式照會沙皇政府:崇厚所議條約「多有違訓越權之處」,「窒礙難行」。4同時,另派駐英法公使曾紀澤兼任駐俄公使,授權談判改約問題。
俄國沒有達到預期目的,惱羞成怒,決定對清政府施加壓力。其駐華使館代辦凱陽德揚言:「俄國並非無力量,至條約准與不准,在俄國總是一樣」1。與此同時,沙俄在我東北、西北邊境調集上萬軍隊進行威脅,甚至出動黑海艦隊到中國黃海示威,並增兵伊犁。清廷為了自衛,也在中俄邊境和沿海地區採取防禦措施,並命左宗棠部署新疆軍務,準備用武力收復伊犁。左宗棠擬定了分三路向伊犁進軍的計劃:東路由金順率步騎二十五營一萬二千餘人,扼住晶河一線,嚴防俄軍竄犯;西路由劉錦棠率步騎二十八營一萬一千人,取道烏什,從冰嶺以西經布魯特遊牧地區直指伊犁;中路由張曜率步騎十九營八千五百人,從阿克蘇冰嶺之東,沿特克斯河指向伊犁。此外,以六千人分屯阿克蘇、哈密為後應,以三千人增強塔爾巴哈台防務。準備參戰的部隊共約五萬餘人。5月,左宗棠「親自輿櫬出關,誓與俄人決一死戰」2。6月,左宗棠進駐哈密,積極部署進軍事宜。然而,清廷卻在沙俄的壓力下「暫免」崇厚死刑,不久又將左宗棠調回北京。
同年7月底,曾紀澤由倫敦抵達聖彼得堡,與沙俄政府談判。曾紀澤自稱此行是「障川流而挽既逝之波,探虎口而索已投之食」3,深知任務艱巨。但由於此時俄土戰爭結束不久,沙俄又忙於鎮壓中亞地區少數民族的反抗,已經沒有多大力量進犯中國,特別是注意到左宗棠等的軍事準備,加之對曾紀澤的威脅刁難又未收到預期效果,最後於1881年2月24日與曾紀澤簽訂了《中俄伊犁條約》和《陸路通商章程》,以代替崇厚所訂的條約。中國雖收回了伊犁地區及特克斯河流域具有戰略意義的一萬九千平方公里土地,但條約規定「賠款」增加到九百萬盧布,霍爾果斯河以西地區仍被沙俄強行霸佔。條約還規定中俄已定的西北邊界有「不妥之處」應重新「勘改」,為沙俄下一步繼續侵佔我國西北領土留下了伏筆。隨後,沙俄根據這個條約的原則,於1882年至1884年與清政府簽訂了《伊犁界約》等五個子約,分段勘定新疆的中俄邊界,把七萬一千多平方公里的中國領土正式併入了俄國的版圖。