「南陳北李，相約建黨。」陳獨秀在維經斯基幫助下，在上海建立了中國共產黨的發起組，第一個熱烈地作出響應的是北京的李大釗……
1920年7月中旬，一位來自北京的二十三歲的小伙子，敲響了上海漁陽裡二號的黑漆大門。他一見到陳獨秀便連聲喊「陳教授」。他在陳獨秀在這裡住了下來。
張國燾此人是北京大學極其活躍的學生。雖然他是理科學生，如今卻已是以政治為職業了。他穿梭於京滬之間：
1919年6月，當全國學聯在上海成立時，他作為北京學聯的代表到上海出席大會，住了一個來月；
1919年底，為了躲避警察搜捕，他從北京逃到上海，與張東蓀、戴季陶、汪精衛、胡漢民過從甚密，直至1920年5月才返回北京。
隔了兩個來月，這一回他又來上海——正值暑假，而北京的局勢又日漸吃緊。
這位活躍分子，便是張國燾，字愷音，又名張特立。1897年11月26日，他出生在江西萍鄉。
他的家，如他自己所說，是「地主鄉紳之家」。張國燾的父親當過浙江省象山縣知事，算是一縣之「父母官」。
在中學時，張國燾便喜歡英語和自然科學。1916年10月，這位「江西老表」來到北京，一舉考入北京大學理學院預科。
起初，他埋頭於數理化，不聞窗外事。自從陳獨秀擔任北京大學文科學長，那一期又一期在北京大學出版的《新青年》，叩響了他的心扉。他開始思索和關注國家的命運。北大，中國新文化運動的中心。他身處在這中心之中，受到新思潮的啟蒙。
李大釗深刻地影響了他。如他自己所述，「由於他（李大釗）的影響，使我增加了對與（於）社會主義的興趣。」與此同時，他「與無政府主義的黃凌霜、區聲白等同學也來往頻繁。中文版的無政府主義書刊如克魯泡特金、巴枯寧等人的著作我都涉獵過。」
五四運動風起雲湧，張國燾嶄露頭角。「五四」前夕——5月3日晚，在北京大學法科禮堂的全體學生大會上，張國燾和許德珩等上台慷慨發言。5月4日，張國燾是遊行隊伍中的活躍人物。
他擅長社交，聯絡各界人士。這樣，他也就被推選為北京大學學生會幹事——這成為他一生政治生涯的起點。
依然是李大釗，給了他莫大的影響。他晚年所著《我的回憶》，自1966年起在香港《明報月刊》連載，內中這麼寫及李大釗：
李大釗先生是北京信仰馬克思主義的中心人物，他所主持的北大圖書館成為「左」傾思潮的發祥地。
我景仰李大釗先生，彼此交往，最初與馬克思主義無關。雖然他是我的指導者，我們的相處卻似朋友。
消息靈通的李大釗先生常以俄國革命作為談助，我們也時常據以研究俄國事態的發展。李大釗先生不是說教式的人物，他過去一直沒有向我宣揚過馬克思主義。很注意實際的資料和比較研究。以往我們的接觸多半的為了商談具體問題，到這次我由上海北返，才開始集中注意社會主義，特別是馬克思主義。我們商談的出發點還是救國的途徑，認為除傚法蘇俄外別無他途可循。我們確認俄國所以能推翻沙皇和雄厚的舊勢力，抗拒來自四面八方的外力壓迫，都是得力於俄共的領導，換句話說便是馬克思主義的大放光芒。由於李大釗先生的啟發，認定一切問題須從瞭解馬克思主義著手，我才開始對馬克思主義作較有系統的研究。
1920年9月在上海出版的《馬格（克）思資本論入門》在北京，唯有李大釗先生一人，有可能聯繫各派社會主義人物，形成一個統一的社會主義運動。他的個性溫和，善於與人交往，極具耐心而又沒有門戶之見。
在李大釗的影響之下，張國燾投身到革命活動之中。如他自己所言，他成了一個「特殊學生」：
我似乎是一個特殊學生。我的學業已耽誤了一個學期，到了無法追上的地步。教師們知道我所以耽誤的原因，總是善意地給我一個勉強及格的分數。我也就索性將我的大部分時間花在圖書館，貪婪地閱讀社會主義的書籍。《馬克思資本論入門》、《政治經濟學批判》、《哲學的貧困》、恩格斯的《家族私有制和國家的起源》等中英文譯本，都是在這個時期讀完的。
這位「特殊學生」，來來往往於京滬之間。當陳獨秀倉促從北京逃往上海，借住於亞東圖書館裡，正在上海的他便「與陳獨秀先生會晤多次」。
時隔五個來月，這一回，當他與陳獨秀同住漁陽裡二號，他發覺陳獨秀的思想躍入一個嶄新的階段：
他（引者註：指陳獨秀）開門見山的說：「研究馬克思主義現在已經不是最主要的工作，現在需要立即組織一個中國共產黨。」陳先生這種堅決的主張，我還是第一次聽見。他滔滔不絕地說明這種主張的各項理由。我聚精會神地傾聽著他的高論，有時互相附和，有時互相質難。這個主張從此就成為我們多次談話的題目。
陳先生曾是新文化運動的領袖，此時充當中國共產黨的發起人，確實是有多方面的特長。
他是中國當代的一位大思想家，好學深思，精力過人，通常每天上午和晚間是他閱讀和寫作的時候，下午則常與朋友們暢談高論。他非常健談，我住在他家裡的這一段時間內，每當午飯後，如果沒有別的客人打擾，他的話匣子便向我打開，往往要談好幾個鐘頭。他的談吐不是學院式的，十分引人入勝。他往往先提出一個假定，然後層出不窮的發問，不厭其煩地去求得他認為最恰當的答案。談得起勁時，雙目炯炯發光，放聲大笑。他堅持自己的主張，不肯輕易讓步，即不大顯著的差異也不願稍涉含混，必須說得清清楚楚才肯罷休。但遇到他沒有考慮周到的地方，經人指出，他會立即坦率認錯。他詞鋒犀利，態度嚴峻，像一股烈火似的，這和李大釗先生溫和的性格比較起來，是一個極強烈的對照。
陳獨秀先生是人所共知的中國共產黨的創始人，這不但由於他的聲望在當時起了號召的作用，而且實際上他確是組織中國共產黨的最先發動者和設計者。他具有決心和信心，擬定發展中國共產黨組織的初步藍圖，並從事實際活動。由於他多方推動和組織，各地的馬克思主義者的零星活動終於演進到中國共產黨的正式組成。
陳獨秀向張國燾透露，「組織中國共產黨的意向，已和上海的李漢俊、李達、陳望道、沈定一、戴季陶、邵力子、施存統等人談過，他們都一致表示贊成。他特別提到戴季陶對馬克思主義信仰甚篤，而且有過相當的研究，但戴與孫中山先生關係極深，是否會參加中國共產黨，就不得而知」。
在陳獨秀那裡住了一個來月，張國燾忽地發覺，「約在8月20日左右的一個晚上，我從外面回到陳家，聽見陳先生在樓上書房裡和一位外國客人及一位帶山東口音的中國人談話。他們大概在我入睡後才離去，後來才知道就是維經斯基和楊明齋，這是我在陳先生家裡發現他們唯一的一次聚談。第二天，陳先生很高興的告訴我，共產國際有一位代表來了，已經和他接了頭，未來的中國共產黨將來會得到共產國際的支持。陳先生並未告訴我他們談話的詳情，也沒有說明他們之間曾接過幾次頭，這大概是由於他們相約保守秘密的緣故」。
張國燾從7月中旬來到上海漁陽裡二號，至8月底離去，這一段時間正是上海共產主義小組醞釀、成立的時候。
暑假結束，當張國燾在8月底回到北京，「即以興奮的心情將和陳獨秀先生談話的經過告訴李大釗先生。李先生略經考慮，即無保留的表示贊成。他指出目前的問題主要在於組織中國共產黨的時機是否已經成熟，但陳獨秀先生對南方的情況比我們知道得更清楚，判斷自也較為正確，現在他既已實際展開活動，那末我們就應該一致進行。李先生相信我們現在起來組織中國共產黨，無論在理論上和實際上的條件都較為具備，決不會再蹈辛亥革命時江亢虎等組織中國社會黨那樣虎頭蛇尾的覆轍」。