南京方面頗為看重「小開」，因為他們知道：
第一，他來自莫斯科，中共駐共產國際代表團團長王明指定他為國共談判聯繫人；
第二，他去了陝北，見了毛澤東，又受毛澤東委派，指定他為國共談判聯繫代表。
這麼一來，南京方面對潘漢年的重視，自然超過了董健吾、張子華、周小舟——值得順便提一筆的是，不論是國民黨還是中共，這些秘密聯絡渠道往往彼此並不知曉，以求嚴格保密，彼此平行不交叉。即使是與張學良、楊虎城聯絡，張不知楊與中共有聯繫，楊亦不知張與中共有聯繫，而張、楊又不知蔣與中共有聯繫。這一切，都在幕後極端秘密地進行。當然，也有個別的例外，如張子華知董健吾，潘漢年知張子華。
潘漢年到了西安，由於要幫助葉劍英做東北軍的工作，沒有馬上去南京。他怕南京方面著急，給張沖拍發了一份密電，告知他已抵西安。
由於南京方面看重潘漢年，張沖接到電報，竟直奔西安。此人也很神通，他通過潘漢年的姐夫路寶宗，找到了潛藏在西安城裡的潘漢年。張沖急於想瞭解毛澤東對談判的意向，向潘漢年探聽口氣。聽了潘漢年的介紹，張沖隨即趕回南京。
不久，葉劍英接到毛澤東10月14日電報，詢問：「年何日去滬？」潘漢年得知，料理了工作，便去上海。
10月19日，潘漢年乘火車抵達南京對岸的浦口。那時，旅客們要下車，一節節車廂被推上渡輪，渡過長江，才能抵達南岸的南京，然後乘客再從那裡上火車。擺渡要花費兩三個鐘頭。
選擇了擺渡那亂糟糟的時刻，趁別人不注意，兩位神秘的人物找到了潘漢年，跟他低聲交談著。這兩人便是從對岸南京趕來的張沖及其助手杜桐蓀。張沖對潘漢年說了到達上海之後的聯絡途徑。就在渡船上，潘漢年把中共中央致國民黨中央的信，悄然交給了張沖。
潘漢年到了上海，一副「小開」打扮。他本來是要跟陳果夫會談的。
陳果夫患肺病多年。他的衣服口袋裡，總是放著一個特製的小痰盂。當他發表演說時，那小痰盂便放在講台上；講畢，往衣袋裡一放，隨身帶著。那時，他的肺病加重了，日夜咳嗽，便讓弟弟陳立夫出面，跟潘漢年會談。
11月10日，在上海滄州飯店，國共雙方的高級代表——陳立夫和潘漢年，一個是國民黨「CC」首腦，一個是中共特科要員，終於在上海晤面了。潘漢年向陳立夫遞交了周恩來的親筆信，正式表明他是中共中央指派的聯絡代表。初次會談，雙方各自闡述立場，互通情報。張沖也參加了會談。
陳立夫傳達了蔣介石的意見。蔣介石說，首先是對立的政權與軍隊必須取消，中共軍隊最多只能收編三千人至五千人，師以上幹部一律解職出洋，半年後如回國，量才錄用，適當分配到南京政府各機關服務。如軍隊能如此解決，中共所提的政治各點就好考慮了。
蔣介石也深深懂得「槍桿子裡面出政權」的道理，所以他開列的第一個條件，便是要解決中共的軍隊。他的這一條件，理所當然被潘漢年所拒絕。
潘漢年回答道：「這是蔣先生站在『剿共』的立場上的收編紅軍條件，不能說是合作抗日的談判條件。」
潘漢年又道：「請問陳先生，當初鄧文儀在俄活動，曾養甫派人去蘇區，所談均非收編而是討論合作。蔣先生為什麼目前有此設想？大概是誤認為紅軍已到了無能為力的地步，或者受困於日本防共之提議。」
接著，潘漢年介紹了中共的立場：兩黨應合作抗日，建立全國抗日救國聯合陣線；停止內戰；建立兩黨代表組成的混合委員會，作為經常接洽與討論之機關；雙方保持政治上、組織上之獨立性。
陳立夫聽罷，仍強調首先要解決中共的軍隊，然後再談別的條件。
這麼一來，雙方僵持著。首次會談，便很難談得攏。
陳立夫建議，請周恩來出來談判，以使國共雙方會談升級——由周恩來和蔣介石直接會談。陳立夫道：「你我均非軍事當局，從旁談判也無結果，可否請恩來出來一次？」
潘漢年則以為，像這樣「收編」式的會談，周恩來是不會出馬的。
潘漢年說：「如不把貴黨的條件報告，僅說蔣願見他，豈不是要我騙他出來？！」
第一輪會談，以毫無結果而告終。不過，不論怎麼說，國共雙方的代表能夠坐下來談判，這本身就意味著歷史的進步。
潘漢年把會談的簡況，用密電發往「紅都」保安。11月12日，毛澤東復電潘漢年，全文如下：
漢年同志：
（甲）真電（引者註：當時流行以韻月代日，「真」即11日）悉，張子華亦到。
（乙）南京對紅軍究能容許至何限度，望詢實電告。如果條件使紅軍無法接受，恩來出去也無益。近日蔣先生猛力進攻不能不使紅軍將領生疑。
（丙）據張子華說，曾養甫云：
（一）黨公開活動；
（二）政府繼續存在；
（三）參加國會；
（四）紅軍改名受蔣指揮，照國民革命軍編制與待遇，但不變更紅軍原有之組織與領導。為一致對日，我們並不堅持過高要求，可照曾談原則協定。
（五）你在南京談判地待命。
子任
文亥
電末所署「子任」，是毛澤東的筆名。1925年至1926年，毛澤東在《政治週報》上發表文章時，用過「子任」這一筆名。這一回用於電報署名，顯然是為了保密。
至於「文亥」，「文」即12日，「亥」即亥時，「文亥」指12日21時至23時。