南京方面颇为看重“小开”，因为他们知道：
第一，他来自莫斯科，中共驻共产国际代表团团长王明指定他为国共谈判联系人；第二，他去了陕北，见了毛泽东，又受毛泽东委派，指定他为国共谈判联系代表。这么一来，南京方面对潘汉年的重视，自然超过了董健吾、张子华、周小舟——顺便值得提一笔的是，不论是国民党还是中共，这些秘密联络渠道往往彼此并不知晓，以求严格保密，彼此平行不交叉。即使是与张学良、杨虎城联络，张不知杨与中共有联系，杨亦不知张与中共有联系，而张、杨又不知蒋与中共有联系。这一切，都在幕后极端秘密地进行。当然，也有个别的例外，如张子华知董健吾、潘汉年知张子华。潘汉年到了西安，由于要帮助叶剑英做东北军的工作，没有马上去南京。他怕南京方面着急，给张冲拍发了一份密电，告知他已抵西安。
由于南京方面看重潘汉年，张冲接到电报，竟直奔西安。此人也很神通，他通过潘汉年的姐夫路宝宗，找到了潜藏在西安城里的潘汉年。张冲急于想了解毛泽东对谈判的意向，向潘汉年探听口气。听了潘汉年的介绍，张冲随即赶回南京。不久，叶剑英接到毛泽东十月十四日电报，询问：“年何日去沪？”潘汉年得知，料理了工作，便去上海。十月十九日，潘汉年乘火车抵达南京对岸的浦口。那时，旅客们要下车，一节节车厢被推上渡轮，要花费两三个钟头渡过长江，才能抵达南岸的南京，再从那里上火车。摆渡。选择了摆渡那乱糟糟的时刻，趁别人不注意，两位神秘的人物找到了潘汉年，跟他低声交谈着。这两人便是从对岸南京赶来的张冲及其助手杜桐菽。张冲对潘汉年说了到达上海之后的联络途径。就在渡船上，潘汉年把中共中央致国民党中央的信，悄然交给了张冲。
潘汉年到了上海，一副“小开”打扮。他本来是要跟陈果夫会谈的。
陈果夫患肺病多年。他的衣服口袋里，总是放着一个特制的小痰盂。当他发表演说时，那小痰盂便放在讲台上。讲毕，往衣袋里一放，随身带着。那时，他的肺病加重了，日夜咳嗽，便让弟弟陈立夫出面，跟潘汉年会谈。十一月十日，在上海沧州饭店，国共双方的高级代表——陈立夫和潘汉年，一个是国民党CC首脑，一个是中共特科要员，终于在上海晤面了。潘汉年向陈立夫递交了周恩来的亲笔信，正式表明他是中共中央指派的联络代表。初次会谈，双方各自阐述立场，互通情报。张冲也参加了会谈。
陈立夫传达了蒋介石的意见。蒋介石说，首先是对立的政权与军队必须取消，中共军队最多只能编三千人至五千人，师以上干部一律解职出洋，半年后如回国，量才录用，适当分配到南京政府各机关服务。如军队能如此解决，中共所提的政治各点就好考虑了。
蒋介石也深深懂得“枪杆子里面出政权”的道理，所以他开列的第一个条件，便是要解决中共的军队。他的这一条件，理所当然被潘汉年所拒绝。
潘汉年回答道：“这是蒋先生站在‘剿共’的立场上的收编红军条件，不能说是合作抗日的谈判条件。”潘汉年又道：“请问陈先生，当初邓文仪在俄活动，曾养甫派人去苏区，所谈均非收编而是讨论合作。蒋先生为什么目前有此设想？大概是误认为红军已到了无能为力的地步，或者受困于日本防共之提议。”《潘汉年就与南京政府谈判合作抗日给毛泽东、张闻天、周恩来、博古的报告》，一九三六年十一月十二日。接着，潘汉年介绍了中共的立场：两党应合作抗日，建立全国抗日救国联合阵线；停止内战；建立两党代表组成的混合委员会，作为经常接洽与讨论之机关；双方保持政治上、组织上之独立性。
陈立夫听罢，仍强调首先要解决中共的军队，然后再谈别的条件。
这么一来，双方僵持着。首次会谈，便很难谈得拢。陈立夫建议，请周恩来出来谈判，以使国共双方会谈升级——由周恩来和蒋介石直接会谈。陈立夫道：“你我均非军事当局，从旁谈判也无结果，可否请恩来出来一次？”潘汉年则以为，像这样“收编”式的会谈，周恩来是不会出马的。潘汉年说：“如不把贵党的条件报告，仅说蒋愿见他，岂不是要我骗他出来?!”第一轮会谈，以毫无结果而告终。不过，不论怎么说，国共双方的代表能够坐下来谈判，这本身就意味着是历史的进步。潘汉年把会谈的简况，用密电发往“红都”保安。十一月十二日，毛泽东复电潘汉年，全文如下：
汉年同志：
（甲）真电（引者注：当时流行以韵月代日，真即十一日)悉，张子华亦到。
（乙）南京对红军究能容许至何限度。望询实电告。如果条件使红军无法接受，恩来出去也无益。近日蒋先生猛力进攻不能不使红军将领生疑。
（丙）据张子华说，曾养甫云：
（一）党公开活动；
（二）政府继续存在；
（三）参加国会；
（四）红军改名受蒋指挥，照国民革命军编制与待遇，但不变更红军原有之组织与领导。为一致对日，我们并不坚持过高要求，可照曾谈原则协定。
（五）你在南京谈判地待命。子任文亥《文献和研究》，一九八五年第三、四期。
电末所署“子任”，是毛泽东的笔名。一九二五年至一九二六年，毛泽东在《政治周报》上发表文章时，用过“子任”这一笔名。这一回用于电报署名，显然是为了保密。至于“文亥”，“文”即十二日，“亥”即亥时，“文亥”指十二日二十一时至二十三时。