在小河会议开始前，毛泽东在仔细研究了中原地区的敌情后，又在心里反复思考着一个有争论的问题：陈赓谢富治兵团要不要到陕北来作战。
从1946年冬到1947年11月，毛泽东曾多次电令陈康纵队渡河以保卫延安。只因形势急剧变化，这一计划一直未能实现。撤出延安后，毛泽东又多次电催陈康纵队迅速开展晋南战役，以威胁胡宗南的后方，配合陕北解放军作战。后来，毛泽东又多次计划让陈赓纵队西渡黄河到陕北，但一直没有实现。
7 月4 日，毛泽东与周恩来、任弼时讨论如何击灭胡宗南夺取大西北，并为此起草了给彭德怀的电报，提出两个方案征求他的意见。第一方案是按照原来设想调陈赓纵队来陕甘宁边区，在内线歼灭胡军相当数量后出外线作战。第二方案，是陈赓纵队南渡黄河，到鄂豫陕边区开辟新战场，协同彭德怀消灭胡宗南。因为考虑到陕甘宁边区人口稀少，粮食及各种供应困难；又估计到鄂豫陕三省交界地区敌兵力空虚，如使用陈赓纵队于该地区必然要吸引胡军一个军（5 个到8 个旅），从而大大减轻陕北负担利于歼敌；又估计到刘邓大军已渡河向陇海前进，如陈康纵队到鄂豫陕对刘邓作战亦有帮助。这两个方案究竟以何者较为适宜，请彭德怀、习仲勋考虑，希望他们到小河来开会面商。
这样，7 月19日，陈赓应毛泽东之召，渡过黄河来到小河村准备参加中共中央扩大会议。
就在陈赓到达小河村的当天，毛泽东在给刘伯承、邓小平、徐向前等人的电报中，提出了改变陈谢纵队使用方向问题，电报说：“为着协助陕甘宁击破胡宗南系统，同时协助刘。邓经略中原，决将陈谢纵队使用方向改为渡河南进，首先攻占潼洛郑段，歼灭该区敌人，并调动胡军相机歼灭之。尔后，向豫西、陕南、鄂北进击，创建鄂豫陕边区根据地，作为夺取大西北之一翼。陈谢纵队仍属彭习序列不变同时仍属晋冀鲁豫建制。”
彭德怀到小河村后，毛泽东、周恩来、任弼时、彭德怀、陈赓等一起反复研究了4 纵队的使用问题。7 月21日，小河会议开始，毛泽东第一个讲话。他先告诉大家，原来计划把陈康的第4 纵队调到陕北来，同西北部队集中作战。前天中央几个同志同彭总、陈赓在一起又作了一次研究，考虑到西北的粮食困难，又考虑到陈赓率部进南豫西、陕南更有利于从外线钳制胡宗南军和配合刘邓军出中原，因此，决定陈赓率部南渡黄河作战。
陈赓与毛泽东是同乡。1921年，陈赓离开湘军，来到长沙，进入毛泽东倡导开办的湖南自修大学，与毛泽东结识。从那时起，毛泽东就对这位同乡有了很深的印象。他性情活泼，能说会道，富有表演才能。一次，他演拿破仑，维妙维肖，引得台下的毛泽东眼泪都笑了出来。陈赓在毛泽东面前从来不受拘束。毛泽东对陈赓从来不求全责备，他了解陈赓的脾气，大胆、诚恳、坦率，有时还很会开玩笑。
陈赓到小河村后，毛泽东多次就陈谢纵队的使用问题，与他交换意见，并进一步向他说明当时全国的大好形势，深刻地阐述了新的战略决策和挺进豫西的意义。毛泽东说：刘邓大军主力挺进大别山。把蒋介石搞得手忙脚乱，到处抽兵去堵。胡宗南现在头在陕北，尾在豫西，肚子在西安，他的头已被彭老总扭住了，想缩头也不可能了。豫西一带，确是一个空子，你乘虚而人，南渡黄河，出师豫西，在西至潼关东到郑州的八百里地区，打他个天翻地覆！既踩着了他的尾巴，又威逼其心脏，既支援了刘邓和陈粟两路大军南进，又可西向配合陕北作战。从背后抽他胡宗南一鞭子，他胡宗南脚下的八百里秦川必然动摇！
会议结束时，兼任军委总参谋长的周恩来副主席说道：“刘邓直插大别山，朝蒋介石胸膛砍上一刀！陈赓南渡黄河，挺进豫西，再砍他一刀！陈毅、粟裕大军进入鲁西南，挺进豫东，再砍他一刀！这三路大军，在战略上就布成了‘品’字阵势，在黄海的中原大地上，向敌人展开大规模的进攻！中央决定：将陈赓谢富治统帅的4 纵队，秦基伟和黄镇统帅的9 纵队，孔从洲和汪锋统帅的38军联合组成一个强大的兵团，由陈赓任司令员兼前委书记，在豫西一带突破黄河天险，直捣胡宗南屁股。”
会议决定陈谢兵团趁胡宗南陷在陕北，豫西敌军处境不利的时机。以雷霆万钧之势，南渡黄河，由晋南挺进豫西，依托伏牛山作战。
会议结束的当天晚上，毛泽东请陈赓到小河边散步。
小河哗哗流淌，山野透出一丝凉意。毛泽东先开口说：“你们进到豫西以后，应当放手发展，东南配合刘邓、陈粟，西南配合彭德怀，东西机动，大量歼敌，在豫陕开辟一片根据地。”
“好的。”陈赓爽快地回答道。
“你晓得‘破釜沉舟’的故事吗？”为了鼓舞陈赓的斗志，毛泽东讲起了历史上项羽破釜沉舟的故事。
陈赓看看毛泽东，没有回答，“破釜沉舟”的故事在解放军的将领中几乎没有不知道的。他清楚毛泽东不是在考他，而是开始谈问题的一种方法。
毛泽东看看天空，说：“项羽跟秦兵打仗，过河以后就把锅砸了，把船也沉了，激励士兵不打胜仗决不生还！”
略停了停，毛泽东看看陈赓，继续说：“说来也巧，这个故事，就发生在你们将要渡河的地方，你要以最大的决心和勇气打出去。”
陈赓知道毛泽东人题了，认真地听着。“现在，胡宗南几乎占领了边区所有的县，敌人离我们只有一天多的路程，目前我们南有胡宗南，西有马家军，北有邓宝珊，如果敌人再压，我们的回旋余地将更小，况且，粮食也是个大问题，彭老总几万人要吃饭，我虽然在会上讲了许多乐观的话，可是从陕北的形势看，我们仍然处于劣势。从全国形势看，我们还没有打破国民党的重点进攻。”
陈赓没有答话，默默地点着头。
“如果你们不能”毛泽东显得非常沉重，“如果你们不能在两个月内，以自己的有效行动调动胡宗南一部，陕北则将难于支持！”
毛泽东向陈赓道明了陕北我军和党中央的艰难处境。
陈赓听了，表示说：“主席，那我更要以‘破釜沉舟’的决心，打到豫西去！”
毛泽东很快恢复了情绪，风趣地说：“这种决心要有，可锅别砸了，船也别沉了！”
接着，毛泽东又问陈赓：“你们有什么困难没有？”
陈赓回答说：“现在部队士气很高，在晋南反攻中又搞到了敌人大量的装备，兵强马壮，在主席和中央军委的领导下，一定可以师出报捷。出师以后，部队迅速展开，弹药的运送补给可能有时跟不上；到了新区，伤员的安顿也可能有困难，但这些困难是可以克服的。”
毛泽东笑着说：“对嘛！弹药不足，由蒋介石来‘补充’你们；伤员安顿，靠群众嘛！我们从来是这样办的。根据地是创建起来的，不是一切搞好了才去革命。蒋管区的人民遭受封建势力和国民党的残酷统治，你们去了要好好地发动群众，依靠群众，把人民革命的高潮推动起来，这样就一定能胜利。”
陈赓离开小河村回部队时，毛泽东亲自把他送出了小河村外。路上，陈赓恳切地说：“主席，我看你还是过河吧！河东毕竟要安全一些！”
毛泽东爽朗地笑道：“不要担心，你们打得越厉害，打的胜仗越多，陕北人民的安全就越有保障，党中央的安全也就不会有问题。”