戴笠很早就想建立一支由自己直接掌握的特务武装，以增加自己的政治实力，但苦于蒋介石历来对军队防范很严，不肯轻易让人染指，故不敢启齿，以免招疑。两广事变结束后，蒋介石网开一面，让戴笠协助宋子良搞了个税警总团，虽有1 个师的兵力，但是税警总团只能用于税务稽查，不能用于其它方面，不免感到不太过瘾。上海战事开始后，他终于看到这是一个抓特务武装的良机。于是，就煞有介事地向蒋建议：上海有雄厚的帮会势力和工人力量，可以建立1 支武装游击部队，任务是配合国军作战，既可以在上海近邻牵制阻击日军，又可以协同保安部队严防和肃清敌谍、汉奸的活动等等。
蒋是帮会出身，认定帮会力量只要引导得法，在国家民族存亡关头，自可以发挥一定作用。于是，蒋认真研究了戴的报告，于1937 年9 月4 日从南京给戴笠发电，令戴与杜月笙合作，在1 个月之内组成1 万人的武装游击力量，投入淞沪抗战。戴笠接电后，没有1 分钟的犹豫，立即争分夺秒地投入了组建特务武装的紧张工作。首先与几个亲信特务拟订了行动大纲，作为与杜月笙会谈的蓝本。
9 月5 日晚7 时，戴笠率领特务处在上海的所有大特务，分乘3 部汽车，由三极无线电所出发，赴法租界赵主教路刘志陆公馆会谈。当晚，杜方人员参加会谈的有杜月笙、刘志陆、陆京士、朱学范、万墨林、陶一珊、梅光培、向松坡等人。
会谈进行得很顺利。形式上是戴、杜双方都派出了最强的会谈阵容，但是基本上是戴笠一人唱独角戏，杜月笙对戴则极力进行捧场。其实戴、杜事先已有默契，会谈也只是走走过场而已。在戴笠认为，这是特务处与上海青帮力量的一次大规模合作；在杜月笙认为，这不过是戴笠打着合作的旗号，对帮会力量的一次利用罢了。虽然杜月笙已看透了戴笠的心思，但是，一方面国难当头，又是蒋的命令，我杜月笙不得临阵退缩，败了名声，另外戴笠曾经两次对杜月笙援手，杜月笙对戴笠有所报答。戴笠对杜的第一次援手是南市吗啡案，放了杜月笙一马，保住了杜在社会上的绅士名誉；第二次是今年杜月笙的徒弟徐懋棠的兄弟徐懋昌，因暗中与官僚资本勾结，大做棉纱买空卖空的投机生意，一下子赚了几十万银元，却搞得许多小商人倾家荡产，逃亡的、自杀的，一时怨声载道，舆论哗然，引起了商界、政界的轩然大波。
蒋闻讯立即下手令给戴笠，要他逮捕徐懋昌。戴把此案交给淞沪警备司令部侦察大队长王兆槐执行。王是杜月笙的徒弟，恒社社员。因此，王奉今后，先去密告杜，以避免欺师灭祖之罪。徐懋棠向杜求情，杜只得亲自找戴笠商量，请戴代为从中转圜，给徐懋昌指一条生路。戴笠心中早有应对之策。他算度社会来找他替徐求情。其实他下令由王兆槐去执行逮捕任务，就知道王在暗中会给杜通风报信，现在杜找上门来，他十分大度地给杜指点迷津，由杜动员徐懋昌先拿出一部分钱买几架飞机捐献给宋美龄主持的航空委员会，让夫人先在暗中为徐缓颊。然后再由杜直接飞庐山找蒋，当面向蒋求情不要逮捕徐。这里，戴笠再私下晋言蒋，预先替杜、徐铺好路。于是杜月笙满心欢喜地照此办理，而戴笠则预向蒋汇报，因此案涉及到蒋的大姨子宋霭龄，要办也办不下去。后来杜果去庐山向蒋求情，蒋批示由杜找戴商量办理，戴则按蒋的腹案，对此事不了了之，送给杜一个大人情。戴两次援手，分文不取，使杜万分感激，一直无由报答，心中久有愧意。这次戴提出合作组建特务武装，杜欣然同意，并慷慨解囊捐出5000 枝快慢机手枪，给了戴很大的面子，戴当然满心欢喜，但并不觉得意外，因为前两次他对杜援手，已下足了本钱，现在正是收益的时候。
会谈中，围绕戴笠提出的组织行动大纲及编制表，对3 个问题达成一致意见。一是建立名称为“军事委员会苏浙行动委员会”的政治军事领导机构，然后在该会之下建立武装游击部队，取名为别动队。戴笠本是变戏法的高手，蒋本意是叫他利用上海帮会力量，组织一支游击部队参加淞沪抗战。但是他却别有用心地把领导机构称为苏浙行动委员会，而不是淞沪行动委员会，其目的就是为了在淞沪抗战结束后长期保留运用这支特务武装而埋下伏笔。淞沪战后，他更进一步把苏浙行动委员会称为苏浙皖行动委员会，把活动地域扩大到安徽省。二是苏浙行动委员会实行委员制，另设书记长及书记长办公室主持日常工作。三是别动队的编制为纵队编制，设总指挥部。下设5 个支队（团），支队下分别设大队（营）、中队（连）、区队（排）、班等。
会谈结束后，戴笠带着双方讨论定稿的苏浙行动委员会组织行动大纲及编制预算书，连夜专程赶赴南京，当面向蒋呈复。经蒋批复戴笠直接施行，并转军委会备案。戴笠同时向蒋汇报了苏浙行动委员会委员人事安排腹案。
戴先提出一个7 人名单，分别是俞鸿钧、杜月笙、戴笠、杨虎、俞作柏、刘志陆、向松坡。这个名单是由戴笠直接掌握的，只是私下征求过杜月笙的意见。俞鸿钧是七七事变后走马上任的上海市长，把他推出来当然是个招牌。
杨虎是淞沪警备司令、青帮大头目，与杜、戴的私交都极好，推杨同时也是考虑协调别动队与保安队的关系。俞作柏原是桂系出身，先后任过桂军团长、黄埔军校南宁分校校长、广西省政府代主席，1929 年底，因与粤军将领张发奎共同组织护党救国军反蒋，被蒋介石赶下台，闲居上海多年，并加入青帮与杜月笙交好，这时已投靠戴笠，故被戴推了出来，此人后来成为别动队后期组织忠义救国军的重要人物。刘志陆是粤军宿将，曾任新编第二师师长、军事参议院参议等职，也是上海帮会的重要人物。向松坡则是上海洪帮老头子。这个名单经蒋批示认可。
苏浙行动委员会的主任委员本应由俞鸿钧挂名，戴笠内心却另有打算。
戴认为俞鸿钧是国民党内老资格的官僚，一旦让他插手，自己就有受到掣肘的危险。于是，他对苏浙行动委员会的最高人事安排的原则是：重在抓实权，对杜月笙给以高位，实则敷衍俞鸿钧，叫俞无话可说。由此，戴笠推杜月笙代俞鸿钧出任主任委员，而自己则出任书记长一职，主持日常工作。推荐陈昶新任委员会参谋长兼参谋处长，余乐醒任总务处长兼技术室主任，张冠夫任经理处长兼交通组长，汪祖华、谢力东分任政训、情报处长。另设庞大的书记长办公室，先指定周伟龙兼任书记，代替戴主持工作，后又指定由文强接替周伟龙任书记兼人事科长，主持日常工作。指定三极电所作为苏浙行动委员会的办公地点，后来由于法租界发现这所学校不见男女学生上课，只见三山五岳的好汉进进出出，连绵不断的汽车熙熙攘攘，便多次警告三极电所所长文强要查抄。文强向戴笠汇报，戴笠打电话给杜月笙，杜立即将善钟路100 号的1 座花园洋房让出来作办公大楼，三极电所仅作接头处。如此一来，苏浙行动委员会的内外机构几乎由特务处总揽一切，其内外大事，无不决于戴手。
戴笠提出的苏浙行动委员会高层人事方案得到蒋的首肯后，星夜赶回上海，于9 月8 日晚再次召集双方的原班人马，会谈别动队的高级人事安排。
杜月笙推荐刘志陆以委员兼别动队总指挥，戴笠则推荐由其向黄埔一期老大哥、八十七师师长王敬久借调的该师参谋长杨振华任别动队参谋长，算是双方平分秋色。五名支队长，杜月笙推荐了3 名，分别是陆京士、朱学范和陶一珊。戴笠推荐了两名，分别是何天风和张业。另外，由戴推荐王兆槐任别动队总指挥部直属特务大队长。看起来双方在人事实排上一碗水端平，公平合理。但实际上仍是戴的势力占优。因为支队长人选中突出了黄埔系统。何天风是黄埔二期同学、张业是黄埔三期同学、陶一珊是黄埔六期同学、王兆槐是黄埔四期同学。陆、朱不是黄埔出身，但他们的副支队长也由戴安排给黄埔同学担任。至于大队长、中队长、区队长，几乎都是黄埔同学或中央军校学生担任。虽然如此，杜月笙对这个人事安排也无可非议。一是在军事人才上，他拿不出众多的“角色”；二是在支队长的安排上，除陆、朱、陶是他的学生外，何天风也是在“帮”徒弟。王兆槐不但在“帮”，而且是恒社社员，这也是戴照顾到杜的面子；三是杜本身不想与戴争锋，当然不计较势力大小。别动队总指挥部由戴、杜决定设在谨记路的一处办公大楼内。高层人事问题解决后，接下来是招兵买马的问题。兵员问题主要由杜月笙动员帮会与工会力量参加，一支队由洪门向松坡动员一批洪门弟兄参加，青帮分子进去一部分，二支队为海员支队，三支队为邮政支队，四支队里工人、农民、学生、失业青年等各方面人都有，五支队由陶一珊把受训的公民联队里的店员、学生、青工组织起来充任。枪支弹药除杜月笙捐5000 枝快慢机外，全部由戴笠向军委会申请调拨了一批旧式步枪解决。但直到淞沪战争结束，别动队溃散，也没有达到人手一枪。
戴笠虽无带兵打仗的实战经验，但考虑问题的严谨周密，却有常人不及之处。当时戴笠最为忧虑的是中下层干部问题。在当时炮火纷飞的情况下，又要一月成军，又要与日军这样的强寇作战，兵员又都是由帮会分子、工人、学生、店员、失业青年、农民等庞杂人员临时凑合而成，既无战斗经验，又没有经过严格训练，无疑是一批乌合之众。一旦作战，不啻是驱羊群而入虎阵。在刻不容缓之际，戴笠决然下令人事科长文强在1 星期内必须办妥下列数件大事：一是电请南京黄埔毕业生调查处负责人黄雍输送600 名军校毕业同学中有尉、校级资历者来沪报到，分别安置为各级干部；二是电请南京中央警校选拔100 名具有高中以上文化程度并受过警官正科训练的学员来沪报到，安排为中队政治指导员；三是电令南京特务处本部人事科长李肖白抽调200 名以上的中、高级特工干部来沪报到，安排为别动队中、高级军政干部；四是向当时在浦东指挥作战的第八集团军总司令张发奎商调600 名具有正副班长能力的军士级人才，充任区队班长。戴笠另下一道手谕给王兆槐，由其负责解决以上干部进入租界问题。由于文强办事机警得力，戴笠亲自日夜督促检查，1 周后，1600 余名干部陆续进入上海租界，这在当时确是了不起的工作效率。
在审阅别动队兵员名单时，戴笠发现许多队员是知识青年，不少是大专学生。戴笠历来对知识人才极为推重，他觉得让这些学生和知识青年当一名普通队员，不但不能展其所长，而且是浪费人才。戴笠考虑抗战爆发后，正是特务处发展势力的极好机会，届时特工人才将极为缺乏，何不利用这个机会举办一期训练班，既可以应付别动队急需，又可以照应长远需要。
戴笠的特点是立说立做，雷厉风行。他当即下令成立“军事委员会苏浙行动委员会青浦特种技术训练班”，调余乐醒任该班副主任兼教育长，负责筹办。不到10 天，戴笠又调谢力公筹办松江特训班，同时任松江班副主任兼教育长，两个班的主任由戴自兼。训练班学员由各支队选送，训练内容是侦察、行动、爆破等技术，训练时间原定3 个月，后因战事急剧发展缩为1 个月。
青训班于9 月27 日在青浦县西溪小学报到集中，共招学员408 名。10月4 日举行了隆重的开学典礼，戴笠亲自从上海市区赶来主持仪式，并于上下午作了5 个多小时的长篇精神讲话。此后两三天又连续个别召集学员谈话，为学员题字签名，以示亲近关怀。半月后，戴笠又专程赶来上了一课政治课（仍是精神讲话）。在当时战争形势如此紧张的情况下，戴笠在青训班一泡就是三四天，足见他对特训班工作与学生的重视。青训班是抗战以后戴笠举办的多如牛毛的各种特训班的第一个班。
别动队成立后，仅由刘志陆在虹桥路等处开过1 次支队长会议，发过1 次饷，以后再没有召集会议，一切由戴笠的书记长办公室负责指挥，刘志陆发过1 次文，任命各支队长，并授予上校军衔，从此也再没有下文。别动队各支队成立后，除第三支队作预备队待命外，其余各队即于10 月份分别布置在上海南市和苏州河两岸，配合中国军队对日作战。虽然其中不少人与日军一触即溃，战斗力极差，但其中亦不乏忠勇之士，为中华民族的抗战作出了牺牲。据苏浙行动委员会人事科长文强在11 月初的统计，别动队战死官兵在1500 人以上，受伤官兵500 余人。