唐高祖之治的大部分时间都专注于国内事务和新王朝制度的建立工作。但是在唐代初年，最大的威胁不是来自国内的敌手，而是来自一个外族政权——东突厥人。唐高祖充分了解唐王朝还处于军事软弱的地位，所以经常贿赂东突厥人不要侵犯唐朝领土，也不要他们帮助已宣布成为突厥附庸的那些叛乱者。他在位期间，给突厥可汗大量送礼是常例。但是，唐高祖的收买政策并不十分顺利，因为突厥人索贿的胃口越来越大。他们派往长安的使者并不尊敬皇帝，反而把京城搞得乌烟瘴气。其中有这样一个例子：唐高祖被迫允许东突厥的使节们刺杀了西突厥的曷萨那可汗；后者从前曾向唐王进贡，此时正在长安。不仅如此，东突厥人还勾结北方各叛乱者再次进犯中国。
在计划于公元619年初期进犯中国的前夕，始毕可汗死了。他的儿子尚未成年，因而由他的兄弟接任为处罗可汗——他不久于620年死去。处罗可汗由另一兄弟颉利可汗（公元620—630年在位）继位，此人在高祖年间和唐太宗初年被认为是唐王朝的大患。
公元622年，颉利率领号称15万人的大军进犯唐王朝原根据地太原，但被太子建成和李世民统兵击退。突厥人屡屡进犯京城长安的周围地区，形势变得如此严重，以致京师在公元624年后期不得不实行戒严。根据传统的记述，高祖曾认真地考虑把都城迁到更安全的地方以避突厥人之锋，他并且派过一个官员去勘察新都几个可能的地址。①次年，原已于公元 622年解散了的12个军又重新建立，以便对付突厥人的威胁。公元625年年中，颉利可汗又率大军再次攻击太原，使唐军受了很大损失。甚至在高祖统治的最后几个月内，东突厥还在攻打北方边境，因此皇帝不得不命令地方官员加固城垣，多挖护城河，严加防备。
虽然唐高祖历来受到后世种族中心论的中国历史学家的严厉批评，说他在唐朝初年屈从于突厥人；虽然他的收买政策未能挡住突厥人接二连三的进犯，但他确在王朝危急的时期成功地买得了安全。这个喘息时机，首先使唐军在进入隋都时免除了腹背受敌之虞，后来又使唐军巩固了在陕西的力量。它还使唐朝能够在太子建成的指挥下开始筹划北方边境的防御工作，这虽然不能完全阻止突厥人的入侵，却为汉人在唐高祖在位的余年坚强有力地抗拒突厥人的进犯打下了基础。