作为毛泽东的秘书和中宣部主要负责人之一，建国初期，胡乔木还经常直接传达和阐述毛泽东关于宣传工作的旨意建国后，胡乔木仍然担任毛泽东的秘书。
与40年代相比，这时的秘书色彩逐渐褪去，他开始独立担任重要领导职务。除担任中宣部副部长、新华社社长兼总编辑之外，在1949年10月召开的中央人民政府第三次会议上，胡乔木被任命为新中国新闻总署第一任署长；不久，胡乔木被任命为中宣部常务副部长。
40年代，胡乔木撰写那么多社论、文章，但基本上是在幕后。50年代，胡乔木进入党和国家的新闻、宣传的最高领导层，成了名副其实的新闻首脑人物。
毛泽东领导他的战友，打败了蒋介石，击败了国内敌人后，开始将主要注意力转移到国际领域。在此后20多年，毛泽东对这一领域凝聚着浓厚兴趣。这在建国初已表现得十分明显。作为毛泽东的秘书和共和国的新闻首脑，胡乔木的笔也更多地用于国际事务。
人们注意到，1950年1月20日，新华社发表了中央人民政府新闻出版总署署长胡乔木“驳斥艾奇逊造谣”的谈话。胡乔木第一次公开显露了中央人民政府发言人身份。这一谈话，实际上是一篇精彩绝伦的文章，不妨引出其中一段。在引述艾奇逊有关中苏关系的谈话后，胡乔木说：
美国国务院对于中苏关系上的说话有它自己的历史。苏联帮助了中国共产党这一点是没有任何根据的———这是一九四五年以前美国国务院的老爷们常说的话，这是因为那时候在国务院老爷们看来，美国在中国的战争赌博似乎还有希望的原故。苏联企图控制中国———这是一九四九年国务院为中国问题而发表的白皮书中所说的话，这是因为这时候国务院老爷们已经感觉自己的赌博快要输光了的缘故。苏联占据中国北部的四个区域———这是一九五O年一月十二日的话，这是因为美国在中国大陆上的赌博已经彻底输光，剩下一个台湾，似乎还想在那里打点鬼主意的原故。谢谢上帝，美国帝国主义们在中国人民和中国人民解放军的扫荡之下，除了造作这样的谣言之外，已经没有别的更好的办法了。所谓中国共产党是苏联的走狗，苏联已经或正在或将要吞并中国这类低能的造谣诬蔑，只能激起中苏两国人民的愤慨，加强中苏两国的友好合作，此外不会有别的结果。
然而，这番精妙绝伦的话语，并非出自胡乔木，而是出自远在万里之外的毛泽东之手！
1949年12月16日，应斯大林邀请，毛泽东出访苏联。在苏期间，毛泽东一刻也没有停止过关注国际国内的形势。
毛泽东没有让胡乔木随同，但他们之间的联系却并没有因此而中断过，毛泽东的许多文字性东西，通过主持国内工作的刘少奇转给胡乔木。1950年1月1日，毛泽东就起草中央致各野战军贺电给胡乔木的电报，就是通过刘少奇转交的。
少奇并乔木：广西全境，广东之南路及雷州半岛西南全境(除李弥、余程万三部及西昌胡宗南一部外)，西北全境，残敌均已肃清。请用中央名义起草一个致各野战军的贺电，电稿写好后告我看一下再发。
2日上午，毛泽东就译发其在苏答记者问电讯稿再次请刘少奇转胡乔木，要求新华社务必照塔斯社发表的稿子译发。
2月14日，毛泽东就修改新华社社论《中苏友好合作的新时代》致电刘、胡，“请乔木负责改好校正无讹，并请少奇同志精校一遍，使毫无遗憾，与中苏双方所发表的条约及协定完全一致。”
作为毛泽东的秘书和中宣部主要负责人之一，建国初期，胡乔木还经常直接传达和阐释毛泽东关于宣传工作的旨意。
1950年上半年，中共决定在全党范围进行一次整风运动，毛泽东亲自指定胡乔木为整风委员会主任。5月24日上午六时，毛泽东给胡乔木写了一封信，因为这封信对于叙述胡乔木在这一历史时期的活动有重要价值，故不妨援引一下。
乔木同志：全党整风运动即将开始，这件事已成当前一切工作向前推进的中心环节。这一环节不解决，各项工作便不能顺利地向前推进了。中央已指定了一个三人委员会，你为主任，负责审查各地整风文电并起草复电；尔后则负责注意这个运动的发展，替中央起草指导文电，并注意报纸刊物的报道和指导(六月上旬应写社论一篇)。各地整风指示文件均须经中央，截至今日止，已到者有华东、西南、西北、内蒙、一野等处，请你即于两三日内总阅一遍，邀集安子文、肖华谈一下，逐一起草复电(请叫尚昆注意各地有关此类来电，抄送你和安、肖)，或者还须总复一电。其原则是大体可用者即予同意，须作部分修改者则予修改。关于学习文件，有关全国者须予统一。复电要快，本月内(只有七天了)，均须将起草，送书记处各同志看过，并用四A级电拍发等事办理完毕，以便全国整风能于六月上旬一律开始。
毛泽东五月廿四日上午六时作为毛泽东的得力助手，胡乔木自始至终参加了延安整风。毛泽东却要胡乔木来具体领导建国之后第一次全党整风，这标志着胡乔木在中共政治生活中已上升到十分重要的位置。
胡乔木通过各方面、各种形式的调查，对当时党的队伍情况作了一个基本估计。他认为，关于党与群众关系，应当说党的威信还是很高的。但是一部分群众由于经济困难，负担重，加上党的政策以及党员干部工作作风中的缺点，引起群众相当的不满。在胡乔木看来，政策与作风上的缺点，是深刻的社会变革过程中的必然产物，就是说，“胜利来得太快太大，新党员新干部太多太杂，新任务太多太紧，某些政策方面的前进太快太远，来不及准备，来不及学习。”作风中最普遍的缺点是命令主义，如在征粮收税时方法简单粗暴。部分地区甚至发生乱打人、乱扣人、乱杀人，这已不仅是作风问题了。此外，在各个方面还相当广泛地存在着官僚主义，造成工矿企业浪费严重、个人贪污腐化，造成工作中乱下命令，犯了错误而压制批评。
在七届三中全会上，胡乔木谈到，中共有着大规模整党经验，同时也积累了不少教训，甚至犯过错误。这次整党是在全新历史条件下进行的，采取的方式方法也应当有所不同。他分别就新区和老区的整党谈了中央整党委员会的部署，将整党重点放在解决党群关系问题上，主题是反对官僚主义、命令主义，要求各地“在各项工作任务密切地相结合而不是相分离的条件下”进行深入有效的整风。
中央同意了胡乔木的建议。整风历经1950年的夏秋冬三季，到1951年初结束。