对于公安部门的工作方针、任务要求、组织结构、人员培训与领导关系等，1949年10月15日到11月1日举行的第一次全国公安工作会议专门作了深入探讨。毛泽东、周恩来、朱德、董必武接见了与会人员。10月30日，在这次全国公安系统高级干部会议上，周恩来作了重要指示：“军队与保卫部门是政权的主要的两个支柱。你们是国家安危系于一半。国家安危你们担负了一半的责任，军队是备而不用的，你们是天天要用的。”

罗瑞卿就公安工作的任务要求，明确指出：目前反特、剿匪还有严重的任务摆在我们面前；战争结束以后，国内斗争最尖锐的形式，就是隐蔽斗争。同拿枪的敌人的斗争结束了，就得向不拿枪的或不公开拿枪的敌人作斗争；国家安全部门，应是国家政权镇压反革命，确立革命秩序，捍卫国家安全的有力工具。因此，完全学会和敌人作隐蔽斗争，特别是同国际特务作斗争，镇压内外敌人的一切捣乱和破坏，建立革命秩序，保卫建设，巩固人民民主专政的政权，就是我们的总任务。罗瑞卿强调：我们要成为铁拳而不要成为小孩子的拳头。

巩固新生的人民政权，迅速稳定社会秩序，保护人民生命财产安全，是国家公安机关面临的头等任务。反特、剿匪、取缔封建帮会和会道门、维持治安与社会秩序，在新中国成立后的头5年大张旗鼓、轰轰烈烈展开，对国民党党团员、宪兵特务限期登记，散落社会上的枪支弹药限期上缴，封建帮会与会道门限期取缔；对恣意捣乱破坏的国民党散兵游勇和地痞流氓实施严厉打击，对遍布各地的烟馆、妓院、赌博场所一律实行封禁。

1950年10月，随着朝鲜战争局势的不断恶化，经过前一段严厉打击的国内潜伏敌特再次蠢蠢欲动、兴风作浪。10月10日，根据毛泽东“我们要把房子打扫干净”的指示，公安部组织开展了声势浩大的镇压反革命运动。罗瑞卿提出“杀一批，关一批，管一批”，实行党委领导、全党全民动员，统一计划、统一行动，镇压与宽大相结合。到1952年底，全国镇反运动基本结束。这次镇反运动对土匪、恶霸、特务分子、反动党团骨干分子、反动会道门头子予以沉重打击。同时，剿匪与清理烟馆、妓院、赌场等社会治理工作也取得极大成效，旧中国遍布城乡的黄赌毒基本得到肃清。

和不拿枪的或不公开拿枪的敌人作战，是新中国成立初期罗瑞卿和公安部面临的一项艰巨任务。国民党蒋介石集团逃亡台湾前，在大陆布置大批潜伏特务。新中国成立后，在美国等西方国家情报机关支持下，蒋介石在台湾的特务组织仍不断向大陆派遣特务和杀手，国民党保密局特务从陆海空对大陆沿海几乎是全方位渗透，伺机颠覆人民政权、刺杀中共党政军要员，甚至包括毛泽东、周恩来、刘少奇、陈毅、叶剑英等领袖人物。防间反特任务极为严重。解放战争时期，城南庄轰炸案、李兆麟将军被暗杀案，已经敲响了警钟。毛泽东风趣地将从海陆空而来的国民党特务称为“海里爬上来，陆地钻出来，空中掉下来”的。罗瑞卿形象地把与拿枪的公开的敌人、不拿枪的敌人的斗争，分别形容为“清道夫”与“显微镜”的作用，既要清扫垃圾，还要消灭细菌。公安部要在这场明与暗的斗争中取得全胜，隐蔽战线、秘密侦查工作是不可或缺的一个主攻方向。

在打入敌人内部、摸清敌特组织与间谍特务脉络过程中，能否使用“以前的敌对分子”，这是一个敏感的原则问题。经党中央最高层直至毛泽东批准，“允许使用若干可以使用的阶级异己分子，或以前与我敌对的分子”，也就是“逆用”以前的敌特人员。

战争年代，“逆用”敌方人员为我所用，是行之有效的工作方法，也是中共隐蔽战线获取情报资源的一个重要渠道。新中国成立后，能否与如何继续运用这一手段，公安系统内部还是有不少疑虑和担心的，毕竟边界不好把握、人员不好控制、政策比较敏感。针对这些疑虑、担心，罗瑞卿在不同场合作了说明，一再强调：敌人不是铁板一块，在一定条件下，利用某些敌人营垒中的人，是完全可能的，这样做给敌人的打击会更突然、更沉重，这种作用是别人无法替代的。因为他们熟悉敌情，容易取得敌人的信任，所以完全有必要将计就计，运用他们回过头去打击敌人。

在公安部随即开展的秘密侦查工作、“逆用”敌特分子等专项斗争中，陈龙、潘汉年、扬帆、陈泊等人均发挥了重要作用。

曾经在北平、天津名噪一时，能飞檐走壁的飞贼段云鹏，受台湾国民党保密局派遣，意欲潜入北京行刺毛泽东、刘少奇、周恩来。对段云鹏行踪了如指掌的大陆公安机关决定将其诱导至广州加以逮捕，飞贼终于落入预设圈套。高云龙是国民党保密局头子毛人凤、叶翔之派往大陆谋刺毛泽东、刘少奇、周恩来、朱德等中共领袖的又一超级杀手，这一讯息在其尚未入境时便被罗瑞卿领导的公安系统所侦知，公安机关迅速布下天罗地网。1951年11月16日，高云龙经香港九龙一入境，便在武汉被捕获。至于意欲在广州谋害叶剑英、在上海准备暗杀陈毅、在一些大中城市准备实施爆炸的其他台湾特务，则同样在大陆公安机关天罗地网与“暗战”的打击下，一一落网。

面对台湾当局和美国特务机关对大陆的不断渗透、破坏，罗瑞卿率领公安干警不敢有丝毫懈怠。对于毛泽东的安全护卫，罗瑞卿更是亲力亲为。抓捕段云鹏、高云龙时，罗瑞卿事无巨细，直接掌控。在毛泽东和中央领导人常去休息、开会的地方，罗瑞卿指示公安干警要像用篦子梳头、过筛子一样梳理。杭州是毛泽东经常落脚的地方，作为一个警卫重点，罗瑞卿指示：“一定要把西湖的水搞得像水晶石一样清澈透明。”毛泽东出席一些活动或外出巡视，罗瑞卿总是亲自部署安保细节并尽可能亲自陪同。“毛泽东汽车所经过的道路、桥梁、涵洞以及沿途的社会情况，他都要弄得一清二楚。”毛泽东喜欢游泳，特别是在大江大河里畅游。为了保卫毛泽东，不会水的罗瑞卿硬是学会了游泳，在长江中伴随毛泽东左右……毛泽东常常风趣地说：“罗长子在我身边，天塌下来，有他顶着。”

这是一支久经考验、经验丰富、精明强干的公安骨干队伍。在罗瑞卿之下，杨奇清、徐子荣、王昭、潘汉年、陈龙、许建国、汪金祥、周兴、谭政文、凌云、赵苍璧、刘复之、蔡顺礼、邓少东、卓雄、雷荣天等一干精英，在战争年代的隐蔽战线与和平时期的公安战线不断创造佳绩，书写辉煌。

新中国成立之初，这批主要来自中共中央社会部、延安边保处的公安系统领导骨干，基本都是战争年代有着近20年军队保卫工作、党内反间特情社会工作经历的老侦查、老情报、老保卫、老审官。他们熟谙国民党特务机关、日伪特务机关、社会三教九流与帮会，积累了丰富的隐蔽战线工作经验。他们中的许多人红军时期在苏区和红军各军团担任政治保卫局科长、特派员、局长，如罗瑞卿、周兴、杨奇清、谭政文都分别在红1、红3军团政治保卫局担任过局长、副局长、执行科科长，许建国在红3、红8、红1军团分别担任过政治保卫局侦察部部长、局长，还有红5军团的欧阳毅、红6军团的吴德峰、红四方面军的周纯全、曾传六，等等。同时，江西中央革命根据地时期成立的中华苏维埃共和国国家政治保卫局(以邓发、欧阳毅、李克农、李一氓、汪金祥、谭政文、王首道等为代表)，此后延安时期的中央社会部(有康生、孔原、李克农、潘汉年、曾希圣、许建国、谭政文、刘少文等)和社会部之下在陕甘宁边区赫赫有名的边区保安处(有周兴、许建国、陈泊、赵苍璧、李启明等)，也都与红军时期方面军军团政治保卫系统和国家政治保卫局一脉相承。到新中国成立前夕，党的系统有从中央到各中央局的社会部，政权系统在各解放区大行政区有公安总局或大区公安部。

“1953年取消行政大区，多数大区公安部长调到北京工作，公安部有了资历很硬的副部长杨奇清、许建国、汪金祥、周兴、王近山、汪东兴、梁国斌、李天焕等人，圈内戏称‘八大金刚’。”