黎培里指使前天津教区主教文贵宾(jean de vienne)，起草一个“天主教中国全体主教的声明”，经他批准后散发各地主教。在这个文档中，企图借其宗教地位，胁迫各地主教签名，以达到破坏教徒爱国运动的目的。
50年至51年间，黎培里曾两次签发关于教徒攻击有神权者的处罚命令，这个命令的目的，即是企图以“摘神权”和“开除教籍”的手段威胁爱国的主教、神甫和教徒，不许他们有支持人民**的表示。
又于51年1月29日黎培里给兰州天主教德籍主教濮登博(theodore orckbuddenb)的指示说:“在一切表面的事情上，可让中国神甫以你的名义运行去，但实际上一切权力仍归于你。”从这里看出黎培里企图利用中国主教神甫作傀儡，而将实权紧抓在帝国主义分子手里绝不放松。
3月31日，黎培里致信各地“圣母军”头目、天主教主教、反对教友对共产党组织、地方**合作，反对天主教教会开展三自（自治、自养、自传）爱国活动，并谴责南京宗座代牧李维光签名的《反帝爱国宣言》。
4月，他再次发出密信，以更强的语气告诫下属：以直接或间接的方式推翻他们的权威，不听命令者将会受到严惩。
“圣母军”还印制了攻击、丑化共产党和新中国的宣传读物《恐怖的共产主义》、《现代问题解答》20余万册，陆续派人到各地煽动地下组织成员抵制、破坏土地改革、抗美援朝、天主教教徒的爱国三自运动，甚至计划实施暴力恐怖活动，谋害地方党政军负责人。“圣母军”地下组织的阴谋活动，对新中国的稳定与安全构成了威胁。
《人民日报》发表了短评《保护正当的信仰自由，取缔反革命的“圣母军”》，正式在全国吹响了打击“圣母军”的号角。天津是“圣母军”地下组织活动猖獗的地区，摧毁“圣母军”的战斗首先在这里打响。
天津市军事管制委员会主任黄敬签署并发布了第21号布告，宣布对“圣母军”予以取缔，天津市公安局依法逮捕了法籍“圣母军”头目文贵宾及的“圣母军”华北分会会长邓华光等人。
得知天津“圣母军”遭取缔，在上海总部的莫克勤惶恐不安，他与沈士贤连续在其总部召开秘密会议，研究对抗的办法和措施。
“圣母军”头目们的捣乱与垂死挣扎，激起了广大民众的极大愤慨，他们通过各种途径向党和**举报“圣母军”总部的违法行为，并强烈要求摧毁“圣母军”在上海岳阳路的总部。
1951年9月，上海公安机关先后将沈士贤、陈哲敏、莫克勤等意大利籍破坏分子苏冠明等人抓捕，并缴获一批武器和特工器材。山东、浙江、湖北、广东等地也雷厉风行地展开了捣毁“圣母军”的斗争。连黎培里居留的南京市天主教徒也组织起来，发表了爱国的宣言。
被此事激怒的黎培里，向全国各区主教发出一个通知，公然指中国爱国人民为“敌人”，企图煽动全体教徒和神职班对抗爱国教徒们的爱国运动，这个通知的内容如下:“今天，三月三十一日，南京报纸登载了一篇宣言，据说是由本大主教区的神长和教徒们签署的我深为悲痛，并急速通知你，宣言制订时我未曾知悉，我也不能赞同此宣言。我竭力祈求圣神，给一切教友们，尤其给全体神职班，恩赐必要的明悟与勇气，去明白地洞悉和勇敢地战胜敌人的诡计，为了慈母圣教会和教宗的尊荣。”
黎培里事后曾经解释他的这个通知说:“我特别不赞成的地方就是因为字句上包含着教宗干涉国家的内政和教徒反对本地教会的长上--于斌总主教。”
上列这些具体事实，已无可辩驳地证明了黎培里彻头彻尾是一个披着宗教外衣的、对我新中国进行破坏活动的帝国主义分子，他的使命就是在中国组织间谍活动，并且胁迫中国天主教徒拥护美帝国主义和蒋介石而仇视人民**，从而在实际上破坏中国人民**。莫克勤被逮捕后，对自己所犯罪行供认不讳。
1954年5月1日，被关押了两年多的莫克勤被中国**驱逐出境。至于披着“教廷驻华公使”外衣的黎培里，则于51年9月4日，被南京市军管会永远驱逐出境。
南京市公安局运行军管会驱逐黎培里命令时，南京市爱国天主教徒正开会组织天主教三自革新运动***筹备委员会。当他们听到这一消息后，大家都欣喜若狂，一致欢呼**替他们搬掉了压在头上的大石头，为今后三自革新运动扫除了一个大障碍。
天主教南京区代理主教李维光对记者说:“**替我们把这块大石头搬掉了，就为我们三自革新运动清除了一个绊脚石，我们真是万分高兴。”
他指出:“各教区的天主教革新运动之所以不能迅速开展，主要是黎培里这块石头压在教徒头上不能翻身。”
他认为:“黎培里掩护间谍分子，进行间谍活动的罪恶，是帝国主义分子，根本不是天主教的‘神长’。”
5日下午，爱国天主教徒举行了座谈会，大家都认为这是天主教徒反帝斗争的伟大胜利。天主教***筹备委员会孙持芳、汪皓等都说:黎培里是帝国主义的间谍，是天主教内的恶霸，**驱逐了黎培里，就是为我们除了一个大害，而对于帝国主义却是一个沉重的打击。
大家都从这件事情中，深深体会到祖国的伟大可爱，教徒李汝霖指出:这是近百年来天主教徒的一次大翻身。
过去我们见到外国人总是叩头，现在却把这样的头号帝国主义分子赶出去了，这就说明我们中国人民真正翻身了。
曾经被黎培里指使其走狗唐惠民剥夺宗教活动权利的教徒李若瑟更加兴奋，他说:只有把帝国主义分子赶走以后，教徒才有真正的信仰自由。他并揭露了黎培里指使前“慈爱育婴院”帝国主义分子出卖中国儿童的罪恶。
此外，大家并指出:黎培里虽然被赶走了，但还要警惕隐藏在教会内部的帝国主义分子，坚决搞好三自革新运动。会上并决议上书毛主席致敬。为了庆祝这一伟大胜利，天主教徒们正积极准备六日召开庆祝游行大会。
远在北京的赵继统和他的两个小组又一次齐聚在一起喝酒言欢，直到刘萍看见李漱玉和赵继统心有灵犀的碰了一下各自手中的杯子，恍然大悟的说道：“我说这段你们俩神神秘秘，原来是在办这个案子啊！恭喜你们为新中国拔去一颗毒瘤！”