憲兵第四團的前身是憲兵第一團，為憲兵司令部成立后最早建立的一個團。第一任團長陳某（忘其名，浙江人，保定軍校畢業(yè)）于1928年他調(diào)，改由黃繼吾繼任團長。黃是廣東文昌人，黃埔軍校第一期畢業(yè)，原是南京黃埔同學會總會（與復(fù)興社有密切關(guān)系的反革命組織）負責人，因我同黃有過一段歷史關(guān)系——當黃擔任黃埔軍校政治部主任時，我當組織科中?？崎L。當時教育長林振雄不理校務(wù)，大捧“紫羅蘭姑娘”（當時在廣州的一個“交際花”）。我跟黃一起搞過倒林活動失效后，同到南京黃埔同學會工作。所以黃接任憲兵第一團團長時，也邀我暫以上尉副官的身份，隨他前往辦理接收事宜。
當時憲兵第一團的團本部，就在南京夫子廟大街，離憲兵司令部不遠。憲兵第一團的組織和陸軍編制一樣，即所謂“三三制”：一團三營、一營三連、一連三排、一排三班，每班憲兵十四人。此外還有直屬機關(guān)槍連、追擊炮連和一個通訓排。全團官兵約1200人左右。
黃珍吾接任憲兵第一團團長后不久，該團就奉命開往蘇州老五團營房集中訓練，并擔任京滬鐵路南段護路勤務(wù)。抵達蘇州后，該團曾進行了一番人事調(diào)整。當時團本部的主要骨干有：中校團附蕭夢熊（南昌人，講武堂畢業(yè)），少校團附葉維（四川人，黃埔軍校第三期畢業(yè)），我在當時就被改任少校視察，另一名少校視察是鄭連義（河北人，行伍出身），上尉副官敬承詩（四川人，黃埔軍校第五期畢業(yè)），中尉副官唐國寶（江蘇人，行伍出身）。團以下各營營長為：第一營中校營長文重俘（湖南人，黃埔軍校第三期畢業(yè)），第二營中校營長黃愷元（浙江人，講武堂畢業(yè)），第三營中校營長袁家佩（湖南人，黃埔軍校第三期畢業(yè)）。當時團部決定以第一、二兩營及直屬部隊為集訓部隊，以第三營為服勤部隊，擔任京滬鐵路南段南起上海北至常州的護路任務(wù)。
1933年下半年，當時第四團的編制員額略有擴充，團長仍是吉章筒，我被升任中校團附（后為黃得模），另有少校團附趙志熹（貴州人，黃埔軍校第六期畢業(yè)）、鄭連義（山東人，行伍出身）；并設(shè)有政治指導(dǎo)員辦公室，少校指導(dǎo)員余鐘民（湖北人，叛黨分子）；副官室上尉副官古肇英（廣東海南島人，黃埔軍校第六期畢業(yè)）；軍需室中校主任劉恩澄（山東人，黃埔軍校第四期畢業(yè)）；視察室少校視察李輝勻（湖南人，黃埔軍校第四期畢業(yè)）；還有書記室、醫(yī)務(wù)所等，團部仍轄三個營。第一營中校營長文重孚（湖南人，黃埔軍校第三期畢業(yè)），第二營中校營長黃愷元（浙江人，黃埔軍校第二期畢業(yè)），第三營中校營長黃得模（廣東海南島人，日本士官學校畢業(yè)，后由我繼任），少校營副吳光運（湖南人）。此外，尚轄有追擊炮連，連長為上尉魏育民（安徽人，黃埔軍校第五期畢業(yè)）；機關(guān)槍連，連長為上尉徐聯(lián)陛（浙江人）。第一、二兩營營屬連長有王成章（江西人）、高維民（河北人）、吳濂（福建連江人）、方知（江西人）、姚衍（湖南人）、王紳亞（浙江人）、李?。ê先耍?，三營營屬連長有胡耿（浙江人）、陳瀚（江蘇人）、鄔國斌（湖南人）。
