Jandarma Teşkilatının ilk nizamnamesi olan "Asakir-i Zaptiye Nizamnamesi"nin (Askeri Kolluk Tüzüğü) 14 Haziran 1869'da yürürlüğe girmesiyle zabıtanın görev ve hizmetleri ile yetki ve sorumlulukları hukuki çerçeveye alındı. Yönerge kapsamında her ilde personeli piyade ve süvarilerden oluşan birer "zaptiye alayı" kuruldu.
Arşivlerde 1839'dan itibaren "jandarma" adına ve "jandarma tayin kararnamelerine" rastlandığı için Türk Jandarma Teşkilatının, ay ve gününün tespiti mümkün olmasa da 1839'da kurulduğu kabul edildi.
Sadrazam Sait Paşa tarafından 1877-1878 Osmanlı-Rus Savaşı'ndan sonra modern zabıta teşkilatı kurulması amacıyla İngiltere ve Fransa'dan subaylar getirtildi ve teşkilatlanmada değişiklik yapılarak 20 Kasım 1879'da "seraskerlik" makamına bağlı "Umum Jandarma Merkeziyesi" kuruldu.
Jandarma Teşkilatı, 1908'de İkinci Meşrutiyet'in ilan edilmesinden sonra Rumeli'de gösterdiği başarılar dolayısıyla 1909'da yeniden düzenlenip "Harbiye Nezareti"ne bağlanarak "Umum Jandarma Kumandanlığı" adını aldı.
