Osmanlı Devleti’nde modern belediye teşkilatı kurulmadan önce, belediye işleri, mülki idare ve idareciler ile kadı, vakıf ve esnaf birlikleri tarafından gerçekleştirilirdi. Şehir idaresinde etkin rol oynayan kadılara yardımcı olmak üzere subaşı, mimarbaşı, bina emini, muhtesip gibi görevliler de mevcuttu.
Osmanlı döneminde vakıflar da, belediye kapsamına giren bazı işleri yerine getirirlerdi. Ayrıca esnaf locaları da, iş yaptıkları çarşıda, yolların iyileştirilmesi, mal kalitesinin temini, aydınlatma vs gibi beledi işleri yaparlardı.
Tanzimat Dönemi’ne kadar modern anlamda bir yerel yönetimin varlığından söz etmek güçtür. Osmanlı Devleti’nde modern anlamdaki mahalli idare, Tanzimat’ın ilan edilmesiyle oluşmaya başlamıştı.
1921 Anayasasında (24 Nisan 1921 Teşkilatı Esasiye Kanununda) mahalli idareler bahis konusu edilmişti. Dönemin yerel yönetim uygulamalarına katkı sağlayacak çalışmalar da yapılmaktaydı. Kanun ve mevzuatlarda yapılan çalışmalar, Ankara’nın başkent oluşuyla hızlandırılan imar çalışmaları bu çabanın ürünleriydi.
Ankara’nın başkent oluşundan sonra, 16 Şubat 1924 tarihinde 417 sayılı yasa ile şehrin adı değişmiş ve Ankara Şehremaneti kurulmuştur. Bu düzenleme ile başkent belediye yönetiminin diğer belediyelerden ayrılması ve ayrı kanunla yönetilmesi prensibine devam edilmiştir. Yeni başkent Ankara, belediyecilik uygulamalarında öncü girişimlerin bir nevi laboratuarı olmuştur.
1930 yılında, 1580 sayılı Belediye Kanunu’nun yürürlüğe girmesi ile 1924 tarihli Ankara Şehremaneti Kanunu yürürlükten kaldırılmıştır. 1580 sayılı kanun ile belediyenin hizmet alanları genişlemiş ve Cumhuriyet belediyeciliği yeniden yapılanma sürecine girmiştir. Özellikle, 1580 sayılı Belediye Kanunu’nu her türlü yerel hizmeti belediyelere vermesi dikkat çekicidir. Ayrıca, Ankara ve İstanbul’da belediye ve valilik birleşik bir idarede bütünleşmiştir.
1961 Anayasası ile yerel yönetimlerin (mahalli idareler) il, belediye ve köy halkının müşterek mahalli ihtiyaçlarını karşılamak üzere kurulan ve genel karar organları halk tarafından seçilen kamu tüzel kişilikler olduğu hüküm altına alınmıştır. 1961 Anayasası döneminde belediyelerle ilgili önemli bir düzenleme daha karşımıza çıkıyor. 27 Temmuz 1963 tarihli, 307 sayılı yasa ile belediye başkanlarının belediye meclisi içinden seçilmelerine ilişkin uygulamaya son verilmiş, belediye başkanlarının doğrudan halk tarafından seçilmesi yöntemi uygulamaya koyulmuştur.
1984 yılında Büyükşehir yönetimi uygulaması başlamıştır. Büyükşehir belediyelerinin anayasal dayanağını, 1982 Anayasası’nın 127. maddesinin “büyük yerleşim yerleri için özel yönetim biçimleri getirilebilir” şeklindeki hüküm oluşturur.
Cumhuriyet'in ilanından önce, Ankara'da belediye hizmetleri ile tek kişi ilgilenirdi. Valilik ile belediye bütünleşmiş bir haldeydi. Cumhuriyet'in ilanından sonra da bu değişmedi. 1961’de kabul edilen anayasa ile belediye hizmetleri valilikten ayrıldı. Böylece, Ankara’da yerel yönetim idarecileri, seçimle belirlendi.
1923 - 1960 Ankara Valileri Dönemi: Kütükçü Ali Bey, Mehmet Vehbi Demirel, Mehmet Ali Bey, Ali Haydar Yuluğ,Asaf Bey, Nevzat Tandoğan,Osman Sabri Adal, İzzettin Çağpar, Ragıp Tüzün, Fuat Börekçi, Mehmet Atıf Benderlioğlu, Kemal Aygün, Orhan Eren, Abdullah Dilaver Argun.
1960- 63 Askerî Dönem:İrfan Baştuğ, İhsan Orgun, Nuri Teoman, Enver Kuray.
1963 - 1980 Belediye Başkanları Dönemi: Halil Sezai Erkut, Ekrem Barlas, Vedat Dalokay, Ali Dinçer
1980 - 1984 Askeri Dönem: Süleyman Önder
Büyükşehir Belediye Başkanları Dönemi: Mehmet Altınsoy, Murat Karayalçın, Vedat Aydın, Melih Gökçek, Doç. Dr. Mustafa Tuna, Mansur Yavaş