Yavuz Sultan Selim doğuya yapmış olduğu son seferinde yöreyi Osmanlı topraklarına katmak istemişsede bunu gerçekleştiremeden İstanbul'a dönmüştü. 1534 yılında ise oğlu Kanuni Sultan Süleyman tarafından Osmanlı Devleti topraklarına bu yöre dahil edilmişti. Kars 19. yüzyıla kadar birçok kez Ruslar ve İranlılar'ın saldırısına uğradı. Bu yüzyılda Ruslar ve Osmanlılar arasında sürekli el değiştiren yöre, 1828-1829 Osmanlı-Rus Savaşı sırasında Rus ordusunun komutanı olan İvan Paskeviç tarafından ele geçirildi. Kars'ı Rus topraklarına katan Paskeviç, 11.000 Osmanlı askerini de esir almıştı. Bundan kısa bir süre sonra Osmanlılar tarafından alınan yöre 1877-1878 yılları arasında yaşanan ve 93 Harbi olarak bilinen savaşın ardından şehir kırk yıl kadar Rusya'nın kontrolünde kaldı. 1918'de Bolşevik İhtilali'nin ardından yapılan Brest-Litovsk Antlaşması ile Osmanlılar'a bırakıldı. Kısa bir süre sonra, önce Ermeni egemenliğine giren yöreyi daha sonra İngilizler ele geçirdi. Kars'ı daha sonra Ermeniler'e ve Gürcüler'e bırakan İngilizler buradan çekildi.
25 Nisan 1918'de Kars, kırk yıldan sonra tekrar Osmanlı topraklarına dahil edildi. Mart-Nisan 1918'de Ermeniler tekrar şehre girmiş, Osmanlı ordusu buradan çekilmeye mecbur kalmıştı. Buna engel olmak isteyen Karslılar kendi imkânları dahilinde, Wilson Prensipleri'ne uyarak 5 Kasım 1918'de Milli İslam Şurası adıyla demokratik bir yerli hükümet kurdular. Batum, Artvin, Ahıska, Ahılkelek, Nahcıvan ve Ordubad'daki halk Kars'taki bu yerli hükümete katılarak sancak ve ilçe teşkilatını kurdular. Böylece, başkenti Kars olan 36.000 km²'lik bölgede yerli Türk hükümeti kuruldu. Bu hükümet 18 Ocak 1919'da 131 temsilcinin katılımıyla gerçekleştirilen Büyük Kongre ile Güneybatı Kafkasya Cumhuriyeti adını aldı.
Kars, Kurtuluş Savaşı'yla 30 Ekim 1920'de Türk kuvvetleri tarafından alındı. Kars halkının Türk milli mücadelesinde gösterdiği fedakarlıktan ötürü şehre Gazi ünvanı verildi. 1921 yılında yapılan Moskova ve Kars Antlaşmaları'yla yeni sınırlarına kavuşan Kars, Cumhuriyet'in ilanından sonra aynı adlı ilin merkezi yapıldı
