Tahun 1964 masyarakat Kabupaten Karanganyar difasilitasi oleh dr. Tan Tiauw An sebagai Kepala DKR Kabupaten Dati II Karanganyar mulai bergotong royong membangun Rumah Sakit yang berlokasi di Jetu (sekarang Jl. Lawu). Pembangunan tersebut mendapat respon dan dukungan dari Pemerintah Daerah pada waktu itu. Kemudian ditentukan lokasi Rumah Sakit berada di sebelah barat RB “Kartini” dengan memanfaatkan tanah yang masih kosong. Penentuan lokasi pada waktu itu dinilai sangat menguntungkan, karena lokasi yang strategis, berada di sisi timur Kota Karanganyar akses jalan mudah, dapat di jangkau masyarakat luas suasana sangat tenang, sehingga masyarakat yang berobat tidak terganggu dan pasien yang menginap / opname dapat beristirahat dengan tenang.

Tanggal 6 Juni 1965 RB tersebut pindah di Rumah Sakit yang telah dibangun, Rumah Sakit tersebut gabungan antara RB Kartini (swasta) yang letaknya bersebelahan dengan Rumah Sakit. Jumlah TT (tempat tidur) sebanyak 34 buah, dan mulai saat itu nama Rumah Sakit menjadi “RUMAH SAKIT BERSALIN KARTINI”. Tahun 1970 Rumah Sakit Bersalin Kartini dijadikan Rumah Sakit Kartini dengan jumlah karyawan 20 orang, dan jumlah tempat tidur 80 – 100 TT, yang dikepalai dr. Srijanto Hardjomigoeno.

Kabupaten Karanganyar saat itu hanya mempunyai 2 (dua) dokter, yaitu dr. Tan Tiauw An selaku Kepala DKR Kabupaten Karanganyar dan yang kedua dr. Srijanto Hardjomigoeno sebagai Kepala RSU Kartini, bidan baru ada 4 orang dengan dibantu beberapa mantri kesehatan. Kasus penyakit terbanyak yang terjadi setelah RSU Kartini berdiri adalah penyakit infeksi dan penyakit diare. Penyakit ini memuncak pada tahun 1970an di Kabupaten Karanganyar.

Peningkatan kebutuhan masyarakat akan kuantitas dan kualitas pelayanan menyebabkan Pemerintah Daerah Karanganyar merencanakan pemindahan RSUD ke lokasi yang lebih luas. Mengingat pengembangan tak mungkin dapat dilakukan di lokasi lama (Jl. Lawu), maka pada tanggal 11 Maret 1995 RSUD pindah di jalan Yos Sudarso, Jengglong, Bejen, Karanganyar.

RSUD Kabupaten Karanganyar memenuhi syarat menjadi RSU kelas C berdasarkan analisis organisasi, fasilitas dan kemampuan, dan dikukuhkan dengan Keputusan Menkes Republik Indonesia Nomor 009-1/MENKES/1/1993, tentang Susunan Organisasi dan Tata Kerja RSU Karanganyar. Dalam rangka meningkatkan pelayanan di bidang kesehatan secara lebih akuntabel, transparan, efektif dan efisien, Satuan Kerja Perangkat Daerah Rumah Sakit Umum Daerah Kabupaten Karanganyar telah memenuhi persyaratan teknis, administrative dan substantive sesuai ketentuan yang berlaku sekarang ditetapkan menjadi RSUD penguna PPK BLUD Berdasarkan SK BPT 445/149.