Sivrihisar’ın oldukça eski yıllara inen bir geçmişi vardır. Yörede ilk yerleşim Hititlere dayanmaktadır. O dönemde ismi Sallopa, Abruztula, Spalia olan ilçe yakınında Pesinius (Ballıhisar) antik kenti bulunmaktadır.
Antik şehrin üzerinde bugün Ballıhisar Köyü kurulmuştur.
Pessinus, tanrıların anası Kibele olarak anılan tanrıçanın ünlü kutsal yerleşmesiyle birlikte Rahipler Devleti şeklindeki antik bir Frig yerleşmesi idi. Burası, antik kaynaklarda Matar Dindymene, Mâgna Mater, Agdistis Dindymene denen Frig baş tanrıçasının kutsal kenti olarak ün salmıştır.
Bergamalıların egemenliği altında kalan kent Galatların sürekli saldırılarına uğramıştır. MÖ. 25 yılında Augustus, Galatia eyaletini kurunca, Pessinus Romalıların yönetimine geçmiştir.
Roma döneminde ticari ve askeri önemi artmaya başlayan Sivrihisar, Bizans İmparatoru Iustinianus (M.S. 527 – 565) tarafından yeniden onarılmış ve Iustinianopolis adını almıştır. Kent bu dönemde Hıristiyanlık merkezi haline getirilmiş ve metropolitlik derecesine yükseltilmiştir.
Sivrihisar’da ayrıca 1881 yılında yapılmış bir Ermeni Kilisesi bulunmaktadır. Kültür Bakanlığı’nın desteği ile bu kiliseyi bugün Kültür Merkezi haline getirmek için çalışmalar sürdürülmektedir.