1951 yılında Samsun'da doğdu. İlk, orta ve lise öğrenimini Samsun'da tamamladıktan sonra, İstanbul Devlet Mimarlık ve Mühendislik Akedemisi'ni bitirdi.1975 yılında Makina Mühendisi olarak göreve başladı.
     Merzifon-Osmancık-Kargı ve Amasya-Mecitözü-Çorum Yol Yapım Şantiyeleri'nde 2 yıl görev yaptı.
     1978-1980 yılları arasında Diyarbakır'da askerlik görevini tamamladıktan sonra tekrar Karayolları 7. Bölge Müdürlüğü'nde Makina İşletme Mühendisi olarak çalışmaya devam etti. 1983 yılında Ankara Karayolları 4. Bölge Müdürlüğü'ne Makina İkmal Baş Mühendisi olarak atandı. 
Dört yıl sonra İngiltere'de Eğitime gönderildi. Burada İleri Teknoloji ve Bilgisayar Eğitimi aldı. Dönüşte Karayolları Genel Müdürlüğü'ne İkmal Şube Müdürü olarak atandı.Bu göerv süresi boyunca bilgisayar kullanımının yaygınlaştırılması konusunda çalıştı ve başarılı sonuçlar aldı.
1990 yılında atandığı Van Karayolları 11. Bölge Müdürlüğü'ne atanan Yusuf Ziya YILMAZ... Bu zor bölgede Van, Çatak, Bahçesaray, Çaldıran, Muradiye, Doğubeyazıt, Hizan, Küçüksu ve Pevari yol yapım çalışmalarını özveriyle ve zorluklarla tamamladı.
     1992 yılında Samsun Karayolları 7. Bölge Müdürlüğü'ne getirildi. Samsunda;
*Samsun-Kavak yolunun 35 kilometrelik kısmını, KArayolları kendi makine ve personeli ile maddi ve ekipman güçlüklerini aşarak 3 yıl gibi kısa bir sürede tamamladı.
*Samsun Çevre yolunun proje kamulaştırma ve yapım çalışmalarında bulundu.
*Samsun-Çarşamba yolunu gerçekleştirdi.Samsun şehiriçi geçişini tamamladı.
*Samsun Bafra yol yapım çalışmalrını başlattı.
*Samsun batı çevre yolunun proje çalışmarının başlatılmasını sağladı
Çorum-Amasya-Tokat-Ordu ve Sinop illerinin ulaşım sorunlarını çözen hizmetlerde bulundu.
1998'de İstanbul Karayolları 17. Bölge Müdürlüğü'ne atandı.Görevde bulunduğu süre içinde Türkiye'nin en büyük projelerine imza atan Yusuf Ziya YILMAZ, İstanbul için de çok şey yaptı.
*İstanbul 3 Boğaz köprüsü ve Çevre Yolu Projelendirme çalışmaları,
*Çorlu veÇerkezköy yolları,
*Haliç Köprüsü inşaatının tamamlanması ,
     Ve Samsun'a hizmet için 23 yıllık görevinden ayrılarak, 18 Nisan 1999 seçimlerinde Büyükşehir Belediye Başkanı seçildi.