1970 yılında Kırşehir'de doğdu. İlk ve orta öğrenimini Çankırı Kurşunlu'da tamamlayan Yılmaz, 1984-1987 yılları arasında lise öğrenimini yatılı olarak İstanbul Kabataş Erkek Lisesinde tamamladı. GATA Tıp Fakültesini 1993 yılında bitirdi. Askeri doktor olarak Foça Çıkarma Filo Komutanlığında ve Ertuğrul Gemisinde görev yaptı. Çok sayıda tatbikat ve harekatın sağlık organizasyonlarını yönetti. 1996 - 2000 yıllları arasında GATA Ankara'da Genel Cerrahi ihtisası yaptı. 2000 yılında Çanakkale Deniz Hastanesine ve 2004 yılında Gölcük Asker Hastanesine genel cerrahi uzmanı olarak atandı. Bu hastanelerde Genel Cerrahi Klinik Şefliği, Nbc, deprem ve doğal afet tatbikat koordinatörlüğü, dergi editörlüğü, mesleki komite başkanlıkları yaptı. 2007 yılında Beykent Üniversitesinde Hastane ve Sağlık Kurumları Yönetimi Yüksek Lisans eğitimini tamamladı. 2008 yılında İşyeri hekimliği sertifikası aldı. Mesleki olarak, Basic ve Advanced ilk yardım kursu, mikrocerrahi kursu, Temel Laparoskopi kursu, varis ve hemoroidde skleroterapi kursu, Endoskopi kursu sertifikalarına sahip olan Yılmaz,  2014 yılında Gölcük Özel Aile Konak Hastanesinde Genel Cerrahi Uzmanı olarak çalışmaya başladı. Fahri Yılmaz evli ve iki çocuk babasıdır. Orta derecede ingilizce bilmektedir..