1948 yılında Acıpayam'a bağlı Köke köyünde doğdu. İlköğrenimini burada yaptıktan sonra orta ve lise öğrenimini Burdur'da, yükseköğrenimi İstanbul'da tamamladı. Yeni Türk Edebiyatı sahasında doktora yaptı. Aynı sahada doçent, 1993'te profesör oldu. 1988 yılında İstanbul Üniversitesi İletişim Fakültesi'nde doçent olarak göreve başlayan Yılmaz, burada Tanıtım ve Halkla İlişkiler Bölüm Başkanlığı yaptı. İstanbul Üniversitesi Sosyal Bilimler Enstitüsü'nde de Müdür Yardımcılığı görevini yürüttü. Harp Akademileri'nde basın ve halkla ilişkiler dersleri verdi. Halkla İlişkiler, Gazetecilik ve Radyo-TV Anabilim Dallarında yüksek lisans ve doktora tezleri yönetti. 1995 yılında Muğla Üniversitesi'ne gelerek buradaki Fen-Edebiyat Fakültesi'nin Çağdaş Türk Lehçeleri ve Edebiyatları Bölümünün kuruluşunu tamamladı. 1996 yılında Muğla Üniversitesi Fen-Edebiyat Fakültesi Dekanlığı görevini üstlendi; bu fakültenin kimya, felsefe, sosyoloji bölümlerinin kuruluşunu sağladı. Tekrar İstanbul Üniversitesi'ne döndü ve Türk Dili Bölümü başkanı oldu.1999 yılında emekliye ayrıldı. Bir süre Kıbrıs Yakın Doğu Üniversitesi'nde çalıştı. 2001 yılında İstanbul Kültür Üniversitesi'ne geçti. Burada Türk Dili ve Edebiyatı Bölümünün kuruluşunu tamamladı. Halen bu üniversitede görev yapmaktadır.

1965 yılında henüz ortaokul öğrencisiyken Burdur'un Sesi aldı mahalli gazetede ilk kez yayınladığı çalışmalarını daha sonra Diriliş, Hisar, Hareket, Büyük Doğu gibi dergilerde sürdürdü. Gazetelerde sanat sayfaları düzenledi ve köşe yazarlığı yaptı. Türkiye Millî Kültür Vakfı, KASD, DEN-BİR ödüllerini alan Yılmaz'ın eserleri hakkında yerli ve yabancı basında çok sayıda değerlendirme yazıları yayınlanmıştır.