1947 yılında İstanbul’da doğdu. 1971 yılında Ankara Üniversitesi Siyasal Bilgiler Fakültesi Maliye ve İktisat Bölümü’nden mezun oldu. 1972-1974 yılları arasında Almanya’nın Köln Üniversitesi İktisadi ve Sosyal Bilimler Fakültesi’nde yüksek lisans yaptı.
1975-1983 yılları arasında kimya, tekstil ve ulaştırma sektörlerinde, çeşitli özel şirketlerde yönetici olarak görev aldı.
1983 yılının Mayıs ayında kurulan Anavatan Partisi’nin Kurucu Üyesi ve Genel Başkan Yardımcısı olan Mesut Yılmaz, aynı yıl Kasım ayında yapılan Genel Seçimde Rize Milletvekili seçildi. 1. Özal Hükûmeti’nde enformasyondan sorumlu Devlet Bakanlığına atandı ve Hükûmet sözcülüğü yaptı. 1986 yılında Kültür ve Turizm Bakanı olan Yılmaz, bu dönemde Türkiye-Federal Almanya ve Türkiye-Yugoslavya Ekonomi Karma Komisyonları’nın Başkanlığını yürüttü. 29 Kasım 1987 seçimlerinde yeniden Rize Milletvekili seçilen Yılmaz, 2. Özal Hükûmeti’nde Dışişleri Bakanlığına atandı. Akbulut Hükûmeti’nde de üstlendiği bu görevden 20 Şubat 1990’da istifa etti.
15 Haziran 1991 tarihinde yapılan Anavatan Partisi Büyük Kongresinde Genel Başkan seçildi. Yılmaz tarafından kurulan hükûmet 5 Temmuz 1991 günü T.B.M.M. Genel Kurulunda güvenoyu aldı. 20 Ekim 1991 günü yapılan genel seçimlerden sonra Ana Muhalefet Partisi Lideri olarak çalışmalarını sürdüren Yılmaz, 24 Aralık 1995 günü yapılan genel seçimler sonrası Anavatan Partisi ile Doğru Yol Partisi tarafından oluşturulan 53. Hükûmetin Başbakanı olarak görev yaptı.
20 Haziran 1997 tarihinde 55. Hükûmeti kurmakla görevlendirildi. 17 Ocak 1999 tarihinde Başbakanlık görevinden ayrılan Yılmaz, 18 Nisan 1999 günü yapılan Genel Seçimlerden sonra kurulan 57 nci Hükûmet’te 13 Temmuz 2000 tarihinden 3 Kasım 2002 tarihine kadar Devlet Bakanı ve Başbakan Yardımcısı olarak görev yaptı.
3 Kasım 2002 milletvekili seçimlerinde Anavatan Partisi barajın altında kaldığı için Yılmaz milletvekili seçilemedi. 27 Kasım 2002 tarihinde Anavatan Partisi Genel Başkanlığından istifa etti. Almanca ve İngilizce bilen Mesut Yılmaz, evli ve iki çocuk babasıdır.
Başbakanı Olduğu Hükûmetler ve Görev Zamanları
48. T.C. Hükûmeti 23.06.1991 20.11.1991
53. T.C. Hükûmeti 06.03.1996 28.06.1996
55. T.C. Hükûmeti 30.06.1997 11.01.1999