Scholz, 1958´de Aşağı Saksonya eyaletinin Osnabrück şehrinde doğdu. Ailesinin Hamburg´a taşınmasıyla birlikte burada büyüyen Scholz, 17 yaşında erkenden siyasete girerek SDP´ye katıldı. İki kardeşi vardır.
Partinin muhtelif kademelerinde görev alan Scholz, 6 yıl boyunca 1982-1988 arasında gençlik teşkilatında başkan yardımcılığı görevini üstlendi.
Hukuk fakültesini bitirerek avukatlık yapmaya başladı, ve uzun yıllar boyunca mesleğini icra etti.
İş hukuku alanında uzmanlaşan yeni Şansölye, 1998 yılında Federal Meclise seçildi.
2001-2019´da partide çeşitli üst görevlerde bulunan Scholz, 2002-2004´te SPD genel sekreterliği, 2009-2019´da genel başkan yardımcılığı ve 2018´de de 2 ay geçici genel başkanlık görevini üstlendi.
Scholz, 2007-2009´da Çalışma ve Sosyal İşler Bakanı, 2011-2018´de Hamburg Eyaleti Başbakanı ve 2018´den bu yana Başbakan Yardımcısı ve Maliye Bakanı olarak görev yaptı.