White werd op 14 juni 1949 in het Engelse Pelton geboren. Op zijn twaalfde begon hij met drummen. 

In de jaren zestig speelde hij bij artiesten als Billy Fury, Alan Price en Ginger Baker. In 1969 vroeg John Lennon hem als lid van zijn Plastic Ono Band, waar hij meespeelde op de albums ‘Live Peace in Toronto’ en ‘Imagine’. Via Lennon kwam White in contact met George Harrison, die hij bijstond als drummer op het album ‘All Things Must Pass’ en dus ook de omwille van verondersteld plagiaat veelbesproken hit ‘My Sweet Lord’. White werkte ook met Joe Cocker en Steve Winwood.

Zijn carrière bij Yes, qua bezetting een duiventil, begon op 27 juli 1972, waar hij Bill Bruford verving die naar King Crimson was overgestapt. Hij kon direct mee op tournee en was sindsdien de vaste drummer van Yes. Sinds de dood van oudgediende en bassist Chris Squiere in  juni 2015 was White de permanente ouderdomsdeken van de groep.

De progressive rockband moe(s)t het vooral hebben van albums zoals ‘Close to the Edge’‘, ‘Yessongs’, ‘The Yes Album’ en “Tales from Topographic Oceans’. Al waren er ook singles zoals ‘Roundabout’ en ‘Owner of a Lonely Heart’.