Rory Graham begon als tiener met mc'en, waarbij hij de naam Rag N Bonez gebruikte. Daarvoor kreeg hij de inspiratie uit de Britse serie Steptoe And Son. Zijn vader spoorde hem aan om ook te gaan zingen, wat resulteerde in de ep Blues Town. Zo kwam hij in contact met Marc Crew, de producer die ook voor onder meer Bastille werkte. Met hem kwam de ep Wolves tot stand. In de zomer van 2016 breekt hij door met de single Human, dat door Radio 538 wordt uitgeroepen tot Alarmschijf. Dat gebeurt ook met de opvolger Skin, die in januari 2017 verschijnt. Op 10 februari 2017 verschijnt zijn debuutalbum Human. Van dat album wordt As You Are gekozen als derde single.
Na ruim anderhalf jaar afwezigheid keert Rag'n'Bone Man begin 2019 terug met Giant, een samenwerking met Calvin Harris.
Rag'n'Bone Man komt begin 2021 met de single All You Ever Wanted. Dit is de eerste single van het album Life By Misadventure, dat in april 2021 zal worden gelanceerd. De tweede single van dit album is Anywhere Away From Here. De single is een samenwerking met niemand minder dan P!nk en is te beluisteren vanaf begin april 2021. In augustus van datzelfde jaar gaat hij de samenwerking aan met de Britse band Nothing But Thieves. Samen leveren ze de track Alone (Nothing But Thieves REMIX) af. De track Crossfire is de volgende van het album Life By Misadventure wat hij uitbrengt.