Nasceu em Fife, na Escócia, em 1960. Estudava para se tornar doutor em literatura escocesa, mas acabou como mestre do romance policial. Em 1987, com Knots and Crosses, iniciou a série de dezoito livros com seu célebre detetive John Rebus. O personagem deu origem a uma série de TV e transformou Rankin em um best-seller mundial.