Comico navigato, già nei primi anni ottanta dell'ottocento girava per l'America come attore di vaudeville e ben presto entrò in coppia con Oliver Trumball (in arte Ollie Mack), formando il sodalizio "Murray and Mack", che per ventuno anni ebbe una buona notorietà. Dopo essersi separato dall'amico, Murray entrò nel mondo del cinema alla Biograph di Griffith, entrando in buoni rapporti con Mack Sennett, che raggiunse alla Keystone nel 1913. Uno dei suoi cortometraggi più noti fu The Plumber (1914), dove un Murray maldestro mette completamente sottosopra la casa di Josef Swickard. In quel periodo prese parte anche ad alcuni cortometraggi di Chaplin, tra cui Her Friend the Bandit , ormai scomparso dalla circolazione. Forse è in The Masquerader che si mette maggiormente in evidenza, come uno dei registi dello studio cinematografico, particolarmente affascinato dallo Charlot che si traveste da donna per continuare a lavorare come attore dopo il licenziamento. Murray anche nelle commedie che girò per Sennett mantenne viva la figura che aveva creato in coppia con Ollie Mack, di sembianze irlandesi, qui ribattezzato spesso "Hogan". In seguito insieme a George Sidney, creò una serie di comiche, le "Cohen and Kelly Comedies", in gran parte girate negli anni venti. Molto famoso il suo due rulli The Hollywood Kid (1924) e altre partecipazioni, tra cui quella in The Wizard of Oz (Il Mago di Oz, 1925) di Larry Semon.