Гораций был сыном Роберта Смита из Вестборн Террас, Гайд Парк, Лондон.
Он получил образование в Королевском колледже, Лондон, и Тринити-холле, Кембридж (степень бакалавра с отличием, 1860). Призванный в адвокатуру в 1862 году, он занимал несколько важных постов, а в 1888 году стал магистратом столичной полиции.