Sein Erfolg stellte sich nicht schnell ein. Sein erster großer internationaler Wettkampf war der Marathon bei den Leichtathletik-Europameisterschaften 1962 in Belgrad, der damaligen Hauptstadt Jugoslawiens. Er ist nicht fertig geworden. Bei den Olympischen Sommerspielen 1964 in Tokio wurde er 19. im Marathon und 18. im 10.000-Meter-Lauf. Aber im nächsten Jahr brach er die Weltrekorde über 25.000 Meter und 15 Meilen, die Emil Zatopek aus der Tschechoslowakei gehalten hatte.
Hill wurde nicht in das britische Marathonteam für die Sommerspiele 1968 in Mexiko-Stadt gewählt, aber er nahm am 10.000-Meter-Lauf teil und wurde Siebter. In diesem Jahr stellte er auch zwei Weltrekorde über 10 Meilen auf.
Bei den Europameisterschaften 1969 in Athen war Hill auf den letzten Meilen des Marathons müde und dachte, er könnte bestenfalls eine Silbermedaille gewinnen, als er den Führenden Gaston Roelants aus Belgien entdeckte. Weniger als einen Kilometer vor ihm holte Hill ihn ein.
„Ich war mir nicht sicher, was ich tun sollte“, sagte er später. „Ich dachte: ‚Soll ich hinten sitzen und versuchen, ihn zu überholen, oder direkt vorbeigehen?’ Ich habe mich für Letzteres entschieden und nie zurückgeschaut, da ich Angst hatte, dass er reagiert.“
Hill gewann mit etwa 34 Sekunden Vorsprung.
Sieben Monate später kam er als einer der Favoriten auf den Sieg in Boston an.
„Boston galt damals als klassischer Marathon, und ich hatte davon geträumt“, sagte Hill 1988 gegenüber The Globe. „Ich konnte es mir kaum leisten, die Arbeit zu verlassen, und Boston zahlte keine Spesen. Aber ich wollte gehen, und Freunde haben in einen Fonds investiert, um mich zu schicken.“
Beim Olympischen Marathon 1972, den der Amerikaner Frank Shorter gewann, wurde er Sechster.
Insgesamt fuhr Hill 115 Marathons, den letzten in Boston im Jahr 1996, als er 57 Jahre alt war. Seine Zeit betrug 3:12:46.