Rumsfeld schloss 1954 sein Studium der Politikwissenschaften an der Princeton University ab und diente drei Jahre lang in der Navy. Der gebürtige Illinoiser startete eine Kampagne für den Kongress im 13. Kongressbezirk von Illinois, die er 1962 im Alter von 30 Jahren gewann. Er war ein führender Co-Sponsor des Freedom of Information Act.
Er diente unter mehreren Präsidenten. Er wurde 1969 von Präsident Richard Nixon in das Office of Economic Opportunity berufen. Er leitete auch das wirtschaftliche Stabilisierungsprogramm von Nixon, bevor er zum Botschafter bei der NATO ernannt wurde.
1974 kehrte Rumsfeld nach Washington zurück, um als Stabschef von Präsident Ford zu fungieren. Als Ford ihn später zum Verteidigungsminister ernannte, rekrutierte Rumsfeld Dick Cheney, seinen jungen ehemaligen Mitarbeiter und einen treuen Verbündeten, um seine Rolle zu übernehmen.
Rumsfeld hält die Auszeichnung für zwei nicht aufeinander folgende Amtszeiten als Chef des DoD, da er 2001 von Präsident George W. Bush erneut ernannt wurde. Er war mit 43 auch der Jüngste und mit 74 der Älteste, der den Titel trug.