Obwohl er keine militärische Erfahrung hatte, war Senator Levin 10 Jahre lang – von 2001 bis 2003 und von 2007 bis 2015 – Vorsitzender des Streitkräfteausschusses des Senats, einer Plattform, von der aus er einen großen Einfluss auf die militärische Aneignung und die Verteidigungspolitik ausübte.
Er enthüllte verschwenderische und korrupte Praktiken von Militärunternehmen, stimmte für die Schließung von Stützpunkten, drängte auf weniger Geheimhaltung in der Regierung und war maßgeblich an der Aufhebung des Verbots von Schwulen im Militär beteiligt. Er argumentierte, dass Militärkommandanten und nicht zivile Beamte die Autorität über Fälle sexueller Übergriffe in den Streitkräften behalten sollten, und argumentierte, dass dies den Opfern mehr Schutz bieten würde.
Nach den Terroranschlägen von 2001 stimmte er dafür, Präsident George W. Bush die Vollmacht zu erteilen, die Täter zu verfolgen. Aber er wurde kritisch gegenüber den amerikanischen Kämpfen in Afghanistan und war ein früher Gegner des Irak-Krieges. Er äußerte Skepsis gegenüber der Behauptung der Regierung, Präsident Saddam Hussein besitze Massenvernichtungswaffen. Er begrüßte die Entscheidung von Präsident Barack Obama aus dem Jahr 2011, die amerikanischen Truppen aus dem Irak abzuziehen.
Carl Milton Levin wurde am 28. Juni 1934 in Detroit als eines von drei Kindern von Saul Levin und der ehemaligen Bess Levinson geboren. Sein Vater war Rechtsanwalt und Mitglied der Michigan’s Correction Commission, die staatliche Gefängnisse betrieb. Öffentliche Angelegenheiten dominierten die Gespräche beim Abendessen, der Vater fragte Carl, seine Geschwister Hannah nach Meinungen zur Todesstrafe, zu Entscheidungen des Bürgermeisters und anderen Themen.
Carl machte 1952 seinen Abschluss an der Detroit Central High School, 1956 am Swarthmore College mit einem Bachelor in Politikwissenschaften und 1959 an der Harvard Law School.
1961 heiratete er Barbara Halpern. Sie hatten drei Töchter, Kate, Laura und Erica. Er hinterlässt seine Frau, seine Töchter, seinen Bruder und sechs Enkelkinder. Herr Levin hat sein ganzes Leben in Detroit gelebt.
Nachdem er fünf Jahre als Anwalt in Detroit tätig war, wurde er von 1964 bis 1967 stellvertretender Generalstaatsanwalt und General Counsel der Michigan Civil Rights Commission. Er half beim Aufbau des Detroit Public Defender’s Office und war 1968-69 dessen oberster Berufungsverteidiger. Von 1969 bis 1977 diente er zwei Amtszeiten im Stadtrat von Detroit, die letzten vier Jahre als Präsident. Er wurde auch ein enger Mitarbeiter von Coleman Young, einem Demokraten, der 1974 Detroits erster afroamerikanischer Bürgermeister wurde.