Sua carreira política, no entanto, foi interrompida com a decretação do Estado Novo, em 1937, durante o governo de Getúlio Vargas. Em 1945, com o fim do regime varguista, Tancredo voltou ao cenário político, mas somente em 1950 foi eleito deputado federal pelo Partido Social Democrata (PSD), com o apoio de Juscelino Kubitschek (JK-PSD). No segundo governo de Getúlio Vargas (PTB/1950-54) - sem as mesmas características autoritárias de antes - Tancredo ocupou ainda o cargo de ministro da Justiça, onde permaneceu até 1954, sempre com a influência do amigo JK.

A conflituosa conjuntura política brasileira da época resultou no suicídio de Vargas no mesmo ano. Durante as discussões para a transição de poder, Tancredo foi um dos que mais defendeu a manutenção do regime democrático.

Durante o governo JK (1956-60), assumiu cargos como o de presidente do Banco Nacional de Desenvolvimento Econômico. Em 1961, Jânio Quadros (PTN/UDN) renunciou ao posto de presidente da República, com seis meses de mandato. Para evitar o golpe militar, João Goulart (PTB) aceitou assumir a presidência sob o regime parlamentarista e Tancredo foi seu primeiro-ministro. No entanto, em 1962, todo o gabinete renunciou. No ano seguinte, o povo, em plebiscito, optou pela volta do presidencialismo.

Em 1964, os militares tomaram o poder no país, dando início ao regime ditatorial que perduraria por 20 anos. Para legitimar o golpe, foram marcadas eleições indiretas por meio do Colégio Eleitoral, em 9 de abril do mesmo ano.

Nesta época, como deputado federal (PSD), Tancredo foi um dos poucos na Câmara a se recusar a votar no então general Humberto de Alencar Castello Branco para presidente, o primeiro governante do regime autoritário que marcou o Brasil.

O presidente Castello Branco assinou o Ato Institucional número 2 (AI-2), extinguindo os partidos políticos e instituindo a eleição indireta para presidente da República, governadores e prefeitos de cidades consideradas de segurança nacional. Foram criadas as legendas Aliança Renovadora Nacional (Arena), da situação, e o Movimento Democrático Nacional (MDB), de oposição, do qual Tancredo fazia parte.

Durante a ditadura, Tancredo participou de todos as manobras de oposição, ganhando espaço nas eleições de 1976, 1978 e 1982. Nesse ano, foi eleito governador de Minas Gerais (MDB).

Foi um dos maiores incentivadores do movimento conhecido como 'Diretas Já', em 1984. Marcadas por diversos comícios em todo o país, as manifestações reivindicavam que o povo pudesse votar para escolher seu presidente.

Em abril de 1984, o Congresso não obteve votos suficientes na Câmara para aprovar a Emenda Dante de Oliveira, que pedia as eleições diretas para presidente. O resultado deixou como única opção para a derrubada do regime ditatorial a realização das eleições no Colégio Eleitoral. Com o apoio do amigo Ulysses Guimarães, Tancredo se candidatou à presidência da República pelo PMDB - antigo MDB, com o vice José Sarney (PMDB).

No dia 15 de janeiro de 1985, foi anunciado o resultado das eleições indiretas: Tancredo seria o primeiro presidente civil em mais de 20 anos de autoritarismo. No entanto, na véspera de assumir o poder - dia 15 de março do mesmo ano -, Tancredo foi internado no Hospital de Base, em Brasília, com fortes dores abdominais. Após mais de um mês hospitalizado, o presidente eleito faleceu, aos 75 anos, vítima de infecção generalizada, no Instituto do Coração (Incor), em São Paulo, em 21 de abril de 1985. O então vice-presidente José Sarney tornou-se, definitivamente, o novo presidente do Brasil.