Çernenko hazırkı Bolşaya Tes (Krasnoyarsk diyarı) kəndində yoxsul ailəsində anadan olub. 1929-cu ildə Komsomol sıralarına daxil olub. 1931-ci ildə Kommunist Partiyasının üzvüdür. Əsgərliyini tamamladıqdan sonra, Krasnoyarska döndü. 1933-cü ildə Novosyolovsky rayon Partiya Komitəsində çalışmışdır. Çernenkonun karyerasında dönüş nöqtəsi tapşırıq əsasında 1948-ci ildən Moldova SSR Kommunist Partiyası təbliğat şöbəsinin rəhbəri olması idi. 1952-ci ildə gələcək lider Leonid Brejnev Moldova SSR-in birinci katibi olan Çernenkonun etibarını qazandı. Brejnev Ali Sovetinin (Sovet İttifaqı dövlət titullu rəhbəri) Rəyasət Heyətinin sədri seçildi sonra 1960-cı ildə, Çernenko heyətin sədri olmuşdur.

1964-cü ildə Sovet lideri Nikita Xruşşov hakimiyyətdən uzaqlaşdırıldı etdi və Leonid Brejnev rəhbər seçildi. Partiya lideri kimi Brejnevin dövründə, Çernenko karyerasına uğurla davam etdi. O, Mərkəzi Komitənin Baş İdarəsinin rəisi vəzifəsində 1965-ci ildə irəli sürülmüş və Siyasi Büronun gündəliyinə fərmanlarını və sərəncamlarını çoxsaylı Mərkəzi Komitəsinin layihəsini hazırlamaq üçün mandat kimi verilmişdir. Politbüronun üzvü seçilmişdir. O, həmçinin üst Partiya üzvlərinin müxtəlif ofis telefonlarını dinləmə cihazları nəzarət edirdi.

Yuri Andropov ofisində yalnız 15 ay sonra, 1984-cü ildə vəfat etmişdir. Bu dönəmdə Çernenko sağlamlıq arayışı təqdim edərək, rəhbər postunun Qorbaçova verilməsini istəyib. Lakin onun bu xahişi yerinə yetirilməyib. xatirələrində yazır ki, axşam fevralın 12-də Çernenko rəhbər seçibibmiş. Fevralın 13-də Mərkəzi Komitəsinin plenar iclasında, Andropovun ölümümndən dörd gün sonra, Nazirlər Şurasının sədri, Premyer və Siyasi Büronun üzvü Nikolay Tixonovun Çernenkonun Baş katib seçiləcəyini bəyan edib, komitə lazımi qaydada yeni rəhbərə Kremldə iş otağı da verib.