Na jarenlange gesprekken over eenwording deden in mei 1977 de ARP, CHU en KVP voor het eerst aan de Tweede Kamerverkiezingen mee met één verkiezingsprogramma en één kandidatenlijst. Als lijsttrekker werd de katholieke Dries van Agt gekozen. Het belangrijkste doel was om één nieuwe partij te smeden en de reeks electorale nederlagen te stoppen. Het CDA kwam uit op 49 zetels, werd niet de grootste partij, maar wel groot genoeg om weer een politieke factor van betekenis te zijn. Na de mislukte onderhandelingen met de PvdA kwam er een CDA-VVD-kabinet onder leiding van Van Agt. Willem Aantjes (1977-1978) en Ruud Lubbers (1978-1982) leidden de CDA-fractie in de Tweede Kamer gedurende deze periode.
Het ‘smeden’ van de nieuwe partij kende van meet af aan strubbelingen. Het moeizame debat over de grondslag van de partij werd in 1978 beslecht met het Rapport grondslag en politiek handelen. Ook moest worden vermeden dat één van de deelnemende partijen (‘bloedgroepen’) zich tekortgedaan zou voelen. Een strakke verdeling van functies en de plekken op de kandidatenlijst werd in een fusieprotocol vastgelegd. Daarnaast had de net gevormde Tweede Kamerfractie te maken met zogenoemde ‘loyalisten’, voornamelijk afkomstig uit de linkervleugel van de ARP, die het kabinet alleen voorwaardelijk steunden.
Naast de loyalisten in de Kamerfractie kwam er ook kritiek vanuit een deel van de achterban van het CDA. De werkgroep ’Niet bij brood alleen’ hield zich bezig met de grondslag van de partij en het beleid van de fractie, dat zij toetste aan het gelijknamige verkiezingsprogramma uit 1977. De werkgroep telde op haar hoogtepunt zo'n 600 leden. Er werden binnen de partij stevige discussies gevoerd, met name op het gebied van de kernwapens. Aan het begin van 1981 hield de werkgroep op te bestaan. Een deel ervan was vervolgens betrokken bij de oprichting van de Evangelische Volkspartij (EVP), die in 1990 zou opgaan in GroenLinks.
In 1979 werd het Program van Uitgangspunten vastgesteld, dat vanaf 1980 als beginselprogramma voor de nieuwe partij fungeerde. Hierin stonden vier christendemocratische kernbegrippen centraal: publieke gerechtigheid, gespreide verantwoordelijkheid, solidariteit en rentmeesterschap. Op het congres van 11 oktober 1980 vond de formele, statutaire oprichting van het CDA plaats, waana ARP, CHU en KVP zich ophieven. Piet Steenkamp, voorzitter van het eerste uur en fervent pleitbezorger van de fusie, gaf het stokje over aan Piet Bukman, die zo de eerste partijvoorzitter van de nieuwe partij werd.
Het nu niet alleen politiek, maar ook organisatorisch gefuseerde CDA won in 1981 de Tweede Kamerverkiezingen met 48 zetels. Van Agt werd voor deze verkiezingen herkozen als lijsttrekker, zij het niet unaniem. Een deel van de antirevolutionaire vleugel en van de jongeren (zo’n twintig procent van de aanwezigen) verklaarde bezwaren te hebben tegen Van Agt. Zij brachten hun stem uit op fractievoorzitter Lubbers, hoewel die nadrukkelijk had aangekondigd geen kandidaat voor het lijsttrekkerschap te willen zijn en zelf Van Agt had aanbevolen. Het tekent de tweespalt binnen de nieuwe partij. Het CDA vormde met de PvdA en D66 het tweede kabinet-Van Agt. Door de slechte verhoudingen tussen de christen- en sociaaldemocraten viel het kabinet snel. Al kort na de vervroegde Tweede Kamerverkiezingen van september 1982 stapte Van Agt op. Lubbers volgde hem op, niet alleen als als politiek leider van het CDA, maar ook als premier.
