Na het dramatische verlies bij de Tweede Kamerverkiezingen van mei 1994 stelde het CDA-bestuur een evaluatiecommissie in onder leiding van oud-minister Til Gardeniers-Berendsen. In haar kritische rapport kapittelde zij de partij vanwege de grote interne verdeeldheid en de kloof tussen top en basis. Het CDA had zich als een ‘zelfgenoegzame bestuurderspartij’ opgesteld. Het verwerven van macht was van middel tot doel geworden en had het interne debat gesmoord.
Hoe sterk het zelfbeeld en de bijpassende organisatie als regeringspartij waren bleek uit de moeizame omschakeling naar de rol van oppositiepartij. Na de verkiezingen kwam de ‘paarse’ coalitie tot stand, van PvdA, VVD en D66. Voor het eerst in zo’n 75 jaar maakten de christendemocraten geen deel uit van de regering. Oppositie voeren in de Haagse politiek hadden zij nooit geleerd en het bijbehorende handwerk niet beoefend. Aandacht voor het CDA kwam niet meer vanzelf: ambtenaren en media sloegen een partij in de oppositie makkelijker over. Zelf politiek theater maken was de Kamerleden vreemd. Bovendien bestond de CDA-fractie nog voor een groot deel uit voormalige bewindspersonen die er niet op uit waren om de ministers uit het eerste kabinet-Kok, met wie ze soms lang hadden samengewerkt, op de huid te zitten. Veel partijgenoten op hoge posten in de ministeries verdwenen en de vanzelfsprekende doorstroom van bestuurders van maatschappelijke organisaties naar de Tweede Kamerfractie droogde op. De fractie moest op een andere manier politiek bedrijven en stapsgewijs punten binnenhalen. Ze sloeg geregeld de plank mis, waardoor achterban ontevreden raakte.
Tweede Kamerfractievoorzitter Enneüs Heerma, die Elco Brinkman in de zomer van 1994 was opgevolgd, slaagde er niet in de stem van de oppositie te worden. Hij probeerde het gezin op de politieke agenda te zetten, maar zijn voorstel voor het aanstellen van een minister van Gezinszaken werd in de Tweede Kamer weggelachen. Heerma trok zich ruim een jaar voor de Tweede Kamerverkiezingen van 6 mei 1998 terug en maakte zo plaats voor Jaap de Hoop Scheffer, wiens kwaliteiten als diplomaat evenmin pasten bij het voeren van scherpe oppositie. De verkiezingsuitslag stelde teleur: het CDA verloor vijf zetels, waarmee de partij op een dieptepunt tot dan toe van 29 Kamerzetels uitkwam. Van hernieuwde regeringsdeelname kwam het niet; PvdA, VVD en D66 gingen verder als ‘Paars II’. De coalitie zette stevig in op banengroei door lastenverlichting, terwijl het CDA meer geld wilde besteden aan het steunen van gezinnen en het terugdringen van de staatsschuld.
Een evaluatie van het verkiezingsresultaat van het CDA wees naar de relatieve onbekendheid van lijsttrekker De Hoop Scheffer, zeker in vergelijking met premier Wim Kok (PvdA) en fractievoorzitter van de VVD in de Tweede Kamer, Frits Bolkestein. In het rapport Nieuwe wegen in aanleg werd een meer professioneel opgezette verkiezingscampagne aanbevolen. De middenpositie van het CDA, die eerder een riante plek was, bleek ten tijde van de paarse kabinetten juist een nadeel. Het was buitengewoon lastig om vanuit het politieke centrum tegelijkertijd de politieke concurrenten op links en op rechts op de korrel te nemen, een consistente lijn uit te zetten en electoraal attractief te zijn.