Trotz der preußischen Ablehnung hielt ein Teil der Abgeordneten an der ausgearbeiteten Verfassung fest. Am 4. Mai 1849 forderten Vertreter der Nationalversammlung alle Parlamente, Selbstverwaltungen und Institutionen der Mitgliedsstaaten des Deutschen Bundes dazu auf, sich für die Wahrung der Inhalte der Reichsverfassung einzusetzen. Viele Mitgliedsstaaten boykottierten diese Forderung und zogen die gewählten Abgeordneten aus Frankfurt ab. Es blieb ein „Rumpfparlament“ aus radikaldemokratischen Abgeordneten.
Das weiterhin in Frankfurt tagende geschwächte Parlament entschied am 30. Mai aus Sorge vor einem Angriff preußischer Truppen nach Stuttgart umzuziehen. Dort nahm das Rumpfparlament am 6. Juni erneut seine Arbeit auf, wurde jedoch bereits am 18. Juni aus dem Königreich Württemberg verwiesen. Gewaltsam ging das Militär gegen das verbliebene Rumpfparlament vor. Damit endet die Geschichte des ersten gesamtdeutschen Parlaments, dessen Ziel ein vereinigtes, demokratisches Deutschland war.