Nach Artikel 20 Absatz 1 GG ist die Bundesrepublik Deutschland ein Bundesstaat. Der Bundesstaat ist eine staatsrechtliche Verbindung mehrerer Staaten, die dadurch selbst Staatscharakter besitzt. Im Gegensatz zu einem bloßen Staatenbund, in dem lediglich die einzelnen Mitgliedstaaten Staatsqualität haben, besteht der Bundesstaat aus dem Gesamtstaat (Bund) und den Gliedstaaten (Ländern). Die Länder sind damit nicht lediglich nachgeordnete Selbstverwaltungskörperschaften, sondern echte Staaten mit eigener – wenn auch im Einzelfall durch das GG gegenständlich beschränkter – und nicht vom Bund abgeleiteter Staatlichkeit.
Im Bundesstaat ist die Staatsgewalt zwischen den Gliedstaaten und dem Gesamtstaat so verteilt, dass weder der Bund noch die Länder sie insgesamt innehat. Vielmehr wird zwischen den Gliedstaaten einerseits und dem Gesamtstaat andererseits eine Machtbalance angestrebt. Deshalb wird auch davon gesprochen, dass die föderale Ordnung des GG eine „vertikale Gewaltenteilung“ bewirke, die eine Ergänzung bzw. Verstärkung der klassischen „horizontalen“ Gewaltenteilung (Legislative, Exekutive und Judikative) darstelle.
Jedes Land verfügt über eine eigene verfassungsgebende Gewalt und über alle für ein demokratisches Staatswesen typischen Organe (Parlamente, Regierungen und Gerichte). Insoweit sind die Länder also im Bereich der ihnen vom GG übertragenen Zuständigkeiten grundsätzlich autonom. Die – freilich weiten – Grenzen dieser Autonomie zieht Artikel 28 Absatz 1 Satz 1 GG. Er legt fest, dass die verfassungsmäßige Ordnung in den Ländern den in Artikel 20 GG niedergelegten und nach Artikel 79 Absatz 3 GG nicht änderbaren Staatsstrukturprinzipien der Republik, der Gewaltenteilung, der Demokratie, des Rechtsstaates, des Sozialstaates und des Bundesstaates entsprechen muss (sog. Homogenitätsklausel).
Die im Grundgesetz realisierte föderale Ordnung ist in der Tendenz nicht auf Trennung, sondern auf Kooperation zwischen Bund und Ländern angelegt. Das Bundesstaatsprinzip des Grundgesetzes verpflichtet Bund und Länder zu wechselseitiger Rücksichtnahme und Hilfeleistung. Der kooperative Charakter des deutschen Föderalismus kommt gerade auch darin zum Ausdruck, dass die Länder an der Bundesgesetzgebung, an der Verwaltung des Bundes sowie in Angelegenheiten der Europäischen Union mitwirken. Dies geschieht nach Artikel 50 GG durch den Bundesrat, der aber kein Länderorgan, sondern ein Bundesorgan ist und im Gesetzgebungsverfahren sehr weitreichende Rechte hat (dies wird im Einzelnen in der Darstellung des Gesetzgebungsverfahrens erläutert).
Der Bund darf eine Materie nur dann regeln, wenn sie ihm durch einzelne Kompetenznormen ausdrücklich zugewiesen ist (Artikel 70 GG) oder sich durch Auslegung der Verfassung eine ungeschriebene Zuständigkeit aus der Natur der Sache oder kraft Sachzusammenhang mit einer ausdrücklich zugewiesenen Gesetzgebungsmaterie herleiten lässt. Die ausdrückliche Zuweisung erfolgt vor allem in den Artikeln 72 bis 74 GG, wobei zwei Grundformen der Bundeskompetenz, die ausschließliche Gesetzgebung des Bundes und die konkurrierende Gesetzgebung, unterschieden werden.
Solange und soweit der Bund im Bereich der konkurrierenden Gesetzgebung untätig bleibt, können die Länder Gesetze erlassen. In bestimmten, ausdrücklich von Artikel 72 Absatz 3 Nummern 1 bis 6 GG genannten Sachbereichen (z.B. Naturschutz, Landschaftspflege oder Raumordnung) können die Länder auch Regelungen treffen, die von Bundesgesetzen abweichen. Bundesgesetze in diesen Bereichen treten frühestens sechs Monate nach ihrer Verkündung in Kraft damit – falls alle oder einige Länder abweichende Regelungen treffen möchten – ein mehrfacher Wechsel der Gesetzeslage innerhalb kurzer Zeit vermieden wird. Das Bundesrecht bleibt in den Ländern, in denen abweichende Regelungen getroffen werden, in solchen Fällen zwar gültig, es wird aber nicht angewendet. Heben die Länder ihre vom Bundesrecht abweichenden Regelungen auf, gilt automatisch wieder das Bundesrecht. Diese Möglichkeit der vom Bundesrecht abweichenden Länderregelungen kann jedoch im jeweiligen Bundesgesetz ausgeschlossen werden, wenn der Bundesrat dem zustimmt.
Bis zur sog. Föderalismusreform I im Jahr 2006 gab es als weitere Gesetzgebungsart noch die Rahmengesetzgebung (Artikel 75 GG a.F.). Sie bestand aus einem zweistufigen Verfahren: Der Bundesgesetzgeber erließ allgemein gehaltene Regelungen, die vom Landesgesetzgeber umgesetzt und konkretisiert wurden. Im Rahmen der Föderalismusreform I wurden die Materien des Artikels 75 GG a.F. als Vollkompetenzen auf Bund und Länder verteilt. Ergänzend wurde in Artikel 125b GG eine Übergangsregelung aufgenommen.
Die Gesetzgebungskompetenz kann sich aber auch aus anderen Normen des GG ergeben. Zum Beispiel kann die Regelung des von den Landesfinanzbehörden und in bestimmten Fällen von den Gemeinden anzuwendenden Verfahrens durch Bundesgesetz mit Zustimmung des Bundesrates erfolgen (Artikel 108 Absatz 5 Satz 2 GG).
Nach Artikel 70 GG sind die Länder für alle Materien zuständig, die nicht dem Bund zugewiesen sind. Die wichtigsten Bereiche der Landesgesetzgebung sind Polizeiwesen, Bildung (Kindergärten, Schulen, Universitäten) sowie Kultur und Medien. In der Staatspraxis der letzten Jahrzehnte hat sich in der Gesetzgebung faktisch ein deutliches Übergewicht des Bundes ergeben. Mit der im Jahr 2006 verabschiedeten sog. Föderalismusreform I sind jedoch die Gesetzgebungskompetenzen des Bundes in einigen Bereichen beschränkt worden. Umgekehrt wurden die Mitwirkungsrechte der Länder an der Bundesgesetzgebung eingeschränkt.
Die Zuständigkeit für den Vollzug der Bundesgesetze obliegt nach Artikel 83 GG den Ländern als eigene Angelegenheit, es sei denn, das Grundgesetz trifft eine andere Regelung. Der bundeseigene Vollzug der Bundesgesetze ist damit die Ausnahme. Im Regelfall des Gesetzesvollzugs durch die Länder hat der Bund nur begrenzte Möglichkeiten, auf diesen einzuwirken (siehe im Einzelnen die in Artikel 84 GG geregelten Handlungsmöglichkeiten). Im Kern kann der Bund lediglich über die Rechtmäßigkeit des Vollzugs, nicht aber über dessen Zweckmäßigkeit wachen (sog. Rechtsaufsicht).
Nach Artikel 85 GG führen die Länder die Bundesgesetze im Auftrag des Bundes aus, wenn dies im GG ausdrücklich vorgesehen ist. In diesem Fall hat der Bund nicht nur die Rechtsaufsicht, sondern auch die sog. Fachaufsicht, d.h., er befindet auch über die Zweckmäßigkeit von Vollzugsmaßnahmen. Deshalb statuiert Artikel 85 Absatz 3 Satz 1 GG ein Weisungsrecht der Bundesregierung gegenüber den zuständigen obersten Landesbehörden. Ein wichtiges Beispiel hierfür ist das Atomrecht.
Die Artikel 86 bis 90 GG legen die Sachgebiete fest, in denen der Gesetzesvollzug unmittelbar durch den Bund erfolgt. Erfasst werden typisch gesamtstaatliche Aufgabenbereiche, wie etwa der Auswärtige Dienst, die Bundesfinanzverwaltung, die Wehrverwaltung sowie die Verwaltung der Bundeswasserstraßen und der Schifffahrt. Auch im Fernstraßenwesen und im Luftverkehr besteht in weiten Bereichen bundeseigene Verwaltung.
Die Gemeinden und Gemeindeverbände haben im Staatsaufbau eine Sonderstellung. Artikel 28 Absatz 2 Satz 1 und 2 GG räumt ihnen das Recht ein, alle Angelegenheiten der örtlichen Gemeinschaft in eigener Verantwortung zu regeln. Dem entsprechend müssen Gemeinden und Gemeindeverbände nach Artikel 28 Absatz 1 Satz 2 GG auch Vertretungen haben, die aus allgemeinen, unmittelbaren, freien, gleichen und geheimen Wahlen hervorgegangen sind. Das Selbstverwaltungsrecht besteht für die Gemeinden allerdings nur im Rahmen der Gesetze, d.h., dass der Gesetzgeber dieses Selbstverwaltungsrecht ausformen und beschränken darf. Im Rahmen ihrer Selbstverwaltungsautonomie werden die Gemeinden durch Erlass von Satzungen auch rechtsetzend tätig.
Die Funktion der Gemeinden und Gemeindeverbände beschränkt sich allerdings nicht auf den beschriebenen Autonomiebereich. Staatsrechtlich der Ländersphäre zuzurechnen, sind sie zugleich Teil der staatlichen Exekutive und insoweit untere Landesbehörden. In dieser Eigenschaft vollziehen sie – weisungsgebunden gegenüber den übergeordneten Landesbehörden – die Bundes- und die Landesgesetze. Nach Artikel 84 Absatz 1 Satz 7 und Artikel 85 Absatz 1 Satz 2 GG darf der Bund den Gemeinden aber durch Gesetz keine Aufgaben übertragen. Diese Regelung soll verhindern, dass die Gemeinden durch ein Übermaß staatlicher Aufgaben finanziell überfordert werden.