Die Königin ist bis zu 20 mm groß, Arbeiterinnen bleiben mit 12 - 16 mm und Drohnen mit 13 - 17 mm deutlich kleiner. Sie haben die für Wespen typische schwarz-gelbe Warnfärbung.

Die Deutsche Wespe baut ihr Nest oft unterirdisch. Ihre Staaten sind nur einjährig. Die junge Königin, die in einem Schlupfwinkel mit geeignetem Mikroklima überwintert, gründet den Staat also allein. Sie beginnt den Nestbau im Frühjahr meist unterirdisch in vorgefundenen Mäuse- und Maulwurfsgängen, die später zu größeren Höhlen ausgebaut werden; oft aber auch in Gebäuden, beispielsweise in Dachstühlen. An die Decke der Höhle oder des entsprechenden Substrats heftet die Jungkönigin zuerst ein kleines Lampenschirmchen aus zerkauten und eingespeichelten, möglichst mürben Holzfasern. Darunter arbeitet sie eine zierliche Wabe aus etlichen waagerecht nebeneinanderliegenden sechseckigen Zellen ein, die denen der Bienen sehr ähneln. Sie sind jedoch nicht vertikal, sondern horizontal angeordnet, mit der Öffnung nach unten, die Kammerwände sind zudem deutlich dünner und leichter als die der Bienen. Aufgrund der Verwendung von oberflächlich verwittertem Holz, das z. B. von Weidepfählen und Holzzäunen abgenagt wird (wobei man die Wespen gut beobachten kann), ist das Nest von grauer Farbe und unterscheidet sich dadurch von dem der eng verwandten, ähnlichen Gemeinen Wespe, die morsches Holz (verrottende Baumstämme, Äste etc.) verwendet, wodurch deren Nest ein helles, beigefarbenes Aussehen erhält.