Die Ochsenzunge ist im östlichen Mitteleuropa ein allgemein verbreiteter Archäophyt, weiter im Westen meist unbeständig oder aus Kultur verwildert. In den Alpen steigt sie bis in eine Höhenlage von 2309 m. Natürliche und archäophytische Vorkommen umfassen Ost- und Mitteleuropa von Griechenland über die Ukraine bis ins Baltikum (bis Ingermanland, Estland, Südfinnland, Åland, Mittelschweden, Dänemark) und westwärts bis zum Elb- und Donaugebiet, Norditalien, auch die Türkei. Als teilweise eingebürgerter Neophyt tritt die Gemeine Ochsenzunge im westlichen Mitteleuropa, in Frankreich und in England, vereinzelt bis Schottland, auf. Kleinere neophytische Ansiedlungen finden sich in Nordamerika.

Die Ochsenzunge ist eine zweijährige bis ausdauernde, krautige Pflanze, die Wuchshöhen von meist 30 - 70 (20 - 100) cm erreicht. Sie verfügt über eine kräftige, bis zu 1,2 Meter tiefgehende, von schwarzen, faltigen Ringen bekleidete Pfahlwurzel. Die Sprossachse ist frischgrün bis bläulichgrün und dicht mit auf kleinen Knötchen sitzenden, wenig starren, abstehenden Haaren besetzt. Der Stängel ist meist einfach und besitzt nur in den oberen Blattachseln sterile Kurztriebe und Verzweigungen des Blütenstandes.