Er war das vierte Kind Kaiser Ferdinands mit Anna von Böhmen und Ungarn und der zweite Sohn.
Ferdinand wuchs in Innsbruck auf - der Hof seiner Eltern war angesichts der Bedrohung durch die Osmanen in Wien (Erste Türkenbelagerung) nach Tirol übersiedelt und nur wenige Jahre später brach man weiter nach Prag auf, da Ferdinands Vater ab 1529 die böhmische Krone innehatte und dessen Präsenz verlangt wurde.
Ferdinand, welcher als zweitgeborener Sohn nicht zum Thronfolger vorgesehen war, wurde von seinem Vater zum Oberhaupt der Verwaltung des böhmischen Königreichs ernannt und wirkte 20 Jahre lang als Statthalter in Prag.
In dieser Zeit lernte er die aus einem reichen Patrizierhaus stammende Philippine Welser kennen, welche er 1557 heimlich ehelichte. Die Verbindung blieb lange Zeit geheim - seinen Vater informierte Ferdinand erst zwei Jahre später. Ferdinand I. genehmigte zwar den Bund, ließ seinen Sohn jedoch unter Eid schwören, dass niemand davon erfahren durfte.
Fast zwanzig Jahre später im Jahre 1576, wurde die Ehe schließlich auch von Papst Gregor XIII. bestätigt.