Рудолф је уз помоћ оца започео своју каријеру у 9. години. Године 1970. дебитовао је на Турнеји чртири скакаонице 1970/71.. Његови обечавајући резултати, омогућили су му да учествује на Зимским олимпијским играма 1972 у Сапороу следеће године, када је завршио као 26 на малој и 46 на великој скакаоници. Следеће сезоне делује разочаравајуће и постепено је у сенци младих талената као што су Тони Инауер и Карл Шнабл.