Die Computerfirma IBM kaufte der Republik Österreich den an der TU Wien gebauten Rechner ab und übernahm wesentliche Teile der Technik für die Entwicklung des ab 1964 sehr erfolgreichen 360er-Rechners. In Wien stellten sie Zemanek ein eigenes Labor zur Verfügung, wo er sich in weiterer Folge vor allem auf Programmiersprachen konzentrierte. Die " Vienna Definition Language" (VDL) und die " Vienna Development Method" erlangten in den 1970er Jahren internationale Bedeutung.

1976 wurde Zemanek vom damaligen Computerriesen zum IBM-Fellow ernannt und hatte dadurch die Möglichkeit, seine Aufgaben völlig frei zu wählen. 1964 wurde Zemanek an der TU Wien zum außerordentlichen Professor ernannt, 1983 zum ordentlichen Professor berufen. Mitte der 80er Jahre trat Zemanek in den Ruhestand - allerdings nur formal. Seinen Enthusiasmus für Forschung und Lehre behielt er bis ins hohe Alter. Zemanek hinterlässt ein wissenschaftliches Werk aus rund 500 Aufsätzen und sieben Büchern, darunter etwa "Weltmacht Computer" (1991) oder "Vom Mailüfterl zum Internet" (2001).

So begann Zemaneks Karriere: Nach seiner Matura im Juni 1937 studierte Zemanek an der TU Wien Nachrichtentechnik. Ab 1943 arbeitete Zemanek an seiner Diplomarbeit zum Thema „Über die Erzeugung von kurzen Impulsen aus einer Sinusschwingung“. Im Dezember 1944 graduierte er zum Diplom-Ingenieur, 1951 folgte die Promotion, 1958 die Habilitation.