La derrota de Hitler le permitió regresar a Alemania y tras trabajar de periodista ingresó en los servicios de espionaje de la RDA, que empezó a dirigir en 1953. Wolf formó un equipo muy especial: los ‘romeos’. Su trabajo consistía en seducir a secretarias solteras que trabajaban en centros de poder de los gobiernos occidentales.

Uno de sus hombres logró incluso ser durante cuatro años (1970-1974) secretario personal del canciller de la Alemania Federal, Willy Brandt. Wolf, más conocido como el espía sin rostro, ya que hasta 1978 los servicios de inteligencia de Occidente no consiguieron una foto suya, se jubiló en 1986.

Empezó entonces a escribir libros (el más conocido, El hombre sin rostro), aunque aún tuvo tiempo de apoyar la perestroika de Gorbachov y contribuir a la caída del muro de Berlín.