在那之后赫尔曼从军队退役，但他依然留在安全部门进行一些文职工作。然而，随着战争的结束，他发现自己对这份工作再也没有了热情，所以他又干了两年就开始考虑彻底从这一行里退出。
事情一开始是顺利的，他递交的申请没费什么力气就被组织批准了。这或许是由于那个时候他供职的部门正在进行改组，很多新人被吸收进来，在赫尔曼看来这些年轻人都是极优秀的人，事实证明他的这一看法是较有远见的，因为后来这批特工中的绝大部分成为了克格勃的精英。
但像赫尔曼这样的人想要真正的退出来并不是那么容易，事实上当这个前特工真正从卢比扬卡11号走出来之前，他就意识到这次看似顺利的隐退其实根本只不过是个陷阱。战争结束之后整个情况就发生了变化，冷战的铁幕正在欧洲升起，斗争双方都在卯足劲向对方进行渗透、反渗透、策反、反策反。像他们这些掌握过国家机密并且熟稔其全部行动规则的人，离开就等于死亡。
但赫尔曼已经打定主意要走，这绝不是一个突如其来的念头，这是他经过充分而周密的考虑后做出的决定。一旦他作出决定，那就再没有什么能阻挡得了他。得益于之前在维也纳进行卧底工作，