Le 6 janvier 1971, arme à la main, il pénètre dans l’agence BNP de la rue de Bourgogne à Orléans. Mais le guichetier, Jean Morin, enclenche les alarmes. Paniqué, Thalmayer tire sur l’employé dans la mâchoire, puis il pend ses jambes à son cou et s’enfuit par une fenêtre donnant sur les jardins et s’évanouit dans la nature, non sans s’être débarrassé de son arme dans une poubelle. Rapidement, la police retrouve son véhicule encore chaud, une R16, dans laquelle les policiers trouvent des documents qui les conduisent directement à la planque de son ex-complice à Paris. Thalmayer, quant à lui, sera interpellé dès le lendemain.

Le 27 mai 1971, une confrontation est organisée entre les deux hommes dans le bureau du juge d’instruction. Bingo ! Thalmayer saisit une mitraillette, pièce à conviction, la donne à son complice et s’arme d’un coupe-papier présent sur le bureau et menace la greffière ! Dans ce chaos, Herzenbergeren en profite pour filer à l’Anglaise (il passera la nuit, caché dans le palais de justice !). Il sera plus tard arrêté par la police Allemande.

En janvier 1972, Thalmayer, lors de son procès au tribunal d’Orléans, et par le biais son avocat, fera tout pour minimiser son rôle en l’absence de son complice qualifié comme « cerveau » du duo. Thalmayer sauve sa tête demandée par l’avocat général.