Senasib dengan Felix Magath di Bayern München, Jupp Heynckes mengalami masa sulit di Borussia Mönchengladbach. Heynckes tak bisa menang selama 14 pertandingan beruntun di Liga Jerman.
Mönchengladbach sulit untuk keluar dari zone degradasi. Heynckes menyerah dan tak sanggup lagi menolong klub lamanya pada kesempatan kedua dia menjabat pelatih Gladbach setelah 1979-1987.
Pada kurun kedua pengabdiannya, Heynckes tiba pada May 2006. Mantan striker nasional Jerman menjadi tumpuan harapan untuk memberi kegemilangan Gladbach seperti saat dia masih main.
Namun pemain bernama asli Jozef Heynckes menjalani masa buruk. Pengganti bagi pria yang juga mantan pelatih Bayern München ialah pelatih asal Belanda berdarah Maluku, Jos Luhukay.