Pelatih berkebangsaan Jerman itu mengawali karier pelatih di klub yang pernah dibelanya di Bundesliga, yakni Mainz 05 selama tujuh tahun dari 2001 hingga 2008. Setelah itu barulah namanya semakin dikenal sejak dirinya pindah untuk melatih Borussia Dortmund mulai 2008 sampai sekarang.
Bersama Dortmund, namanya dikenal karena pernah berhasil membawa Dortmund juara Bundesliga dua kali, yakni pada musim 2010-2011 dan 2011-2012, sekaligus mematahkan dominasi yang selalu dipegang Bayern Muenchen pada dekade ini. Klopp juga sukses membawa Dortmund ke final Liga Champions musim 2012-2013 sebelum dikalahkan Bayern Muenchen.
Prestasi bersama Dortmund juga membawanya mendapat penghargaan individu sebagai pelatih terbaik pada tahun yang sama. Selain itu, Klopp juga pernah membawa Die Borussen menjadi juara DFB Pokal pada 2011-2012 serta Piala Super Jerman pada 2008 dan 2013.
Keberhasilan itu tampaknya tidak membuat Klopp puas. Meski hampir 13 tahun melatih di Jerman, pelatih 47 tahun itu siap mencari pekerjaan baru di luar negeri. Alasannya, selain karena ingin mencari tantangan baru, Klopp mengaku bahwa anak-anaknya kini sudah besar dan bisa ditinggal.
"Saya rasa Inggris merupakan satu-satunya tempat saya bekerja berikutnya. Bersama Dortmund saya sudah enam tahun, saya tidak tahu kapan akan selesai dan saya belum memikirkan itu, tapi jika ada yang menelepon saya (dari Inggris), maka saya siap bicarakan itu," tutur Klopp seperti dirilis situs Purelyfootball.
"Saya sangat tertarik mencari pengalaman hidup, itu penting untuk saya bertahan. Anak-anak saya sudah cukup dewasa untuk tinggal sendirian, itu bukan masalah, kita lihat saja perkembangannya nanti," sambung Klopp.