39-ročný Kováčik je odchovancom Topoľčian, kde už hrával vlani. Najkrajšiu pasáž kariéry prežil v Kométe Brno. S klubom sa raz tešil zo zisku majstrovského titulu, na ktorý čakali dlhých 51 rokov.

Následne sa po rokoch vrátil do Nitry, ale po krátkej anabáze zamieril do Zvolena, kde dohral ročník 2017/18. Jozef Kováčik vlastní aj jeden slovenský titul, ktorý dosiahol so Slovanom Bratislava v roku 2008.