Köyün güneyinde karşı karşıya bulunan iki sarp kayanın ortasından su geçmekte olup, bu kayaların bulunduğu bölgeye de kapuz denilmiştir. Köy de bu kapuzun bulunduğu yere göre daha yükseğe kurulduğu için Kapuzbaşı (kapuzun üstü) adıyla anılmıştır.
2015 yılında ”Yahyalı ~ Yahyalı’ya dair ne varsa” sloganıyla internet yayınına başladı. Yahyalı’da medyanın en önemli sitelerinden biri olmayı hedefliyor.