प्राचीनकाल में कालियादेह महल जो आज सूर्य मंदिर के नाम से जाना जाता है, भैरवगढ़ से 3‍ किमी की दूरी पर शिप्रा नदी के पास स्थित है। मुगल शासक मुहम्मद खिलजी ने 1458 में इस महल का निर्माण करवाया था। मांडू के सुल्तान ने यहां 52 कुंडों का निर्माण करवाया।
> महल के पीछे से बहती शिप्रा नदी की धारा दो भागों में बंटकर उसका जल प्रवाह इन कुंडों में किया गया। आज भी वर्षा ऋतु में कल-कल की ध्वनि से इन कुंडों से व कुंडों की घुमावदार नालियों से बहता पानी पर्यटकों को सहज ही अपनी ओर आकर्षित करता है।