भगवान शिव के किसी भी मंदिर में शिवलिंग के आसपास एक नंदी बैल जरूर होता है क्योंो नंदी के बिना शिवलिंग को अधूरा माना जाता है। इस बारे में पुराणों की एक कथा में कहा गया है शिलाद नाम के ऋषि थे जिन्होंशने लम्बेी समय तक शिव की तपस्या की थी। जिसके बाद भगवान शिव ने उनकी तपस्यात से खुश होकर शिलाद को नंदी के रूप में पुत्र दिया था।
शिलाद ऋषि एक आश्रम में रहते थे। उनका पुत्र भी उन्हींा के आश्रम में ज्ञान प्राप्ति करता था। एक समय की बात है शिलाद ऋषि के आश्रम में मित्र और वरुण नामक दो संत आए थे। जिनकी सेवा का जिम्माक शिलाद ऋषि ने अपने पुत्र नंदी को सौंपा। नंदी ने पूरी श्रद्धा से दोनों संतों की सेवा की। संत जब आश्रम से जाने लगे तो उन्होंाने शिलाद ऋषि को दीर्घायु होने का आर्शिवाद दिया पर नंदी को नहीं।
इस बात से शिलाद ऋषि परेशान हो गए। अपनी परेशानी को उन्होंिने संतों के आगे रखने की सोची और संतों से बात का कारण पूछा। तब संत पहले तो सोच में पड़ गए। पर थोड़ी देर बाद उन्होंेने कहा, नंदी अल्पायु है। यह सुनकर मानों शिलाद ऋषि के पैरों तले जमीन खिसक गई। शिलाद ऋषि काफी परेशान रहने लगे।
एक दिन पिता की चिंता को देखते हुए नंदी ने उनसे पूछा, ‘क्या बात है, आप इतना परेशान क्योंर हैं पिताजी।’ शिलाद ऋषि ने कहा संतों ने कहा है कि तुम अल्पायु हो। इसीलिए मेरा मन बहुत चिंतित है। नंदी ने जब पिता की परेशानी का कारण सुना तो वह बहुत जोर से हंसने लगा और बोला, ‘भगवान शिव ने मुझे आपको दिया है। ऐसे में मेरी रक्षा करना भी उनकी ही जिम्मेझदारी है, इसलिए आप परेशान न हों।’
नंदी पिता को शांत करके भगवान शिव की तपस्या करने लगे। दिनरात तप करने के बाद नंदी को भगवान शिव ने दर्शन दिए। शिवजी ने कहा, ‘क्या  इच्छा् है तुम्हातरी वत्स’. नंदी ने कहा, मैं ताउम्र सिर्फ आपके सानिध्य में ही रहना चाहता हूं।नंदी से खुश होकर शिवजी ने नंदी को गले लगा लिया। शिवजी ने नंदी को बैल का चेहरा दिया और उन्हें अपने वाहन, अपना मित्र, अपने गणों में सबसे उत्ताम रूप में स्वीकार कर लिया।इसके बाद ही शिवजी के मंदिर के बाद से नंदी के बैल रूप को स्था पित किया जाने लगा।