पुराणों में कहा गया है शिलाद नाम के ऋषि थे. जिन्होंने लम्बे समय तक शिव की तपस्या की थी. जिसके बाद भगवान शिव ने उनकी तपस्या से खुश होकर शिलाद को नंदी के रूप में पुत्र दिया था. शिलाद ऋषि एक आश्रम में रहते थे. उनका पुत्र भी उन्हीं के आश्रम में ज्ञान प्राप्त करता था. एक समय की बात है शिलाद ऋषि के आश्रम में मित्र और वरुण नामक दो संत आए थे. जिनकी सेवा का जिम्मा शिलाद ऋषि ने अपने पुत्र नंदी को सौंपा. नंदी ने पूरी श्रद्धा से दोनों संतों की सेवा की. संत जब आश्रम से जाने लगे तो उन्होंने शिलाद ऋषि को दीर्घायु होने का आर्शिवाद दिया पर नंदी को नहीं इस बात से शिलाद ऋषि परेशान हो गए. अपनी परेशानी को उन्होंने संतों के आगे रखने की सोची और संतों से बात का कारण पूछा.
तब संत पहले तो सोच में पड़ गए. पर थोड़ी देर बाद उन्होंने कहा, नंदी अल्पायु है. यह सुनकर मानों शिलाद ऋषि के पैरों तले जमीन खिसक गई. शिलाद ऋषि काफी परेशान रहने लगे. एक दिन पिता की चिंता को देखते हुए नंदी ने उनसे पूछा, ‘क्या बात है, आप इतना परेशान क्यों हैं पिताजी’. शिलाद ऋषि ने कहा संतों ने कहा है कि तुम अल्पायु हो. इसीलिए मेरा मन बहुत चिंतित है. नंदी ने जब पिता की परेशानी का कारण सुना तो वह बहुत जोर से हंसने लगा. और बोला, ‘भगवान शिव ने मुझे आपको दिया है. ऐसे में मेरी रक्षा करना भी उनकी ही जिम्मेदारी है, इसलिए आप परेशान न हों.’
नंदी पिता को शांत करके भुवन नदी के किनारे भगवान शिव की तपस्या करने लगे. दिनरात तप करने के बाद नंदी को भगवान शिव ने दर्शन दिए. शिवजी ने कहा, ‘क्या इच्छा है तुम्हारी वत्स’. नंदी ने कहा, मैं ताउम्र सिर्फ आपके सानिध्य में ही रहना चाहता हूं. नंदी से खुश होकर शिवजी ने नंदी को गले लगा लिया. शिवजी ने नंदी को बैल का चेहरा दिया और उन्हें अपने वाहन, अपना मित्र, अपने गणों में सबसे उत्तम रूप में स्वीकार कर लिया. इसके बाद ही शिवजी के मंदिर के बाद से नंदी के बैल रूप को स्थापित किया जाने लगा.