पुराणों के अनुसार नंदी असल में शिलाद ऋषि के पुत्र थे और शिलाद ऋषि थे ब्रह्मचारी। दरअसल, हुआ यूं कि ब्रह्मचारी व्रत का पालन करते-करते शिलाद ऋषि के मन एक भय बैठ गया। भय था कि बिना संतान उनकी मृत्यु के बाद उनका वंश समाप्त हो जाएगा। इसलिए, उन्होंने अपने वंश को आगे बढ़ाने के लिए एक बच्चा गोद लेने का मन बनाया। मन तो ऋषि शिलाद ने बना लिया, लेकिन दुविधा यह थी कि ऋषि ऐसे बालक को गोद लेना चाहते थे, जिस पर भगवान शिव की असीम कृपा हो।
अब ऐसा बालक ढूंढने से भी मिलना मुश्किल था तो ऋषि भगवान की घोर तपस्या में लीन हो गए। लंबे समय तक तप करने के बाद भी उन्हें इसका कोई भी फल प्राप्त नहीं हुआ। ऐसे में ऋषि शिलाद ने अपनी तपस्या को और भी कठोर कर दिया। काफी समय के कठोर तप के बाद आखिर भगवान शिव प्रसन्न हुए और उन्होंने ऋषि शिलाद को दर्शन दिए।
भगवान शिव ने शिलाद ऋषि से कहा, “मांगो, क्या वर मांगना चाहते हो।” ऋषि शिलाद ने अपनी कामना भगवान शिव से जाहिर की। भगवान शिव ने शिलाद को पुत्र का आशीर्वाद दिया और वहां से चले गए।
अगले ही दिन जब ऋषि शिलाद पास के खेतों से गुजर रहे थे तो उन्हें वहां एक नवजात बच्चा मिला। बच्चे का मुख बेहद ही मनमोहक और लुभावना था। ऋषि बच्चे को देख बहुत खुश हुए और यह सोचकर इधर-उधर देखने लगे कि इतने प्यारे बच्चे को इस हाल में यहां छोड़कर कौन चला गया। तभी भगवान शिव की आवाज आई और उन्होंने कहा शिलाद यही है, तुम्हारा पुत्र।
अब तो ऋषि शिलाद की प्रसन्नता का कोई ठिकाना ही नहीं था। वह उसे अपने साथ अपने घर ले आए और उसका लालन-पालन करने लगे। देखते देखते नंदी बड़ा हो गया। एक दिन ऋषि शिलाद के घर दो सन्यासी आए। ऋषि शिलाद की आज्ञा से नंदी ने दोनों सन्यासियों का खूब आदर सत्कार किया। उन्हें भोजन कराया।
ऋषि शिलाद के घर मिले इस सेवा भाव से दोनों सन्यासी अत्यधिक प्रसन्न हुए। उन्होंने ऋषि शिलाद को दीर्घ आयु का आशीर्वाद दिया, लेकिन नंदी जिसने उनकी इतनी मन से सेवा की थी उसके लिए एक शब्द भी नहीं कहा। सन्यासियों द्वारा ऐसा किए जाने पर ऋषि शिलाद को आश्चर्य हुआ। अपनी जिज्ञासा को शांत करने के लिए शिलाद ने सन्यासियों से ऐसा करने के पीछे की वजह पूछी।
तब सन्यासियों ने बताया कि आपके इस पुत्र की आयु बहुत कम है। इसलिए, हमने इसे कोई आशीर्वाद नहीं दिया। नंदी ने सन्यासियों की यह बात सुन ली।
नंदी ने अपने पिता से कहा, “आपने मुझे स्वयं भगवान शिव के आशीर्वाद से पाया है, तो मेरे इस जीवन की रक्षा भी भगवान शिव ही करेंगे। आप इस बात की बिलकुल भी चिंता न करो।”
इतना कहते हुए नंदी भगवान शिव की अराधना में लग जाता है। अपने पिता की तरह ही नंदी ने भी भगवान शिव को प्रसन्न करने के लिए कठोर तप किया। फलस्वरूप भगवान शिव प्रसन्न हुए और नंदी को बैल का मुख देकर अपना सबसे प्रिय और वाहक बनाया। इस प्रकार नंदी भगवान शिव के सबसे प्रिय वाहन बने और समाज में उन्हें पूजनीय स्थान भी मिला। यही वजह है कि भगवान शिव की आराधना से पूर्व उनके प्रिय नंदी की पूजा की जाती है।