המונים עולים החל מאמש לציונו של התנא שמעון הצדיק, משיירי כנסת הגדולה, לרגל יום פטירתו בכ"ט תשרי, בשנת ג'תמ"ח.
על פי המסורת, שמעון הצדיק קבור בשכונת שייח ג'ראח בירושלים. העדות הראשונה למקום הקבורה, נמסרה בשנת ד'תקצ"ה על ידי 'רבי יעקב השליח', שכתב: "וסמוך לירושלים - מערת שמעון הצדיק ותלמידו".
עד לשנת תרל"ו המתחם היה שייך לערבי תושב המקום, שהיה נוהג לגבות דמי כניסה ממי שרצה להיכנס ולהתפלל על הציון. נוהג זה בוטל, כשהגיע הראשון לציון הרב אברהם אשכנזי זצ"ל ורכש את השטח מבעליה הערבים.
במשך עשרות שנים נהגו יהודי ירושלים להגיע ולהתפלל במקום באופן קבוע, ובמשך תקופה ארוכה אף היו נערכים בחצר המערה חתונותיהם של אנשי ירושלים, שבחרו להינשא במקום הקדוש.
מנהג נוסף שקיים כבר שנים רבות, ושהחל בשנים בהן הנסיעה למירון היתה קשה מאוד, הוא עריכת 'חלאקה' ומעמד הדלקה ביום ל"ג בעומר.
יש הנוהגים להתפלל על קברו של שמעון הצדיק את התפילה הבאה, המיוחדת: "ריבונו של עולם אלוקי צבקות יושב הכרובים, הנה באתי כהיום להשתטח ולהתפלל על קבר שמעון הצדיק הכהן הגדול, אשר שירת לפניך באמת ובתמים, ולכן אפיל תחינתי לפניך, כי כשם ששמעת את תפילת שמעון הצדיק אשר התפלל על עמך ישראל לפני ולפנים בבית קודש הקדשים, כן תאזין ותקשיב ברחמיך הרבים גם את תפילתי ואת תחינתי אשר הנני מתפלל פה על קברו...".