באופן עקרוני, ההלכה אומרת שבית דין אחד לא אמור להתערב בפסק הדין של בית דין אחר. גישה זו מבוססת על ההנחה שבית הדין הראשון, ששמע את כל העדויות וטיעוני הצדדים, הוא בעל הסמכות לקבוע את הדין. עיקרון זה בא לידי ביטוי בגמרא בדף היומי תחת הביטוי "בית דין בתר בית דינא לא דייקי" (בבא בתרא קלח).
הרמב"ם מסביר את העיקרון הזה בכך שלכל בית דין ישנה "חזקה" — כלומר, הנחה — שלא יטעו.
התשב"ץ מוסיף שאין לבטל פסק דין של בית דין אחר אלא אם כן בית הדין הראשון מודה שטעה.
הרא"ש טוען כי אין זה ראוי מבחינה מוסרית לערער על פסק דין שניתן על ידי "אנשים גדולים ונכבדים", כלומר, דיינים בעלי סמכות וידע.
יחד עם זאת, ישנם מספר מקרים שבהם כן ניתן לערער על פסק דין:
המקרים בהם מותר לערער לפני לבית דין אחר
טעות בדבר משנה: אם בית הדין הראשון טעה בדינים המפורשים במשנה, בגמרא, בשולחן ערוך או בהלכה מוסכמת, ניתן לערער על פסק הדין. במקרה כזה, יש מצווה ליידע את הצדדים על הטעות.
בית דין הגדול: ניתן לערער לבית דין הגדול, שהוא בית הדין החשוב ביותר בדור. ישנן דעות שונות לגבי הגדרת "בית דין הגדול". לדעת הרמב"ם, בית דין הגדול הוא בית דין עם דיינים חכמים ומומחים. לדעת התוס', בית דין הגדול הוא בית הדין החשוב ביותר בדור, שבראשו עומד גדול הדור.
הסכמה מראש: אם הצדדים הסכימו מראש על אפשרות לערער, יש תוקף לערעור.
דיון שנעשה בכפייה: במקרים בהם בית הדין פסק בכפייה, כגון בענייני אישות, יש רשות לערער על פסק הדין.
במציאות של ימינו, קיימים בתי דין רבים שקיבלו על עצמם מערכת של בית דין לערעורים, שבוחנת את פסקי הדין בצורה מכבדת וראויה. בתי דין אלו בדרך כלל מקבלים את כל החומרים הרלוונטיים מהדיון בבית דין קמא, ושומעים את שני הצדדים לפני מתן החלטה.
ישנה מחלוקת האם קיים כיום מוסד של "בית הוועד". לדעת הרמב"ם, בית הוועד זהה לבית דין הגדול. לעומת זאת, לדעת הרמ"א, אין כיום דין של בית הוועד.