אמר לו: "כך עלתה במחשבה וכך מנהגו של עולם, דור דור ודורשיו, דור דור ופרנסיו, דור דור ומנהיגיו, עד עכשיו היה חלקך לשרת לפני, ועכשיו נטלת אתה חלקך והגיע שעה של יהושע תלמידך לשרת".
אמר לו: "רבונו של עולם, אם מפני יהושע תלמידי אני מת, אלך ואהיה לו תלמיד".
אמר לו הקב"ה: "אם אתה רוצה לעשות כך, לך עשה".
עמד והשכים, והיה יהושע יושב ודורש, ועמד משה וכפף קומתו, והניח ידו על פיו, ונתעלמו עיניו של יהושע ולא ראה אותו כדי שלא יצטער וישלים עצמו אליו. והלכו ישראל אצל פתחו של משה ללמוד תורה.
שאלו ואמרו: "משה רבינו, היכן הוא"?
אמרו להם: "השכים לפתחו של יהושע".
הלכו ומצאוהו בפתחו של יהושע, והיה יהושע יושב ודורש, ומשה עומד ברגליו.
אמרו לו ליהושע: "מה עלתה השעה הזו, שמשה עומד ואתה יושב"?
כיון שתלה עיניו וראהו, מיד קרע את בגדיו וצעק ובכה.
אמר: "רבי, רבי, אדוני, אבי, למה אתה מחייבני ומענישני"?
אמרו ישראל למשה: "משה רבינו, למדנו תורה".
אמר להם: "אין לי רשות".
אמרו לו: "אין אנו מניחין אותך".
יצאת בת קול ואמרה להם: למדו מיהושע.
קבלו עליהם לישב וללמוד מיהושע. ישב יהושע בראש ומשה מימינו ובני אהרן משמאלו, והיה יושב ודורש בפני משה. אמר רבי שמואל בר נחמני אמר רבי יונתן בשעה שאמר יהושע "ברוך שבחר בצדיקים", נטלו מסורות החכמה ממשה ונתנו ליהושע, ולא היה יודע משה מה היה יהושע דורש.
אחר שעמדו ישראל מהישיבה אמרו לו: "משה, סתום לנו את התורה".
אמר להם: "איני יודע מה להשיב לכם".
והיה משה רבינו, עליו השלום, נכשל ונופל.
באותה שעה אמר משה: "רבונו של עולם, עד עכשיו בקשתי חיים, עכשיו הרי נפשי מסורה בידיך".
(דברים רבה, פרשת ואתחנן)