רבי מרדכי נולד בשנת תרצ"ד לערך בפטרסון, ניו ג'רזי, שם כיהן אביו כרב. בבחרותו למד אצל הגאון רבי יצחק הוטנר במתיבתא רבי חיים ברלין, לאחר מכן עלה לארץ ישראל ללמוד בישיבת סלבודקא, וזמן קצר למד אף בישיבת מיר. בהגיעו לפרקו, בשנת תשט"ז, נשא לאשה את בתו של הגאון רבי חיים דב זוכובסקי.
במשך כיובל שנים כיהן בישיבת סלבודקא, מסר שיעורים תמידים כסדרם, והעמיד תלמידים לאלפים.
מלבד למדנותו, נתפרסם גם בצדקותו, בתפילתו המתרפקת, ובמדותיו הנאצלות.
בשנים האחרונות חלה ונחלש, ואך לפעמים נדירות הגיע לישיבה.
הערב, תצא הלווייתו מן הישיבה בגבעת רוקח בבני ברק, אל בית החיים פוניבז' בבני ברק.
וזה סדר יחוסו:
- אביו, הגאון רבי בצלאל כהן [שקוביצקי], רב לאגודת הקהילות בעיר פטרסון, ניו ג'רזי, ובעהמ"ח משכן בצלאל על הרמב"ם. בצעירותו למד בישיבת כנסת ישראל בסלבודקא, ועלה עם הישיבה לעיר חברון. לאחר מספר שנים בהם כיהן באמריקה, עלה שוב לארץ ישראל, וקבע דירתו בירושלים, עד לפטירתו ביום ב' כסלו תשכ"ח. היה יו"ר בפועל של המרכז העולמי של המזרחי והפועל המזרחי בירושלים השלימה. זוגתו מרת חוה לבית פינס.
- אביו הגאון רבי בנימין כהן שקוביצקי, המגיד המפורסם ממינסק, נולד בעיר איישישוק בשנת תרל"ד לערך, כיהן כמגיד בעיר מינסק במשך כארבעים שנה, ונודע בדרשותיו המופלאות, לעתים הזמינוהו לדרוש אף בערים אחרות. תחת השלטון הקומוניסטי סבל רבות, ואף נכלא והוגלה, בקיץ שנת תרצ"ד עלה לארץ ישראל, את מקום מגוריו קבע בעיר תל אביב,