בי"א בסיוון תש"ד נרצח הרב שלמה זלמן אהרנרייך הי"ד, אב"ד שימלוי, בידי הנאצים ימ"ש. הרב אהרנרייך היה שופך דמעותיו כמים בכל תפלותיו, בהזכירו את ציון וירושלים, ואף זכה לחונן עפרה פעמיים (בתר"צ ובתרצ"ה).
בספרו 'אבני המקום' (אבן שתיה אות קכב), הסביר כי בתוך תאור החורבן שבמגילת איכה הכניס הנביא ירמיה דברי נחמה לחזק בנו את הוודאות בנצחיותה של ירושלים. 'היתה כאלמנה' אומר הנביא, ירושלים דומה לאשה אלמנה שלעולם קשורה עם בעלה הראשון. כך – הסביר הרב אהרנרייך – בחורבן המקדש השאיר ה' רושם מקדושת השכינה בירושלים בכותל המערבי, ומשום כך לעולם לא תזוז השכינה מירושלים, ועם ישראל נשאר קשור לנצח עם הקודש והמקדש.
מסופר כי מיד בהגיעו לחוף הארץ השתטח מלוא קומתו על הארץ ונשק את עפר הקודש תוך בכיות נוראות על חורבן הקודש והמקדש. אחר כך שם פעמיו לעלות לירושלים, ועוד ביום הראשון בה הלך לראות ולהראות ליד הכותל המערבי שריד בית מקדשנו ותפארתנו, לאחר שטהר גופו וטבל במקווה בכדי להעלות קדושה וטהרה על נפשו הטהורה, להכין עצמו למעמד נשגב וקדוש זה בהכנה רבה. "ומה נורא היה המחזה לראות את רבינו מופיע ברוב הדר גאונו ותפארתו, בליווי עם רב ליד המקום הקדוש, שהיה מתפלל כל יום מתי יזכה להיות שם. ואין לתאר על הכתב הופעתו זו הראשונה, בכיותיו ויללותיו על צער גלות השכינה עברו למעלה ראש, וחדרו ללבות קהל הנוכחים, וכל לב נמח וכל עין תדמע ממעמד זה. ומני אז פקד את המקום הקדוש תכופות פעמים אין ספור במשך זמן שהותו בארץ הקודש. כאשר הלך להתפלל בחג השבועות, יום מתן תורתנו, לפני הכותל המערבי להיות נוכח במקום אשר נצטוו אבותינו לעלות וליראות ביום זה – נתכבד להיות ש"ץ בתפלת מוסף, וכאשר הגיע לתפלת 'אתה בחרתנו מכל העמים', התפרצו מלבו קולות אימים וזעקה ונפל ארצה, ותוך בכיות עצומות וזעקות נוראות חזר על תיבות 'אתה בחרתנו' לאין שעור, ורק לאחר שהקימוהו מהארץ המשיך בתפלתו ששברה כל לב… וחשק מאוד לבקר פעם שלישית בארץ ישראל (באחרי ימיו), כדי שיוכל להיות נוכחַ ליד הכותל המערבי בזמן הקרבת הפסח, ואף הכין לו כבר כל צרכי הנסיעה, אך לאחר הפצרת בני ביתו ובני העיר שהתחננו אליו שיחוס על עצמו ועליהם ולא יסתכן בנסיעה בלב ים, באשר הוא כבר זקן שהגיע לגבורות, נעתר לבקשתם ובטל רצונו מפני רצונם" (הקדמה ל'אבן שלמה', תולדות רבנו מבן המחבר, עמ' לג).
למחרת חג שבועות תש"ד הועלו הרב וקהילתו לרכבת למחנה ההשמדה אושוויץ-בירקנאו, שם נספה בי"א בסיוון תש"ד עם עשרות מבני משפחתו.