אביו: אלישע.
בנו: ר' אליעזר.
סבא: ר' ישמעאל כהן גדול.
מוריו: ר' אליעזר, ר' יהושע בן חנניה ור' נחוניה בן הקנה.
מתלמידיו: ר' אלעזר, ר' חייא בר נחמני, ר' יאשיה, ר' יונתן, ר' מאיר.

נולד בירושלים ונמנה על דור שלישי לתנאים.
בילדותו נילקח בשבי ע"י הרומאים והוחזק בבית הסוהר ברומא (איטליה), כאשר הגיע ר' יהושע בן חנניה לרומא אמרו לו כי בבית האסורים יש תינוק 'יפה עיניים וטוב רואי וקווצותיו סדורות לו תלתלים' (תלמוד בבלי גיטין נ"ח/א'). ר' יהושע נעמד סמוך לבית הסוהר וקרא: "מי נתן למשיסה יעקב וישראל לבוזזים..." והילד מבית האסורים המשיך את הפסוק והשיב: "...הלא ה' זו חטאנו לו ולא אבו בדרכיו הלוך, ולא שמעו בתורתו" (ישעיה מ"ב/כ"ד). כאשר שמע זאת ר' יהושע הבין כי הילד עתיד להיות מגדולי ישראל והחליט לפדות אותו בכל מחיר. לאחר שפדה אותו בסכום גבוה החל ללמדו תורה.
התגורר בכפר עזיז שבדרום יהודה (משנה כלאים ו'/ד') והיה מגיע ליבנה לדון עם החכמים בענייני הלכה. ר' טרפון העיד כי חכם גדול הוא ובקי באגדות (תלמוד בבלי מועד קטן כ"ח/ב').
נודע ביופיו, נהג בכבוד ובנועם עם כל אדם "רבי ישמעאל אומר: הוי קל לראש, ונוח לתשחורת, והוי מקבל את כל האדם בשמחה" (אבות ג'/י"ב) ודן כל אדם לכף זכות "תנא דבי ר' ישמעאל: אם ראית תלמיד חכם שעבר עבירה בלילה, אל תהרהר אחריו ביום שמא עשה תשובה" (תלמוד בבלי ברכות י"ט/א'). אהב כל יהודי, כאשר הזכיר את בני ישראל היה אומר 'אני כפרתן' (משנה נגעים ב'/א') ושנא את הצדוקים והמינים.
היה בקי בשפה היוונית ולשאלת בן אחותו [אלעזר בן דמא] אם מותר לו ללמוד חוכמת יוון לאחר שלמד את כל התורה, השיב: "לא ימוש ספר התורה הזה מפיך והגית בו יומם ולילה" (יהושע א') והורה "דברי תורה לא יהו עליך חובה ואי אתה רשאי לפטור עצמך מהן" (תלמוד בבלי מנחות צ"ט/ב'), אך עם זאת סבר שפיתרון בעיות הפרנסה קודם ללימוד תורה שהיא המצווה הגדולה ביותר, יש לנהוג במנהג דרך ארץ לחרוש, לזרוע ולקצור. אביי אמר שהרבה עשו כרבי ישמעאל ועלתה בידן (תלמוד בבלי ברכות ל"ה/ב').
כאשר שני בניו מתו עליו בזה אחר זה וארבעה מהחכמים (ר' אלעזר בן עזריה, ר' טרפון, ר' יוסי הגלילי ור' עקיבא) הגיעו לנחמו, הצדיק עליו את הדין (תלמוד בבלי מועד קטן כ"ח/ב') וביטא את צערו וכאבו בסבל העם 'בנות ישראל נאות הן אלא שהעניות מנוולתן'.
"ר' ישמעאל אומר הרוצה שיתחכם יעסוק בדיני ממונות שאין לך מקצוע בתורה יותר מהן שהן כמעין נובע" (תלמוד בבלי ברכות ס"ג/ב'), לאחר שחבריו החכמים קבעו כי ביום השבת אדם "לא יקרא לאור הנר שמא יטה אמר ר' ישמעאל בן אלישע אני אקרא ולא אטה. פעם אחת קרא ובקש להטות אמר כמה גדולים דברי חכמים שהיו אומרים לא יקרא לאור הנר. רבי נתן אומר קרא והטה וכתב על פנקסו אני ישמעאל בן אלישע קריתי והטיתי נר בשבת לכשיבנה בית המקדש אביא חטאת שמנה" (תלמוד בבלי שבת י"ב/ב').
עם התגברות גזירות השלטון נדד עם הסנהדרין לאושא ולאחר שגזרו שכל הסומך וכל הנסמך יוצאו להורג עבר להתגורר בסמוך לגבול וייסד ישיבה גדולה. התפלפל עם ר' עקיבא בענייני הלכה, בבית מדרשו הושתת הלימוד על-פי פשוטו של מקרא והיגיון ולא על פלפולים המבוססים על אותיות יתרות או חסרות וכתבו את הפירוש על ספר שמות הנקרא 'מכילתא דרבי ישמעאל'. נטה אחר שיטתם של בית הלל, פרט והרחיב את 7 המידות ללימוד התורה שגיבש הלל הזקן וסידר את 13 המידות שהתורה נדרשת בהן.
לעת זקנתו נשא אישה ונולדה לו בת אולם זמן קצר לאחר מכן נפטר בגיל 70 לערך ובנות ישראל נשאו קינה "בנות ישראל על ר' ישמעאל בכינה" (משנה נדרים ט'/י').