אביו: ר' משולם יחיא.
אמו: מרת רזאל [ג'זאל].
אשתו: הרבנית לאה (בזיווג ראשון), הרבנית אילה (בזיווג שני).
בניו: מזיווג שני - יוחאי ור' עמנואל.
בנותיו: מזיווג שני - גאולה (מלכיאל), הדסה (כהן) והרבנית טובה (בעלה ר' נתן שרעבי).
אחיו: ר' אהרן ור' סעדיה.
אחותו: מרים.
סבא: ר' שלום שרעבי (מצד אמו).

נולד בחודש שבט ה'תרנ"ח בכפר רועאש (תימן).
באביב ה'תרע"ב עלה עם משפחתו לארץ ישראל והתגורר בגדרה. משפחתו הוגלתה ע"י הטורקים למנחמיה, ניסתה להשתקע בטבריה אולם בהעדר מנין מתפללים כמנהג תימן עברה לשכונת 'שעריים' ברחובות, הקימה צריף למגורים ובאגפו בית כנסת.
הסתופף בבית הכנסת ושקד על לימוד ספרי הרמב"ם, גמרא וסתרי הזוהר, לאחר שלמד הלכות שחיטה הוסמך לשו"ב [שוחט ובודק] אולם לא עסק בכך. למד מילה וערך כ – 30,000 בריתות!
ייסד את המקוה הראשון ברחובות וטרם הלימוד או התפילה נהג לטבול במקוה.
לאחר שקיבל את הסכמת זוגתו (לאה) בשנת ה'תרצ"ד נשא לאישה שנייה את אילה.
במסגרת העלייה השלישית מתימן קלט עולים בביתו ואפשר למשפחות להקים צריפים על מגרשו. עסק בגמילות חסדים, התעניין במצב הפרנסה והבריאות של כל יחיד והגיע לבתי רפואה לבקר חולים. בסבר פנים יפות קיבל בביתו עד שעות הלילה המאוחרות את הפונים אליו בכל עניין והתבטא 'בעזרת א-לוקים פתרונים'. גרס כי 'למוכיחים ינעם' על כן הוכיח את הזולת בדרכי נועם ונזהר לא לפגוע.
דגל ברעיון 'אהוב את המלאכה ושנא את הרבנות' אולם לאחר פטירת ר' מאיר צדוק מזרחי בשנת ה'תשי"ז נענה לבקשת בני עדתו ואישי תורה והחל לכהן כרב ראשי לעדת תימן ברחובות וסגן נשיא איגוד רבני יהודי תימן בישראל. משניטלה ממנו דאגת הפרנסה הוסיף בלימוד התורה, קיום המצוות ובעול צרכי ציבור.
טרם פטירתו הקדיש חלקת שדה שהייתה בבעלותו ואשר צורפה לשטח בית החיים במרמורק. בנר שישי של חנוכה ה'תש"ל השיב את נשמתו ליוצרה ואחרי מיטתו הלך המון רב תוך אמירת פרקי תהילים ותקיעות שופר.
על שמו הוקם בית ספר ממלכתי דתי 'מעלות משולם' ברחובות.