רוני ג'רבי גדל במחלקת הנוער של הפועל פ"ת וערך הופעה ראשונה במדי הבוגרים עוד לפני שמלאו לו 17, כשנכנס כמחליף במשחק מול הפועל ב"ש ב-1982 במקום השוער הראשון אבי ששון, שספג זעזוע מוח בהתנגשות עם איתן בודניוק.
בעונה הבאה רשם הופעה בודדת בהרכב, בגביע מול הפועל בית-שאן, בעקבות פציעה של יהודה פילוסוף ונסיעה של גיא לוי לקוסטה-ריקה עם נבחרת הנוער, ועונה לאחר מכן עלה בהרכב פעמיים נוספות.
בעונת 1984/85, בגיל 19, הגיעה הפריצה שלו. אחרי פתיחת עונה חלשה נשלח גיא לוי לספסל, וג'רבי נכנס לשער במקומו במחזור השישי. בארבעת משחקיו הראשונים שמר על רשת נקייה, וקיבע את מעמדו כשוער הראשון.
ג'רבי עמד בשער גם לאורך שלוש העונות הבאות, כשהוא לא מפספס אף משחק בעונות אלו, כולל משחקי גביע וגביע הטוטו. ליתר דיוק, הוא פיספס בעונות אלו 17 דקות בדיוק - מול הפועל ב"ש ב-1986 כשהוחלף ע"י נמרוד אברהם בדקה ה-81, ומול בני יהודה בגביע הטוטו ב-1988, כשהוחלף ע"י שחר ילין בדקה ה-82.
היכולת של ג'רבי בשער ידעה עליות ומורדות, כשלצד משחקים טובים נרשמו גם שערים באשמתו. בעונת 1987/88 סבל בחלק מהזמן מפציעה ויכולתו הידרדרה, ועם סיומה הושאל להפועל י-ם.
אחרי הפועל י-ם עבר להפועל ר"ג ב-1991, שם שיחק עונה, וב-1992 עבר לשמשון ת"א ושיחק בשורותיה שנתיים.
