יעקב קרקו גדל במחלקת הנוער של מכבי ת"א ושיחק גם בנבחרות הנערים והנוער. ב-1972 הושאל למכבי הרצליה, ובקיץ 1973 עבר להכח ר"ג, שזכתה באליפות עונה קודם לכן. הוא שיחק במדי הרמת גנים שלוש שנים, ובעונת 1976/77 עבר להפועל פ"ת, שירדה זה עתה לליגה השנייה בפעם הראשונה בתולדותיה.
הוא שיחק בעונה זו בחמישה משחקים בלבד, ובעונת 1977/78 לא שיחק כלל. בעונת 1978/79 חזר לשחק ובהופעתו השנייה, במחזור ה-5 מול הפועל ר"ג, הורחק חמש דקות לאחר שנכנס כמחליף עקב חילופי דברים עם השופט.
קרקו חזר לשחק רק כחודשיים וחצי לאחר מכן, במחזור ה-16, ואז הדברים סוף סוף התחברו והקבוצה איתו בהרכב רשמה רצף של 12 משחקי ליגה ללא הפסד והבטיחה את העלייה בחזרה לליגה הלאומית (אז הליגה הראשונה). קרקו אף כבש שער בכורה בקבוצה, בניצחון 2:5 על מכבי חיפה.
בעונת 1979/80 כבש קרקו שער נוסף במחזור השני, בדרך לשיוויון 2:2 דרמטי מול בית"ר ירושלים, ושיחק ב-24 מתוך 30 משחקי הליגה. בעונת 1980/81 כבר שיחק הרבה פחות, עם עשר הופעות ליגה בלבד.
בהמשך שיחק גם בהפועל בת ים, צפרירים חולון והפועל קרית אונו.
