علی کریمی فوتبال خود را از تیم نوجوانان باشگاه فوتبال نفت تهران آغاز کرد، جایی که برادر بزرگترش فرشید، یک سال پیش از ورود او در آن بازی میکرد. وی سپس به نوجوانان باشگاه سایپا پیوست و در رده جوانان این باشگاه نیز بازی کرد. کریمی پس از آن به فتح تهران منتقل شد.
ستاره سابق پرسپولیس در اینستاگرام خود عکسی از دوران حضور در تیم جوانان سایپا را منتشر کرده که نشان می دهد آن زمان هم شماره ۸ را می پوشیده است.