جروم توماس پیش از پیوستن به آرسنال، فوتبال رده دانش‌آموزی را در لوتون تاون بازی می‌کرد. او به تیم جوانان آرسنال کمک کرد تا دو بار فاتح جام حذفی جوانان انگلستان شود. این پیروزی‌ها در سال ۲۰۰۰ مقابل کاونتری و در سال ۲۰۰۱ به دست آمدند، جایی که او در فینال مقابل بلکبرن گلزنی کرد.
او در فصل‌های ۲۰۰۱/۰۲ و ۲۰۰۲/۰۳ به صورت قرضی به تیم دسته دومی کوئینز پارک رنجرز منتقل شد. با حضور فردی لیونبرگ و روبر پیرس در اوج دوران آمادگی‌شان، او برای راهیابی به ترکیب اصلی در هایبری با دشواری مواجه شد و توماس در فصل ۲۰۰۳/۰۴ تنها سه بار به میدان رفت که همگی در لیگ کاپ بود.
پس از آنکه آرسن ونگر در ژانویه ۲۰۰۴ با خوزه انتونیو ریس قرارداد بست، توماس پیشنهاد قرارداد یک‌ساله جدید با توپچی‌ها را رد کرد و تصمیم گرفت به دنبال فرصت بازی در ترکیب اصلی در جای دیگری باشد.