Le G Unit a gagné sa reconnaissance sur la scène underground de New York City en produisant et distribuant des mixtapes, par leurs propres moyens dans un premier temps, puis grâce à DJ Whoo Kid qui est maintenant le DJ officiel du G Unit. Le G Unit est aussi apparu sur plusieurs autres mixtapes de DJ Kay Slay ou DJ Clue par exemple, afin d’assurer leur promotion.

En novembre 2003, leur premier album est sorti dans les bacs : Beg For Mercy, enregistré par Polydor. L'album contient des chansons telles que « Poppin' Them Thangs », « My Buddy », « Stunt 101 », « Wanna Get To Know You », « Smile » et « I Smell Pussy » et se vend à plus de 4 millions d'exemplaires aux U.S.

En 2005, le groupe revient avec Return Of Ghetto Millionaire (Mixtape), puis en 2006 G Unit Records et Statik Selektah livrent la mixtape The Empire Strikes Back, édité chez Traffic Signs avec des artistes comme Termanology, D.C et Granite State...

L'album Terminate On Sight (T.O.S) sort dans les bacs le 1er juillet 2008. Ne profitant plus du buzz conséquent de leurs débuts, le succès n'est pas au rendez-vous, l'album s'écoule seulement à 100 000 exemplaires dès la première semaine. De plus il a été très critiqué puisqu'il est nettement inférieur au premier opus.