A G-Unit começou quando os amigos de infancia 50 Cent, Lloyd Banks e Tony Yayo decidiram formar um grupo. O grupo lançou varias mixtapes que fizeram sucesso nas ruas de Nova Iorque.
Eles conheceram Young Buck quando o grupo Cash Money visitou Nova Iorque e 50 Cent ouviu Young Buck cantando. Depois de terem chamado atençao com suas mixtapes, 50 Cent assinou contrato com a Aftermath, mais antes do grupo gravar seu primeiro album, Tony Yayo foi preso por porte ilegal de arma.
Durante a pena de Tony Yayo, 50 Cent colocou Young Buck no grupo. Com o sucesso de seu primeiro album "Get Rich or Die Tryin", 50 Cent abriu sua propria gravadora "G-Unit Records", e a G-Unit lançou seu primeiro album "Beg for Mercy".