Nel 1931, dopo la morte di Masseria e Maranzano, Lucky Luciano divenne il capo di quella che sarà la sua personale famiglia criminale. Vito Genovese divenne il suo vice e Costello divenne suo consigliori, una funzione importante all'interno della cosca mafiosa. Costello fu una figura di spicco nel mondo criminale, guadagnando ingenti somme di denaro diventando il responsabile del settore del gioco d'azzardo. Nel 1936 Lucky Luciano fu arrestato per sfruttamento e favoreggiamnto della prostituzione e codannato a scontare una pena detentiva di alemno trenta anni. All'inizio cercò di gestire la sua famiglia mafiosa direttamente dal carcere. In seguito promosse il suo vice Vito Genovese al ruolo di capo. Nel 1937 Vito Genovese fu sospettato di un omicidio e quindi fu costretto a ritornare in Italia e rifugiarsi a Napoli. A quel punto Luciano nominò Costello come nuovo capo della sua famiglia criminale.