New York, 1912. Een vrouw sterft na de geboorte van een kind. De jongen, Francis Kane genaamd, wordt als wees geboren in een katholieke gemeenschap. In 1928 raakt Francis bevriend met Martin Cabell en wordt verliefd op de zus van Martin Cabell, Julie, die zangeres wil worden. Hij ontdekt ook dat hij joods is – nogal een schok voor hem – en gaat werken voor een lokale gangster, 'Silk' Fennelli, maar besluit te vluchten na een vuurgevecht. Zeven moeilijke jaren later keert Francis terug naar New York, maar hij is niet meer dezelfde. Hij gaat weer aan het werk voor Fennelli, die nu Julie's beschermer en minnaar is, maar Francis gebruikt zijn talent en ambitie om snel op te klimmen in de New Yorkse misdaadwereld.