1917년, 뉴욕의 빈민가. 10대들이 패싸움을 벌이는 장면으로부터 영화는 시작된다. 이들 네 명의 청년 중 찰리 루치아노(Charlie "Lucky" Luciano: 크리스찬 슬레이터 분)와 프랭크 코스텔로(Frank Costello: 코스타 맨딜러 분)는 이태리계 이민이고, 마이어 랜스키(Meyer Lansky: 패트릭 뎀프시 분)와 벅시 시걸(Bugsy Siegel: 리차드 그리코 분)은 유태계 이민이다. 그 중 찰리는 뉴욕을 장악하려는 두 보스 사이에 끼여 모욕을 당하는 아버지의 모습을 보고 꼭 성공하리라 다짐한다. 의기투합한 이들 네명은 서로 다른 혈통과 문화를 외면한 채 아메리칸 드림을 이루기 위해 갱단을 조직하고 점차 활동력을 키워간다. 때 마침 미국에는 금주령이 내려있던 시기였고, 이들은 위스키를 밀수입하여 밀매 사업에 착수하면서 성공을 거둔다. 이러한 성과로 그들에게 뉴욕을 장악하려는 두보스 패런자노(Don Salvatore Maranzano: 마이클 갬본 분)와 마세리아(Don Giuseppe "Joe the Boss" Masseria: 안소니 퀸 분)의 손길이 뻗친다. 그러나 이들은 두 거물 중 누구를 택하든 실컷 이용만 당한뒤 제거될 것임을 알고 한판 승부를 벌이려 계획을 세운다. 네 명 중 리더인 찰리의 애인이 패런자노의 음모에 의해 찰리 대신 살해되자 찰리는 마침내 두 거물을 모두 처치하고 아버지의 원수를 갚는다. 그는 이후 암흑 세계의 전통인 남을 해치고 왕좌에 오르는 오랜 악습을 없애고 각 보스에게 동등한 지휘권을 주어 민주적인 방법으로 최고의 자리에 오르게 하는 투표방식을 채택하여 미갱단 역사상 처음으로 만장일치에 의한 갱단이 사회장으로 탄생하게 된다. "당신이 하시오. 시저(Ceasar)는 투표따윈 안했소." 보스들 중 마지막 한 사람이 기권을 하면서 시저 이야기로 은근히 자신의 힘을 표출하자, 리더인 '럭키' 루치아노는 대답한다. "그래서 그는 거리에서 비명횡사했소" 마지막 멋진 비유로 그를 꺽은 루치아노가 만장일치로 보스의 자리에 오르면서 영화는 끝을 맺는데...