1819년, 미국 뉴욕에서 부유한 무역상 집안의 8남매 중 셋째로 태어나 유복한 유년 시절을 보내나 13세에 아버지가 거의 파산상태에 이른 후 죽자 농장 일꾼, 가게 점원, 학교 교사 등을 전전하며 가족의 생계를 돕는다. 20세에 상선의 선원이 되어 영국의 리버풀까지 항해했고, 22세에 다시 포경선의 선원으로 남태평양에 나갔으며, 1844년에 군함의 수병이 되어 귀국하였다. 이때의 경험을 살려 쓴 작품으로, 포경선에서 탈주하여 남태평양 마르키즈제도의 식인종 마을에 살았던 경험을 그린 『타이피』(1846), 타히티섬에서 겪은 모험을 엮은 『오무』(1847), 태평양을 무대로 한 우화적 소설 『마디』(1849), 리버풀을 왕복하는 상선생활을 그린 『레드번』(1849), 군함에서 겪은 체험을 토대로 한 『하얀 재킷』(1850) 등이 있다. 『모비 딕』은 1851년 10월 런던에서 『고래』(3권)로, 11월 뉴욕에서는 『모비 딕, 혹은 고래』(단권)라는 제목으로 출간되었다. 너새니얼 호손은 “멜빌이 쓴 책은 대단하다!”라고 찬사를 보냈으나 평론가와 독자들의 반응은 냉담했다. 이어 니힐리즘의 책 『피에르, 혹은 모호함』(1852)을 발표하지만 혹평을 받았으며 판매도 저조했다. 그럼에도 멜빌은 글쓰기에 매달렸고, 걸작 중편 『필경사 바틀비』(1853), 미국 독립전쟁을 풍자한 『이스라엘 포터』(1855)를 출간했다. 1857년 장편 『사기꾼』을 출간한 후로는 소설을 발표하지 않았다. 1866년 뉴욕 세관의 검사관으로 임명되어 19년간 일했으며, 그사이 72편의 시로 구성된 『전투 조각과 전쟁의 양상』(1866)과 성지 순례를 다룬 장편 서사시 『클라렐』(1876)을 펴내기도 했다. 1891년 72세의 나이에 심장비대증으로 세상을 떠났다. 유고로는 미완성 중편 『빌리버드』(1924)를 남겼다.