Quân đội Nga hoạt động tại bán đảo Crimea từ cách đây hơn 200 năm khi Nữ hoàng Catherine Đại đế xây dựng một căn cứ hải quân ở Sevastopol và cái tên Hạm đội Biển Đen cũng ra đời từ đó (ngày 2/5/1983) với danh nghĩa là tập hợp các tàu chiến ở Nga tại khu vực này.
Hai năm sau, chỉ huy đầu tiên của Hạm đội Biển Đen được bổ nhiệm và hạm đội này đã lớn mạnh theo cấp số nhân trong thế kỷ 19.
Tuy nhiên, căng thẳng đã nổ ra giữa Ukraine và Nga về cách phân chia Hạm đội Biển Đen sau khi Liên Xô tan rã. Đáng chú ý nhất là vụ binh biến trên tàu tuần tra hải quân 112.
Ngày 20/7/1992, thủy thủ đoàn đã treo cờ Ukraine và nhổ neo tiến về thành phố Odessa của Ukraine. Ba tàu trung thành với Nga thuộc hạm đội đã đuổi theo và đâm vào tàu 112. Sau cuộc binh biến, tàu 112 trở thành con tàu đầu tiên của hải quân Ukraine.
Đến ngày 21/4/2010, Tổng thống Ukraine lúc bấy giờ là Viktor Yanukovych ký hiệp ước Kharkov gia hạn việc thuê Sevastopol đến năm 2042 nhằm đổi lại thỏa thuận bán khí đốt giá rẻ. Hiệp ước Kharkov bị những người Ukraine thân phương Tây phản ứng dữ dội.
Tuy nhiên, sau khi cựu tổng thống Yanukovich bị phế truất, chính quyền hiện tại ở Kiev đang đe dọa hủy bỏ hiệp ước Kharkov và đuổi Hạm đội biển Đen khỏi Sevastopol vào năm 2017.
Hạm đội này sở hữu một tàu tuần dương tên lửa chỉ đường – Moskva, một tàu tàu tuần dương chống ngầm cỡ lớn, một tàu khu trục lớn và 2 tàu khu trục nhỏ rất linh hoạt bào gồm tàu khu trục Mirage cùng với các tàu đổ bộ, bao gồm tàu đổ bộ cỡ lớn 152 Nikolay Filchenkov.
Ngoài ra, Hạm đội Biển Đen cũng sở hữu 2 tàu ngầm lớp Kilo và tàu chống ngầm cỡ nhỏ Alexandrovets thuộc Lữ đoàn phòng vệ bờ biển, tàu quét mìn Turbinist 912…, và còn nhiều loại tàu tối ưu khác.
