Sau khi an táng cha được 3 tháng, ông cùng Phan Tôn chiêu tập những người đồng chí hướng phát động khởi nghĩa trên địa bàn rộng khắp: Trà Vinh, Vĩnh Long, Bến Tre, Sa Đéc. Phong trào do ông lãnh đạo được đánh đấu bằng cuộc tiến công của nghĩa quân vào Hương Điểm. 

Đêm 15, nghĩa quân liên tục tấn công quân Pháp ở Ba Tri và sông Hàm Luông, gây tiếng vang lớn. Pháp sai người dụ hàng nhưng hai cụ thẳng thắn từ chối. Không mua chuộc được, Pháp dùng quân sự đàn áp, buộc Phan Liêm và em lánh sang Gò Công rồi ra Bình Thuận. Dù không bắt được hai ông, Pháp vẫn kết án tử hình vắng mặt. Sau đó, hai ông ra Huế, gia nhập quân Nguyễn Tri Phương trấn thủ Hà Nội.

Tướng Pháp Francis Garnier tấn công thành Hà Nội. Tổng trấn Nguyễn Tri Phương bị bắt cùng với một số quan lại giữ thành, trong đó có hai anh em họ Phan, chúng đưa tất cả vào Sài Gòn và sau đó sang Pháp theo lệnh của Bộ trưởng Hải quân Pháp.

Sau khi hòa ước Giáp Tuất được ký kết, Phan Liêm và Phan Tôn được trao trả cho triều đình. Ông Phan Liêm lại ra làm quan với triều đình Huế.

Tự Đức thứ 34 theo Hoàng triều Giáp Tý niên biểu thì Phan Liêm đã mật lên vua một biểu đề ra một số cải cách về giáo dục, thông thương, khai mỏ… để mở mang kinh tế đất nước.

Ông được triều đình bổ làm Hàn Lâm Tri Viện tu soạn, Phủ doãn Phủ Thừa Thiên, sau thăng Thị lang, gia hàm Tham tri.

Dưới triều Đồng Khánh ở Thanh Hóa có vụ âm mưu bạo động. Nhà vua sai Phan Liêm ra đó với chức Khâm sai đại thần để ổn định tình thế.

Tháng 5 năm 1886, Phan Liêm được bổ tổng đốc Thuận Khánh, cùng với Nguyễn Thân trông coi khu vực phía Nam. Dưới triều vua Đồng Khánh và Thành Thái ông cũng đã từng giữ chức Thị vệ đại thần ở sáu tỉnh: Quảng Nam, Quảng Ngãi, Bình Định, Phú Yên, Khánh Hòa và Bình Thuận. 

Vua phong cho ông làm Tổng đốc Khánh Hòa – Bình Thuận nhưng ông từ chối. 

Ông qua đời dưới triều vua Thành Thái, được an táng ở Huế và được truy tặng Binh Bộ Thượng Thư. Phần mộ hai ông Phan Liêm và Phan Tôn cùng được xây dựng trong chùa Trà Am, thôn Tư Tây, xã Thủy An, thành phố Huế hiện nay, cách chợ Đông Ba khoảng 15km, sát bên núi.