Akhirnya, Belanda mengumumkan perang terhadap Aceh dengan anggapan rakyat Aceh akan mudah dikalahkan. Namun kenyataannya, semangat juang rakyat Aceh sangat kuat sehingga perang ini berubah menjadi salah satu konflik paling panjang dan sulit bagi Belanda.
Pertempuran besar pertama dimulai pada 1873 ketika pasukan Belanda dipimpin Mayor Jenderal J.H.R Kohler menyerang Aceh. Pertempuran sengit terjadi di sekitar Masjid Raya Baiturrahman.
Meski Belanda berhasil menduduki masjid, Kohler tewas dalam pertempuran tersebut. Belanda kemudian melanjutkan serangan dan pada 1874 berhasil menguasai istana. Sultan Mahmud Syah II yang memimpin perlawanan wafat akibat kolera, sehingga Muhammad Daud Syah diangkat sebagai Sultan baru.
Meskipun kekuatan Belanda semakin besar, perlawanan rakyat Aceh tidak surut. Tokoh penting seperti Teuku Umar dan Cut Nyak Dien memimpin perjuangan di Aceh Barat dengan menerapkan strategi Konsentrasi Stelsel.