Pada tahun 1981, Haniyeh mendaftar di Universitas Islam Gaza, tempat ia belajar sastra Arab. Ia juga aktif dalam politik mahasiswa, memimpin perkumpulan mahasiswa Islam yang berafiliasi dengan Ikhwanul Muslimin. Ketika kelompok Islam Hamas terbentuk pada tahun 1988, Haniyeh adalah salah satu anggota pendiri termuda.
Dirinya pun mengembangkan hubungan dekat dengan pemimpin spiritual kelompok tersebut, Sheikh Ahmed Yassin. Haniyeh ditangkap oleh otoritas Israel pada tahun 1988 dan dipenjara selama enam bulan karena keterlibatannya dalam intifada pertama (pemberontakan terhadap pendudukan Israel).
Lalu ia ditangkap lagi pada tahun 1989 dan tetap dipenjara hingga Israel mendeportasinya ke Lebanon Selatan pada tahun 1992 bersama dengan sekitar 400 penganut Islam lainnya. Haniyeh kembali ke Gaza pada tahun 1993 setelah Perjanjian Oslo.
Sekembalinya dari pengasingan, ia diangkat menjadi Dekan Universitas Islam Gaza. Peran kepemimpinan Haniyeh di Hamas dimulai pada tahun 1997 ketika ia menjadi sekretaris pribadi Yassin. Ia tetap menjadi orang kepercayaan dekat pemimpin spiritual tersebut hingga akhir hayat Yassin. Keduanya menjadi target percobaan pembunuhan yang gagal oleh Israel pada tahun 2003, meskipun Yassin dibunuh hanya beberapa bulan kemudian.