En 1993, il démissionne de l'OLP pour protester contre les accords d'Oslo, estimant qu'ils n'apporteront pas une «paix juste» pour les Palestiniens. Le poète se rend en 1995 dans la bande de Gaza après l'avènement de l'Autorité palestinienne, avant de s'installer à Ramallah, en Cisjordanie. En mai 1996, il est autorisé à fouler le sol d'Israël pour la première fois depuis son exil afin d'assister aux funérailles de l'écrivain arabe israélien Emile Habibi.