Диуф начинал играть в «Сошо» в 1998 году, откуда годом позже перебрался в клуб «Ренн». Из «Ренна» игрок перешёл в «Ланс». В свой последний сезон во Франции Диуф забил 18 голов в 54 матчах за клуб, который едва не выиграл французское первенство. После этого Диуф переехал в Англию, где Улье предпочёл его французу Николя Анелька. Диуф дважды подряд признавался лучшим игроком Африки. В Сенегале Диуф является настоящей легендой. По мнению Улье, Эль-Хаджи Диуф обладал неограниченным потенциалом: «Его трудолюбие поразило меня. Он выполняет огромный объем работы, играя на правом фланге. Он успевает не только помогать защите, но и принимать активное участие в наступательных действиях команды, за что его очень любят фанаты».
Диуф очень техничен, однако буйный нрав часто мешал ему проявить свои лучшие качества. В «Ливерпуле» его результативность значительно упала, а инцидент, который произошел в матче с «Селтиком» (игрок показал болельщикам шотландского клуба неприличный жест), окончательно убедило руководство клуба расстаться с игроком. После ухода из «Ливерпуля» игрок ещё два раза попадал в истории аналогичные глазвегианской. В сезоне 2004/2005 Диуф оказался в «Болтоне», где, отыграв год на правах аренды, подписал постоянный договор. Он провёл три удачных года на «Рибоке», после чего перешёл в «Сандерленд». Несмотря на то, что Диуф имеет репутацию «плохого парня», он умудрялся сохранять хорошие отношения как с партнерами по команде, так и с главными тренерами клубов, в которых успел поиграть. В первом матче сезона 2008/2009 Диуф принял участие в матче против «Ливерпуля», который ливерпудлианцы выиграли с минимальным счётом. В 2009 году он стал футболистом «Блэкберна», где провел полтора года, после чего в январе 2011 года был отдан в аренду в шотландский «Рейнджерс». Осенью 2011 года Диуф подписал трехмесячный контракт с «Донкастер Роверс», вылетевший по итогам сезона из чемпионшипа.
