Термин, по некоторым данным, впервые был придуман шотландским ученым Томасом Грэхэмом, заложившим физические основы гемодиализа в своем труде «Осмотическая сила» (1854 г.). В этой работе ученый впервые описал способ изготовления полупроницаемых мембран из специально обработанного пергамента.
Спустя 50 лет американский биохимик и фармаколог, первооткрыватель адреналина Джон Джекоб Абель создал первый аппарат для удаления растворённых в крови веществ. Исследования проводились на собаках с удаленными почками. В ходе опытов была доказана возможность эффективного удаления из крови не связанных с белками азотистых соединений. Малая площадь фильтрующей мембраны у аппарата не позволяла эффективно применять его для очистки крови у людей. В качестве средства, предотвращающего свёртывание крови при прохождении через аппарат, использовался гирудин – антикоагулянт, получаемый из пиявок.
Первый гемодиализ человеку (пациенту, страдающему уремией) был проведен в Германии врачом Георгом Хаасом, в октябре 1924 года. В качестве антикоагулянта использовался очищенный гирудин, антигенные свойства которого не позволяли проводить диализ более 30—60 минут. В 1927 году впервые при гемодиализе в качестве антикоагулянта был применён гепарин. Таким образом Хаас был первым, кто свёл вместе все составляющие, необходимые для успешного гемодиализа. Он применил эффективный и безопасный антикоагулянт, создал аппарат с мембраной большой площади, обеспечил эффективную подачу крови на фильтрующую мембрану.
Первый случай успешного выведения человека из уремической комы с помощью гемодиализа произошёл 3 сентября 1945 года. Голландский медик Виллем Кольф, внедряя в клиническую практику гемодиализ, усовершенствовал аппарат, разработанный Георгом Хаасом. Основной целью, с которой применялся гемодиализ, была борьба с уремией. В результате очистки крови с помощью гемодиализатора удалось снизить концентрацию мочевины в крови и вывести больную из комы. В результате проведённого лечения, 11 сентября 1945 года было достигнуто значительное улучшение состояния 67-летней пациентки, устранена угроза смерти. Впервые на практике была однозначно доказана клиническая эффективность данного метода.
В 1946 году Вильям Кольф издал первое в мире руководство по лечению больных уремией с помощью гемодиализа.