Według legend Edessa była pierwszym miastem założonym po potopie. W tradycji zaś muzułmańskiej biblijne miejsce narodzin patriarchy Abrahama w Ur łączone jest nie z miastem chaldejskim, lecz właśnie z Urfą, co czyni miasto miejscem muzułmańskich pielgrzymek.
Historyczne początki dzisiejszego miasta należy wiązać z kolonią macedońskich żołnierzy Seleukosa Nikatora którzy osiedlili się w istniejącej już greckiej osadzie i przemianowali ją na Edessę by upamiętnić miasto o tej samej nazwie znajdujące się w Macedonii. Miasto położone na jedwabnym szlaku szybko stało się ważnym ośrodkiem handlu. W II połowie II wieku p.n.e. tereny miasta i regionu zostały opanowane przez plemiona przybyłe z północnej Arabii które utworzyły królestwo Osroene pod rządami dynastii Abgarów (132 p.n.e.–244 n.e.). Dzięki życzliwości królów którzy tolerowali mieszankę religijną w regionie miasto stało się jednym z pierwszych ośrodków chrześcijaństwa . Zgodnie z podaniem pierwszym biskupem Edessy był Tadeusz-jeden z 72 uczniów jak chce tradycja wschodu, lub Juda Taduesz jak twierdzi się w kręgu łacińskim. Około 204 r. król Abgar IX nawrócił się na chrześcijaństwo, co wpłynęło na znaczny rozwój chrześcijaństwa w mieście i okolicach; w okolicach powstały też liczne klasztory. W 232 sprowadzono do Edessy z Indii relikwie świętego Tomasza Apostoła. Obok chrześcijaństwa "głównego nurtu" w mieście istniały sekty takie jak Eklsaici czy ich następcy Manichejczycy. Po zamordowaniu ostatniego króla Edessy na rozkaz Karakalli miasto weszło w skład Imperium Rzymskiego co przyniosło chrześcijanom prześladowania. W IV w edessie rozwijał się monofizytyzm rozpowszechniany przez biskupa Edessy Jakuba-założyciela Syryjskiego Kościoła Prawosłąwnego. Począwszy od VI w. w Edessie przechowywano przedmiot, utożsamiany z mandylionem. Powszechnie przypisywano mu cudowną właściwość ochrony miasta przed wrogami. W wielu przekazach mówi się o cudownym ocaleniu Edessy w czasie najazdu perskiego. Niedługo potem Edessa padła jednak łupem Arabów. W X w. ekspansję na wschód podjęło cesarstwo bizantyńskie; w 944 wojska Bizancjum stały pod Edessą. Cesarz Roman Lekapen zgodził się na odstąpienie od oblężenia, pod warunkiem wydania przez Arabów mandylionu. Cudowny wizerunek został z wielką pompą przewieziony do Konstantynopola, do którego wkroczył 15 sierpnia 944 r. Miasto wpadło ponownie w chrześcijańskie ręce na mocy układu pokojowego po krucjacie prowadzonej pod przywództwem Jana I który oddał miasto w zarząd księciu armeńskiemu Gagikowi. Po śmierci tegoż i kryzysie państwa nowy cesarz włączył miasto wraz z okręgiem do władztwa króla Jerozolimy.