Nama "Jazan" memiliki akar sejarah yang mendalam dan telah disebutkan dalam berbagai sumber Arab kuno, termasuk tulisan dua sejarawan, Al-Hamdani dan Al-Ya'qubi, yang menggambarkan Jazan sebagai salah satu desa di pesisir Tihamah. Menariknya, pada masa lampau nama ini tidak merujuk pada satu kota tertentu, melainkan digunakan secara umum untuk menyebut lembah (wadi) yang dikenal dari hulu hingga hilirnya beserta desa-desa di sepanjangnya — artinya, "Jazan" pada mulanya adalah nama sebuah lembah dan wilayah pertanian, sebelum kemudian dikaitkan dengan sebuah kota pesisir tertentu yang menyandang nama yang sama.
Perlu dicatat pula bahwa terdapat bukti-bukti yang jauh lebih tua. Sejumlah peneliti merujuk pada sebuah prasasti beraksara Musnad (tulisan Arab Selatan kuno) yang berasal dari periode awal, yang dikaji oleh peneliti Yusuf Muhammad Abdullah. Dalam prasasti tersebut disebutkan sebuah nama yang mirip dengan "Jazan" dalam konteks pembahasan tentang lembah-lembah di wilayah tersebut — hal ini sering dijadikan bukti akan usia tua nama tersebut dan keterkaitannya dengan wilayah ini sejak masa pra-Islam. Namun, penafsiran semacam ini terhadap prasasti Musnad masih menjadi bahan perdebatan akademik yang khusus, dan belum ada kesepakatan sejarah yang pasti mengenai penanggalannya secara tepat.
Dari sisi kebahasaan, sejumlah sumber populer dan sumber pengantar umum beredar dengan teori yang mengaitkan nama ini dengan asal-usul Saba, yaitu gabungan dari kata "jaz" (sebuah nama) dan "an" (kata sandang definit dalam bahasa-bahasa Arab Selatan kuno), sehingga makna keseluruhan nama tersebut berkaitan dengan penunjukan suatu tempat atau lokasi tertentu. Teori ini populer dalam artikel-artikel umum, namun tidak didasarkan pada kajian linguistik akademik yang terverifikasi secara pasti, sehingga sebaiknya dipandang sebagai salah satu penafsiran yang beredar, bukan sebagai fakta kebahasaan yang telah dikonfirmasi.
Secara umum, asal-usul penamaan tempat-tempat kuno di Jazirah Arab — termasuk Jazan — sering kali tetap menjadi wilayah kajian dan perdebatan di kalangan sejarawan dan ahli bahasa, mengingat silih bergantinya bahasa dan budaya (Saba, Himyar, kemudian Arab) yang mewarnai wilayah ini selama ribuan tahun, serta langkanya naskah yang secara eksplisit menjelaskan asal setiap nama. Yang dapat dikatakan dengan yakin adalah bahwa nama ini sudah sangat tua, disebutkan dalam sumber-sumber Arab klasik, dan pada mulanya terkait dengan sebuah lembah pertanian yang subur, sebelum kemudian berkembang menjadi nama sebuah kota pesisir sekaligus wilayah administratif yang utuh.
Secara administratif modern, nama "Jazan" saat ini digunakan untuk merujuk pada keseluruhan wilayah administratif, sementara nama "Jizan" (dengan tambahan huruf "i") lebih populer digunakan untuk menyebut kota pesisir itu sendiri, guna membedakannya dari wilayah tersebut — meskipun kedua nama ini terkadang masih digunakan secara bergantian dalam media dan sumber-sumber resmi.
Sepanjang sejarah Islam, wilayah ini juga dikenal dengan nama lain, yaitu "Mikhlaf Sulaimani", yang dinisbatkan kepada Sulaiman bin Tharaf Al-Hakami, tokoh yang menyatukan dua wilayah "Hakam" dan "Athr" menjadi satu entitas. Nama sejarah ini digunakan secara paralel selama berabad-abad, sebelum akhirnya nama "Jazan" kembali dominan pada era modern.