Versi I
Nama Pulau Karimun di berikan oleh pedagang yang berasal dan Gujarat. Pulau ini sangat aman dari lanun. Tak berarapa lama kemudian, banyaklah pedagang dari India Selatan datang ke daerah ini. Mereka berdagang permata.
Pada suatu ketika, terdapat sebuah kapal berlayar di Selat Malaka dihantam gelombang badai. Kapal tersebut terdampar di suatu pulau yang sekarang ini bernama Karimun Kecil.
Seorang pedagang yang bernama Syeh Jalaludin berada di kapal tersebut. Oleh karena kapal rusak dan tidak dapat melanjutkan perjalanan ke Pulau Jawa, maka ia dan rombongannya terpaksa bermalam.
Seperti biasanya sebagai penganut Islam yang taat, Jalaludin sembahyang subuh. Setelah mengucapkan salam, ia memperhatikan alam sekitarnya. Betapa terkejutnya ia saat melihat cahaya yang keluar dari gunung yang ada di tempat itu. Warna cahayanya sangat menakjubkan kuning keemasan.
Syeh Jalaludin belum pernah cahaya seperti itu sebelumnya. Seketika ia mengangkat tangan dan brdoa serta memuji kebesaran Allah dengan menyebut Ya Allah Ya Karim.
Begitulah asal-muasal Pulau Karimun. Pada awalnya adalah Karim, kemudian menjadi Karimun.
Versi II
Penamaan Pulau Karimun terjadi saat kapal-kapal pedagang dari Gujarat yang melintasi pulau ini kehabisan air. Mereka kemudian berhenti di sebuah pulau yang saat itu belum mempunyai nama.
Suatu ketika beberapa orang dari mereka melihat sumur yang terletak di tepi pantai, lalu mereka mencicipi air tersebut. Setelah merasakan air itu, pedagang-pedagang menjadi terkejut dan heran karena sumur itu di tepi pantai tetapi airnya tidak asin, tapi tawar.
Para pedagang sangat dan dan bahagia akan hal itu. Mereka mengucapkan syukur kepada Allah, Ya Allah Ya Karim yang artinya Allah Yang Mulia.
Versi III
Cerita ini diawali oleh dua orang nelayan yang bersahabat dan berkebangsaan beda yaitu bangsa India dan Melayu. Mereka pergi berlayar dan untuk mencari ikan.
Setelah sekian lama berlayar, mereka hanya mendapatkan seekor ikan. Tanpa merasa putus asa, mereka terus melanjutkan pencariaan namun hasil ikan tangkapan mereka tidak juga bertambah dan merekapun mulai merasa lelah.
Tiba-tiba mereka melihat mentimun yang hanyut. Terpikirlah di benak mereka untuk mengambil mentimun tersebut dan membawanya ke sebuah pulau.
Sesampainya di pulau tersebut nelayan yang berbangsa Melayu bertanya kepada sahabatnya apa yang harus dilakukan dengan mentimun. Sang sahabatpun menjawab.
“Bagaimana kalau mentimin itu kita kari?”
Tanpa berpikir panjang, merekapun mulai memasak mentimun menjadi kari. Setelah masak, mereka memakannya dengan dengan lahap sekali.
Kemudian muncullah ide dari mereka untuk memberi nama pulau yang mereka singgahi dengan nama karimun yang bearti kari mentimun. Pulau ini sekarng dikenal dengan Pulau Karimun.
Versi IV
Asal nama Pulau Karimun berasal dari nama sepasang suami istri. Apakah mereka orang pertama yang datang di pulau ini sehingga nama mereka dijadikan nama pulau tersebut belum dapat di pastikan. Nama suami tersebut Karim sedangkan istrinya Maimun.
Sang istri memanggil suaminya dengan Karim dan sang suami memanggil istrinya dengan Mun. Lama kelamaan panggilan suami istrinya menjadi karimun yang saat ini menjadi Pulau Karimun.
