Ia dilahirkan pada tanggal 10 September 1819 di
Ballymoney Lodge, Banbridge, County Down, Irlandia. Lahir dari keluarga kaya;
anak kedua dari seorang ayah bernama John Scriven yang adalah seorang Kapten
Marinir di Kanada selama perang tahun 1812 dan dari ibu bernama Medlicott
(1787-1866).
Oleh karena keadaan keluarganya yang mapan, maka
sejak kecil sampai dengan dewasa ia mendapatkan pendidikan yang baik. Joseph
bersekolah di Trinity College di Dublin pada usia 16 tahun dan pada tahun 1842
ia lulus dari Universitas Trinity College, Dublin dengan gelar BA. Pada waktu
itu iapun telah mendapatkan calon pasangan hidup, seorang gadis irlandia yang
cantik dan berdua mereka berencana hendak melangsungkan pernikahan pada tahun
1845. Namun sayangnya gadis tunangan Joseph Medlicott Scriven mengalami
kecelakaan. Peristiwa tragis itu terjadi satu hari sebelum pernikahannya.
Tunangannya jatuh dari kuda ketika melintasi jembatan dan tenggelam di sungai
Bann, sedangkan Joseph berdiri menunggu di sisi lain jembatan itu.