Sebelum Israel merdeka, sudah ada beberapa organisasi sukwan (sukarelawan) bawah tanah di masyarakat Yahudi (Yishuv) yaitu: Haganah (1920), Etzel (1931), dan Lehi (1940) yang memperjuangkan kemerdekaan. Tugas kelompok sukwan Yahudi tersebut melindung imigran Yahudi, menghadapi kerusuhan kelompok Arab, penyedia dan sebagai kurir informasi. Diantara beberapa sukwan yang paling terkenal adalah Haganah, mendirikan Shai-Sherut Yediot (layanan informasi) dengan tugas mengumpulkan informasi untuk keperluan operasional Haganah dan juga memberikan informasi kepada pimpinan kelompok Yahudi lainnya sebagai bahan perundingan dengan penduduk Arab dan negara Arab.
Sejarah lahirnya Mossad berawal dari satu lembaga keamanan Varash (Kepala Komite Badan Intelijen) dipimpin oleh Reuven Shiloah yang terbentuk pada bulan April 1949. Keanggotaannya terdiri dari kepala Shai (unit Haganah), departemen politik, angkatan bersenjata dan polisi. Menyusul berikutnya, Israel mendeklarasikan sebagai sebuah negara secara resmi pada 14 Mei 1948 dengan didukung oleh Amerika dan dunia barat. Memasuki bulan Juli 1949, Reuven Shiloah mengusulkan dibentuk satu badan pusat keamanan dan intelijen untuk mengorganisir dan mengkoordinasikan kegiatan keamanan dan intelijen. Tepatnya pada tanggal 13 Desember 1949, Presiden Ben Gurion, meresmikan terbentuknya Central Institute for Coordination (CIC) yang berfungsi meningkatkan koordinasi antara departemen Shabak (intelijen dalam negeri) , Aman (intelijen militer) dan politik Departemen Luar Negeri, dengan dibawah kendali Kementerian Luar Negeri, atau lebih dikenal dengan Mossad.
Melalui keputusan Presiden Ben Gurion, menetapkan Reuven Shiloah sebagai kepala departemen politik Departemen Luar Negeri dan menjadi penasehat khusus Menteri Luar Negeri dengan tugas mengumpulkan dan mensuplai info. Adapun tugas awalnya yaitu mengkoordinir departemen politik dan orang-orang keamanan dalam negeri dan intelijen militer. Pada bulan Maret 1951, Presiden Ben Gurion melakukan reorganisasi Mossad dengan tujuan meningkatkan kemampuan operasional dan untuk menyatukan pengumpulan informasi intelijen luar negeri. Mossad mulai melepaskan diri dari Kementerian Luar Negeri, sejak saat itu berada dibawah kendali dan pengawasan langsung Perdana Menteri.

Sampai saat ini, Mossad tidak lagi dibawah Kementrian Luar Negeri tetapi langsung dibawah Perdana Menteri, dengan tugas dan tanggung jawabnya berubah menjadi pengumpulan human intelligence, kegiatan klandestin, kontra teror dengan fokus negara Arab. Mossad juga melakukan operasi klandestin di kalangan pengungsi Yahudi, eks komunis, Negara Barat dan PBB.Markas Mossad di Tel Aviv, keanggotaan diketahui (tahun 1980-an) sekitar 2000-an dan lebih dari separuhnya sebagai staf yang berkedudukan di kantor pusat. Sebagian besar anggota Mossad adalah mantan angkatan pertahanan Israel. Sementara identitas direktur Mossad nyaris tidak dikenal publik, antara lain Shabtai Shavit (1994), Mayjen Danny Yatom (1996-1998), Ephraim Halevy (1998-2002), Meir Dagan (Sept 2002- Januari 2011), Tamir Pardo (Januari 2011- sampai sekarang).
Motto Mossad merupakan kutipan Alkitab yang berbunyi“Karena hanya dengan perencanaan engkau dapat berperang” (Amsal 24:6) , kemudian dirubah menjadi “ Jikalau tidak ada pimpinan, jatuhlah bangsa, tetapi jikalau penasehat banyak, keselamatan ada.” (Amsal 11:14)

Mossad memiliki departemen terdiri dari:
1. Departemen Pengumpul/Collection Departemen (terbesar), melakukan operasi spionase, dengan anggotanya yang tersebar di kedutaan, konsulat serta lembaga-lembaga lainnya, menerapkan cover name dan cover job dalam operasional di lapangan. Termasuk didalamnya melakukan pengkaderan dan perekrutan anggota baru.
2. Departemen Penghubung dan Kegiatan Politik/ Political Action and Liason Departemen melakukan kegiatan politik dan penghubung dengan badan intelijen luar negeri mitra kerja dimana Israel tidak mempunyai hubungan diplomatik.
3. Divisi Operasi Khusus/Special Operations Division, atau disebut Metsada (pelaksana eksekusi) melakukan pembunuhan canggih, sabotase, perang urat saraf.
4. Departemen Lohamah Psichologit (LAP) melakukan propaganda, perang urat saraf, dan operasi desepsi, pembinaan mental baik psikologi serta doktrinasi anggota.
5. Departemen Teknologi/ Technology Departement mengembangkan teknologi maju untuk mendukung operasi Mossad.
6. Departemen Riset/Research Departement membuat laporan harian, laporan mingguan dan laporan pengumpulan data, penelitian, pengembangan studi kasus dan lain-lain.

Eli Cohen(26 Desember 1924 – 18 Mei 1965) adalah seorang agen rahasia Mossad, Israel dan diangggap sebagai salah satu mata-mata paling sukses setelah perang dunia II. Lahir di Mesir, ia ikut serta dalam setiap aktivitas pro Israel di Mesir selama tahun 1950-an, seperti dalam Operasi Goshen meskipun pemerintah Mesir tidak pernah dapat membuktikannya. Ia direkrut Mossad pada tahun 1960 dan diberi identitas palsu sebagai orang Syria yang kembali pulang setelah lama hidup di Argentina. Untuk memperkuat penyamarannya ini, ia bahkan pindah ke Argentina pada tahun 1961. Kemudian ia pindah ke Damaskus, Syria dengan nama alias Kamel Amin Tsa’abet (nama panggilannya Sa’bet atau Tha’bet). Cohen berhasil memperoleh kepercayaan dikalangan pejabat militer syria dan juga pejabat pemerintahan. Secara berkala ia mengirim informasi intelijen ke Israel lewat radio, surat rahasia dan kadangkala pada saat ia berkunjung ke Israel. Informasi yang sangat berharga yang berhasil ia kirimkan ke Israel pada tahun 1964 adalah data tentang kubu pertahanan Syria di dataran tinggi Golan.
Akhirnya pada bulan Januari 1965, seorang ahli dari Uni Soyvet yang disewa oleh dinas intelijen Syria berhasil menyadap pesan yang sedang dikirimkan Cohen ke Israel. Setelah dihadapkan ke pengadilan, ia diputuskan bersalah terlibat mata-mata dan dijatuhi hukuman mati. Banyak kepala negara barat (Perancis, Belgia, Kanada) yang meminta pemerintah Syria untuk memperingan hukumannya bahkan Paus Paulus VI ikut bersuara, tetapi ia tetap digantung oleh pemerintah Syria pada tanggal 18 Mei 1965. Eli Cohen menjadi Pahlawan Nasional di Israel karena berkat infonya Israel meraih kemenangan telak dalam Perang Enam Hari tahun 1967. Sampai dengan hari ini, Syria yang merasa sangat kecolongan, tetap menolak memulangkan jenazah Cohen untuk dimakamkan di Israel.