Organisasi ini didirikan pada tanggal 20 Oktober 1964 dengan nama Sekretariat Bersama Golongan Karya atau disingkat Sekber GOLKAR. Sekber GOLKAR merupakan perhimpunan ( federasi ) 97 organisasi fungsional non afiliasi politik yang anggotanya terus berkembang hingga menapai 220 organisasi.
Setelah melalui Rakornas I (Desember 1965) dan Rakornas II (Nopember 1967) dilakukan pengelompokan organisasi berdasarkan kekaryannya ke dalam 7 (tujuh) Kelompok Induk Organisasi (KINO), yaitu :
a. KINO KOSGORO
b. KINO SOKSI
c. KINO MKGR
d. KINO Profesi
e. KINO Ormas Hankam
f. KINO GAKARI
g. KINO Gerakan Pembangunan
Untuk menghadapi Pemilu 1971, 7 Kino yang merupakan kekuatan inti dari Sekber GOLKAR tersebut diatas pada tanggal 4 Februari 1970 mengeluarkan keputusan bersama untuk ikut menjadi peserta pemilihan umum melalui satu nama dan tanda gambar yaitu Golongan Karya (GOLKAR). Logo yang menjadi tanda gambar GOLKAR sejak Pemilu 1971 tersebut tetap dipertahankan sampai sekarang.Melalui MUNAS I tanggal 4-10 September 1973 di Surabaya, dikukuhkan perubahan nama yang sebelumnya telah diputuskan oleh musyawarah Sekber Golkar tanggal 17 Juli 1971 di Jakarta yaitu menggunakan nama sebagai peserta Pemilu 1971. Dengan demikian Sekber GOLKAR yang semula merupakan organisasi bersifat federatif dari golongan fungsional berubah menjadi Golongan Karya(GOLKAR).
Selanjutnya dari Pemilu ke Pemilu sejak tahun 1971, 1977, 1982, 1987, 1992, dan 1997 GOLKAR terus menerus berhasil mengemban kepercayaan rakyat dengan memperoleh kemenangan sebagai mayoritas tunggal.Setelah terjadinya Gerakan Reformasi yang dimotori oleh mahasiswa yang terjadinya peralihan kekuasaan dari Presiden Soeharto kepada B.J Habibie maka diadakan pembaharuan beberapa undang-undang di bidang politik dengan ditetapkan undang-undang yang baru tentang Partai Politik, Pemilihan Umum, dan Susunan dan Kedudukan ke MPR, DPR, dan DPRD.
Untuk menyesuaikan dengan ketentuan baru peraturan perundang-undangan tersebut tersebut maka pada tanggal 7 Maret 1999 telah dilaksanakn Deklarasi Partai Golongan Karya dan sejak saat itu secara resmi GOLKAR menegaskan diri menjadi partai politik dalam posisi yang sejajar serta mempunyai hak dan kewajiban yang sama dengan partai politik yang lain. AD dan ART Partai Golkar yang baru sudah ditetapkan dalam MUNAS Luar Biasa pada tanggal 9-11 Juli 1998 bersamaan dengan penetapan berbagai hasil Munas Luar Biasa kiranya sebagai manifestasi pembaharuan dalam tubuh GOLKAR untuk tampil sesuai dengan tuntutan dan semangat reformasi.Berdasarkan hasil Munas Luar Biasa tersebut, DPP Partai GOLKAR menegaskan PARADIGMA BARU PARTAI GOLONGAN KARYA yang berintikan misi, visi dan plat form perjuangan partai GOLKAR dalam era reformasi. Partai Golongan Karya dalam paradigma baru dan diringkas sebagai GOLKAR BARU pada prinsipnya mengedepankan tema pokok perjuangannya dengan semboyan : GOLKAR BARU, BERSATU UNTUK MAJU.