Indonesia memulai sejarahnya antara dua juta sampai 500.000 tahun yang lalu, hal ini berdasarkan Peninggalan fosil-fosil Homo erectus, yang oleh antropolog juga dijuluki "Manusia Jawa", menimbulkan dugaan bahwa kepulauan Indonesia telah mulai berpenghuni.
Bangsa Austronesia, yang membentuk mayoritas penduduk pada saat ini, bermigrasi ke Asia Tenggara dari Taiwan. Mereka tiba di sekitar 2000 SM, dan menyebabkan bangsa Melanesia yang telah ada lebih dahulu di sana terdesak ke wilayah-wilayah yang jauh di timur kepulauan. Kondisi tempat yang ideal bagi pertanian, dan penguasaan atas cara bercocok tanam padi setidaknya sejak abad ke-8 SM, menyebabkan banyak perkampungan, kota, dan kerajaan-kerajaan kecil tumbuh berkembang dengan baik pada abad pertama masehi. Selain itu, Indonesia yang terletak di jalur perdagangan laut internasional dan antar pulau, telah menjadi jalur pelayaran antara India dan Tiongkok selama beberapa abad. Sejarah Indonesia selanjutnya mengalami banyak sekali pengaruh dari kegiatan perdagangan tersebut.
Sejak abad ke-1 kapal dagang Indonesia telah berlayar jauh, bahkan sampai ke Afrika. Sebuah bagian dari relief kapal di candi Borobudur, k. 800 M.
Di bawah pengaruh agama Hindu dan Buddha, beberapa kerajaan terbentuk di pulau Kalimantan, Sumatera, dan Jawa sejak abad ke-4 hingga abad ke-14. Kutai, merupakan kerajaan tertua di Nusantara yang berdiri pada abad ke-4 di hulu sungai Mahakam, Kalimantan Timur. Di wilayah barat pulau Jawa, pada abad ke-4 hingga abad ke-7 M berdiri kerajaan Tarumanegara. Pemerintahan Tarumanagara dilanjutkan oleh Kerajaan Sunda dari tahun 669 M sampai 1579 M. Pada abad ke-7 muncul kerajaan Malayu yang berpusat di Jambi, Sumatera. Sriwijaya mengalahkan Malayu dan muncul sebagai kerajaan maritim yang paling perkasa di Nusantara. Wilayah kekuasaannya meliputi Sumatera, Jawa, semenanjung Melayu, sekaligus mengontrol perdagangan di Selat Malaka, Selat Sunda, dan Laut Tiongkok Selatan. Di bawah pengaruh Sriwijaya, antara abad ke-8 dan ke-10 wangsa Syailendra dan Sanjaya berhasil mengembangkan kerajaan-kerajaan berbasis agrikultur di Jawa, dengan peninggalan bersejarahnya seperti candi Borobudur dan candi Prambanan. Di akhir abad ke-13, Majapahit berdiri di bagian timur pulau Jawa. Di bawah pimpinan mahapatih Gajah Mada, kekuasaannya meluas sampai hampir meliputi wilayah Indonesia kini; dan sering disebut "Zaman Keemasan" dalam sejarah Indonesia.
Kedatangan pedagang-pedagang Arab dan Persia melalui Gujarat, India, kemudian membawa agama Islam. Selain itu pelaut-pelaut Tiongkok yang dipimpin oleh Laksamana Cheng Ho (Zheng He) yang beragama Islam, juga pernah menyinggahi wilayah ini pada awal abad ke-15.Para pedagang-pedagang ini juga menyebarkan agama Islam di beberapa wilayah Nusantara. Samudera Pasai yang berdiri pada tahun 1267, merupakan kerajaan Islam pertama di Indonesia.