Usaha-usaha untuk kembali ke negara kesatuan dilancarkan di mana-mana. Di ber¬bagai daerah timbul gerakan rakyat menuntut pembubaran negara/daerah bagian dan penggabungannya dengan Republik Indonesia di Yogyakarta.

Penggabungan daerah yang satu ke daerah yang lain, atau negara bagian yang satu ke negara bagian yang lain secara konstitusional dimungkinkan oleh Pasal 43 dan 44 Konstitusi RIS dengan ketentuan bahwa penggabungan tersebut dikehendaki oleh rakyatnya dan diatur dengan Undang-undang Federal.

Pada tanggal 8 Maret 1950 Pemerintah RIS dengan persetujuan Parlemen (DPR) dan Senat RIS mengeluarkan Undang-undang Darurat No. 11 tahun 1950 tentang Tata Cara Perubahan Susunan Kenegaraan RIS. Berdasarkan Undang-undang Darurat tersebut berturut-turut negara-negara bagian menggabungkan diri dengan Republik Indonesia-Yogya sehingga pada tanggal 5 April 1950 RIS hanya tinggal terdiri dari tiga negara bagian, yaitu Republik Indonesia, Negara Sumatera Timur (NST), dan Ne¬gara Indonesia Timur (NIT).

Selanjutnya, untuk menanggapi keinginan rakyat yang makin meluas di negara-nega¬ra bagian yang masih berdiri, Pemerintah Republik Indonesia menganjurkan kepada Pemerintah RIS, agar mengadakan perundingan dengan Negara Sumatra Timur dan Negara Indonesia Timur tentang pembentukan kembali negara kesatuan. Setelah Pemerintah RIS mendapat kuasa penuh dari kedua Pemerintah negara bagian tersebut untuk berunding dengan Pemerintah Republik Indonesia pada bulan Mei 1950 dilangsungkan perundingan antara RIS dan Republik Indonesia tentang pembentukan negara kesatuan.

Pada tanggal 19 mei 1950 tercapai persetujuan antara kedua pemerintah yang ditu¬angkan dalam suatu "Piagam Persetujuan". Pada pokoknya kedua pemerintah sepa¬kat untuk membentuk negara kesatuan sebagai penjelmaan Republik Indonesia berdasarkan Proklamasi 17 Agustus 1945, dengan Undang-undang Dasar yang diperoleh dengan mengubah Konstitusi RIS sedemikian rupa sehingga prinsip-prinsip pokok Undang-Undang Dasar 1945 dan "bagian-bagian yang baik" dari Konstitusi RIS termasuk di dalamnya. Selanjutnya, oleh Pemerintah RIS dan Republik Indonesia dibentuk sebuah panitia bersama yang diberi tugas untuk melaksanakan Piagam Persetujuan 19 Mei 1950 tersebut, khususnya untuk menyusun Rancangan Undang-undang Dasar Negara Kesatuan.

Pada tanggal 14 Agustus 1950 Parlemen dan Senat RIS mengesahkan Rancangan Undang-undang Dasar Sementara Negara Kesatuan Republik Indonesia hasil panitia bersama.
akhirnya, dalam rapat gabungan parlemen dan Senat RIS pada tanggal 15 agustus 1950, Presiden RIS Ir.soekarno membacakan piagam terbentuknya negara kesatuan Republik Indonesia.