اين سازمان در ۱۹۴۶ در خلال مبارزات ضد مالاياى متحد شکل گرفت و تاکنون مهم‌ترين حزب مالزى مى‌باشد و از اين‌رو عده‌اى آن را نتيجه غيرقابل پيش‌بينى طرح اتحاد مالايا مى‌دانند. به هر حال اين سازمان نطفه اصلى خود را در سال‌هاى قبل از جنگ جهانى دوم مى‌داند.


در دهه ۱۹۳۰ تعدادى انجمن‌هاى ايالتى مالايائى تشکيل شد. در ۱۹۳۹ و مجدداً در ۱۹۴۰ کنگره‌هاى پان مالايائى به‌منظور تسريع در اتحاد مالايائى برگزار شد. ولى وقوع جنگ مانع از تحول کنگره به انجمن‌هاى سياسى رايج بود. بعد از بيرون رفتن ژاپنى‌ها از مالزي، ترديدهاى دوران فترت و عصر دولت نظامى بريتانيا، با تهديد سلطه کمونيسم چين و شروع درگيرى‌هاى نژادى توأم شد، در نتيجه مالايائى‌ها انجمن‌هائى براى دفاع از خود تشکيل دادند. روزنامه ملى‌گراى مالائى به نام Majlis در ۲۴ ژانويه ۱۹۴۶ از طريق اين جعفر کنگره پان‌مالائى را به‌منظور متحد ساختن مالائى‌هاى مخالف طرف مالائى اعلام کرد.


ابن‌جعفر که تحصيل کرده انگليس بود، به دليل نافرمانى در مقابل سلطان جوهور دوبار به سنگاپور تبعيد شده بود. در سنگاپور به دليل انتقادهاى شديد از سياست‌هاى سلطان و نيز سياست‌هاى انگليس که در روزنامه منعکس مى‌کرد مشهور شد. در دهه ۱۹۳۰ براى کسب کرسى شوراى ايالتى به جوهور مراجعت نمود و در جريان درگيرى ميان چين و مالايا در ۱۹۴۵ تا ۴۶ نقش ميانجى را ايفاء کرد. در همين ايام در منطقه باتوپاهات، جنبش جاهور شبه‌جزيره مالى را تأسيس کرد و در ۱۹۴۶ به‌عنوان نخست‌وزير به جوهور بهرو مراجعت نمود.


کنگره سوم پان مالائى در کلوب سلطان سليمان در اول مارس ۱۹۴۶ با حضور نمايندگان ۴۰ سازمان مالائى در کوالالامپور تشکيل شد که حدود چهار سال طول کشيد. کميتهٔ پنج نفره براى تهيه طرح اساس‌نامه آنچه سازمان ملى مالاياى متحد ناميده شد تشکيل گرديد و در نهايت ابن‌جعفر به‌عنوان رئيس سازمان انتخاب شد.


شعار سازمان در ابتدا زندگى طولانى مالايائى‌ها همراه با فراخوانى رهبران مالايائى ”مالايائى‌ها نبايد از صحنه جهان حذف شوند“ بود. بريتانيا در مقابل محبوبيت و موضع سياسى هوشمندانه ابن‌جعفر به ناتوانى کشيده شد. در مذاکرات ميان مالايائى‌ها و انگليس از نيمه ۱۹۴۶ تا اول فوريه ۱۹۴۸ يعنى هنگامى که موافقت‌نامه فدراسيون مالايائى اجراء شد، ابن‌جعفر فشارهاى زيادى را تحمل کرد. در همين رابطه ابتدا حزب ملى‌گراى مالايائى و سپس اتحاديه مالائى جاهور از سازمان انشعاب کردند.


در طول مذاکرات آنگلو مالائي، مالائى‌ها به دو جناح عمده چپ و راست تقسيم شدند. گروه راست توسط سازمان رهبرى مى‌شد و در نتيجه در تلاش بود تا با انگليس به توافق برسد، در حالى‌که گروه چپ تحت تأثير و رهبرى حزب ملى‌گراى مالائى خواهان خودمختارى فورى بود.


تا ۱۹۴۸ فضاى سياسى مالزى تغييرات راديکالى را تجربه کرد. در طول دوره حکومت نظامى انگليس و اتحاد مالايائي، محدويت‌هاى فضاى سياسى برداشته شد و حتى حزب کمونيست مالزى آشکارا فعاليت مى‌کرد. در اين سال رهبر شوراى مشترک اقدام مالايا به نام تون چنگ لوک با ابن‌جعفر ملاقات کرد. اين ملاقات تضاد ديرينه ميان رهبران چينى‌هاى مالزى و ابن‌جعفر را تا حدودى روشن کرده و فضا را آرام‌تر ساخت.


از آن پس تا رسيدن به استقلال در ۱۹۵۷ رهبران مالائى تلاش‌هائى براى تعديل تنش‌ها شروع کردند. نتيجه ملاقات ۱۹۴۸ رهبران چينى باعث شده بود تا اقليت‌هاى غيرمالائى بيشترى تابعيت مالايائى به‌دست آورند. در ۱۹۵۱ بود که يکى از رهبران مالايائى به نام داتوعون پيشنهاد کرد نام سازمان به سازمان ملى مالاياى متحد تغيير يابد تا همه شهروندان مالايائى صرف‌نظر از نژاد، بتوانند عضو حزب شوند. در اثر مخالفت با اين پيشنهاد در ۲۷ اوت ۱۹۵۱ استعفاء کرد.


از ۱۹۵۱ تا زمان برگزارى نخستين انتخابات ملى در ۱۹۵۵، شعار حزب از زندگى پايدار مالايائى‌ها به آزادى تغيير يافت. اين حرکت حتى قبل از استعفاء داتوعون بود. عبدالرحمن رهبرى جديد سازمان وظيفه دستيابى به استقلال را عهده‌دار شد. در حقيقت اعتبار رهبرى جديد سازمان به انجام اين وظيفه وابسته بود.