برای پیداکردن پیشینه روز کارگر باید به روزهایی در ماه دسامبر سال ۱۸۶۹ در شهر فیلادلفیا بازگشت؛ جایی که ۹ خیاط اروپایی که خود را «شوالیه‌های کارگر» می‌نامیدند، یک انجمن کارگری بنیان گذاشتند. این انجمن کارگری ابتدا پنهان نگه‌ داشته شد، اما به‌سرعت در سال ۱۸۷۲ رشد کرد. آنها با فروپاشی اتحادیه ملی کارگری (۱۸۷۳-۱۸۶۶) در سال ۱۸۷۳ که گروه بزرگی از کارگران اصلاح‌طلب را نمایندگی می‌کرد، به‌تدریج بزرگ‌تر شدند. اتحادیه ملی کارگری تلاش ناموفقی داشت برای تغییرات وضع کارگران با فشار به نمایندگان کنگره، به‌خصوص برای قانون ۸‌ساعت کار روزانه. تلاش آنها با شکست مواجه شد و انجمن از هم پاشید. بیشتر آنها مهاجران اروپایی‌ای بودند که به دنبال آرزوهای خود به آمریکا رو آورده بودند. تعداد اعضای شوالیه‌های کارگر در سال ۱۸۸۶ یعنی تنها ۱۷‌سال پس از تاسیس به بیش از ۷۰۰هزار نفر رسید. شعار آنها «صدمه به یک نفر، نگرانی برای همه» بود و برای ایده‌های بلندپروازانه‌ای همچون ۸ ‌ساعت کار روزانه، توقف کار کودکان و دستمزد برابر تلاش می‌کردند.

آنها هم مجمع عمومی داشتند و هم مجامع اصناف خاص. در حالی که زنان و کارگران سیاه می‌توانستند به عضویت در این انجمن درآیند، کارمندان بانک، قمارخانه‌ها و سهامداران شرکت‌ها از حضور در آن محروم بودند. شوالیه‌ها، اعتصاب‌ها و تحریم‌های متعددی را سازمان دادند و پیروزی‌های متعددی را نیز به‌دست آوردند. اگرچه در برخی از اعتصاباتی که انجام دادند به‌دلیل اعمال خشونت از سوی تظاهرکنندگان باعث ایجاد مناقشات بسیاری شد.

ساختار اقتدارگرای انجمن، سوء‌مدیریت، اعتصابات ناموفق و پدیدارشدن فدراسیون کارگری ایالات متحده در سال ۱۸۸۶ باعث افول انجمن شد تا آنکه در سال ۱۸۹۰ تعداد اعضای آن تنها ۱۰۰هزار نفر بودند و در سال ۱۹۰۰ دیگر هیچ اثری از آن باقی نماند.

«شوالیه‌های کارگر» اجتماعات بزرگ کارگری را شکل دادند از جمله آنچه در پنجم سپتامبر ۱۸۸۲ در شهر نیویورک برگزار کردند. اجتماع بزرگ‌تری نیز در سال ۱۸۸۴ برگزار شد که در آن برگزاری چنین مراسمی را به‌صورت سالانه تصویب کردند.

اما سازمان‌های کارگری موثر دیگری هم وجود داشته‌اند. سازمان بین‌المللی کارگران که در سال ۱۸۸۴ ایجاد شد و یکی از پایگاه‌های سوسیالیست‌ها و آنارشیست‌های انگلیسی به‌شمار می‌رفت. در ابتدا این سازمان شامل سوسیالیست‌ها و آنارشیست‌ها، سوسیالیست‌های فرانسوی و جمهوریخواهان ایتالیایی بود و توسط برخی اطرافیان کارل مارکس سازماندهی می‌شد. با جنجالی که بین مارکس و یکی از معروف‌ترین و برجسته‌ترین آنارشیست‌ها رخ داد، این سازمان با خروج آنارشیست‌ها دو نیم شد و مارکس برای نگه‌داشتن انجمن، مکان انجمن را به نیویورک انتقال داد. این سازمان نیز ۴سال بعد منحل شد. تلاش‌های دیگر هم برای احیای سازمان طی ۵سال پس از آن با شکست مواجه شد. بعد از شورش‌های کارگری اوایل ماه می سال ۱۸۸۶ شهر شیکاگو بود که «گروور کلیولند» رئیس‌جمهور وقت، گفت که این روز فرصتی برای به یادآوری ماجراهای این روز است.

اگرچه این نگرانی وجود داشت که چنین کاری به تقویت جنبش سوسیالیستی بینجامد. به همین جهت او روزی را که «شوالیه‌های کارگر» برای گرامیداشت روز کارگر مورد توجه قرار داده بودند، در نظر گرفت. این تاریخ در کانادا و در سال ۱۸۹۴ به وسیله رئیس جمهور وقت، جان تامپسون، به‌عنوان روز کارگر شناخته شد که در حقیقت از تظاهرات‌های گسترده کارگری در سال ۱۸۷۲ در تورنتوی کانادا سرچشمه می‌گرفت. از سوی دیگر سوسیالیست‌ها هم روز اول می را به‌صورت رسمی به‌عنوان روز جهانی کارگر پذیرفتند.