Publiczna Szkoła Podstawowa nr 2 w Grójcu powstała 01.09.1935 r. decyzją Kuratorium Okręgu Szkolnego Warszawskiego. Pierwotnie swą pierwszą siedzibę miała w budynku Szkoły Podstawowej nr 1, na drugim piętrze. Miało tak być do czasu wybudowania nowego budynku szkoły, co było planowane na początku lat 40- tych. Pierwszym kierownikiem szkoły został Edmund Antoni Przybysz. Wybuch II wojny światowej uniemożliwił realizację tych planów. Jeszcze przed wojną szkoła nosiła nazwę Powszechna Szkoła Podstawowa nr 3 i imię Piotra Skargi, po wojnie zaś numer zmieniono na 2, a szkoła straciła patrona. Straty wojenne, zarówno materialne jak i ludnościowe, spowodowały, że dopiero w 1963 r. oddano do użytku nowy budynek Szkoły Podstawowej nr 2 przy ulicy Polnej 17. Kierownikiem szkoły był w tym czasie Pan Henryk Cegiełkowski. W 1964 r. szkole nadano nowe imię Nadieżdy Krupskiej, żony Włodzimierza Lenina, gdyż jej ojciec żył w Grójcu i sprawował funkcję Naczelnika Miasta, zapisując się pozytywnie w pamięci mieszkańców Grójca. Dyrektorem szkoły był następnie od 1967 r. Pan Marian Wachowicz. W szkole (z uwagi na patrona) częstymi gośćmi byli przedstawiciele ZSRR w tym m.in. ambasador Awierkij Aristow. Imię to szkoła posiadała do 1990 r., kiedy to Rada Pedagogiczna zadecydowała o jego zmianie. Dopiero jednak w 1994 r. Publiczna Szkoła Podstawowa nr 2 otrzymała nowe imię Józefa Wybickiego, którego rodzinny dworek Krobów znajduje się niedaleko Grójca. Stało się to, gdy szkołą kierował dyrektor Jacenty Małkowski (od 1985 r. do 2000 r.).
Szkoła powstała blisko nowego dużego osiedla złożonego z wielorodzinnych bloków , zapewniając dzieciom bliskie i bezpieczne dojście na zajęcia lekcyjne. Szkoła nr 2 wykształciła całą rzeszę absolwentów, z których wielu ukończyło studia i objęło wysokie stanowiska pracy, nie tylko w samym Grójcu , ale także poza nim. Wśród absolwentów „ dwójki ” są sędziowie, prokuratorzy, nauczyciele (wielu z nich w niej obecnie pracuje), dyrektorzy placówek naukowo-badawczych, a także liczni przedsiębiorcy. Wielu po roku 1989 poddało się weryfikacji wyborczej, uzyskując wysokie poparcie społeczne i obejmując honorowe funkcje radców miejskich. Dzięki temu grójecka oświata zyskała protektorów rozumiejących jej potrzeby i starających się ze skromnego budżetu Gminy i Miasta wykroić znaczące sumy na ich zaspokojenie.
W 1994 r. ukończono rozbudowę szkoły poprzez nadbudowę drugiego piętra. W ten sposób częściowo rozwiązano problem popołudniowej, drugiej zmiany (w szkole uczyło się w tych latach ponad tysiąc uczniów).
Od 1998 r. rozpoczęto redukcję liczby oddziałów w związku z reformą polskiej oświaty – klasy siódme rozpoczęły naukę w klasie pierwszej w trzyletnim gimnazjum, a w roku 2000 pożegnano ostatni rocznik klas ósmych.
W dotychczasowym okresie swego funkcjonowania PSP nr 2 w Grójcu dobrze , wręcz wzorowo wypełniała zadania jakie stawiało przed nią MEN . Szkolne środowisko zawsze uczestniczyło i nadal aktywnie uczestniczy we wszystkich
lokalnych uroczystościach i imprezach, konkursach, zawodach i turniejach, prezentując swój dorobek dydaktyczno- wychowawczy oraz odnosząc znaczące sukcesy potwierdzone licznymi medalami, dyplomami i pucharami.
Stało się to wręcz tradycją szkoły, gdyż cały zespół nauczycielski, a zwłaszcza dyrektorzy zwracali szczególną uwagę na integrację swej młodzieży ze środowiskiem, co jest wynikiem także i tego, że okolica, w której szkoła funkcjonuje jest zamieszkana głównie przez rodziny niezasobne, gdzie rodzice pracują ciężko na utrzymanie domu nie mając zbyt wiele czasu, by poświęcić go na wychowanie swych dzieci. W związku z tym szkoła przejęła, w jeszcze większym stopniu niż to wynika z obowiązków, na siebie rolę opiekuńczą i wychowawczą wobec dzieci.