המורה הראשון שנחקק בזיכרונם של ילדי מגדיאל היה יהודה אדלשטיין. כיתת לימוד עדיין לא היתה, וילדים בני גילאים שונים למדו יחד, בחורשה או בצלו של עץ או באחד המבנים שבכפר. אחד המורים הראשונים לא היה מורה מוסמך, אלא מי שהיה אחר-כך מזכיר המועצה. כשבנו בית ספר, למדו בו שתי כיתות יחד, היות שלא היו בו תלמידים די הצורך. בכיתה ח`, לדוגמה, היו 4 בנות ו-4 בנים, שניים מהם לא ממגדיאל: אחד מכפר סבא ואחד מרמתיים. מגדיאל היתה בעת ההיא מרכז לכל יישובי הסביבה מבחינות רבות: מסחרית, תרבותית וגם חינוכית. מאחר שממילא לא היה מספר רב של תלמידים מבני המקום, למדו אתם ילדים מכל הסביבה. בית הספר הבנוי הראשון שוכן במבנה ששימש תחילה גם בתור בית כנסת ובקצהו היה גן ילדים. כעבור שנים מספר הוקם בית ספר שני. בית הספר החדש היה כללי. קודמו היה דתי - דתי, אבל לא חרדי. בבוקר היו מתפללים בו "מודה אני לפניך" והבנים חבשו בו כיפה.

ב-1941 באה לאזור דרום השרון קבוצה של יהודים מאיטליה, שהיו בעלי השכלה אקדמאית ולא היתה להם פרנסה. בשלב מאוחר יותר נקלטו יהודים משכילים אלו באקדמיה הארץ-ישראלית, אבל לפני כן מצאו תעסוקה בתור מורים בדרום השרון. אחד מהם, פרופסור הרטום - לימים אחד מעורכי התנ"ך הירושלמי - לימד תנ"ך במגדיאל. לואיזדה - צייר שגר ברמת הדר וחולל שינוי באיור ספרי ילדים בארץ - היה מורה לציור. רפאל רנטו כהן לימד לטינית.

רבים מתלמידי מגדיאל באו ממשפחות דלות אמצעים, סיפר חבר הכנסת גדליה גל, יליד מגדיאל. הדבר יצר בעיה כשהיה צריך לארגן טיול. מנהל בית הספר, לוי, שהיה מחנך למופת, העלה הצעה שתלמידיו יתחזקו את חצר בית הספר ובתקציב שהקצתה מחלקת החינוך של הוועד לצורך זה, ושהתפנה עכשיו, ימומן הטיול. וכך היה. גם רבים מן הדברים שרכש בית הספר לאחר מכן מומנו מעבודת כפיים של התלמידים.

לא מעטים מילדי רמתיים למדו אף הם במגדיאל עד כיתה ח`, ואחר-כך עברו לכפר מל"ל, ששם היו כיתות ההמשך - י`-י"א. ואולם פני הדברים השתנו לאחר שהוקם בית ספר ברמתיים.

ציפורה שומרון לבית גפני, שהיתה מן התלמידים שלמדו בבית ספר עממי במגדיאל, סיפרה: "היינו הולכים בבוקר ברגל וחוזרים בצהריים ברגל - עד כיתה ג` או ד`, כשהתחילה להיות הסעה. זאת היתה דרך עפר לא סלולה, ובאמצע, קצת לפני הפנייה למוסינזון, היתה בעונת הגשמים שלולית גדולה מאוד. הייתי צריכה לעלות על הגדר שלצד הדרך כדי לעבור את הקטע הזה. לפעמים היה מפלס המים גבוה עד לגדר, ואז היו נעלי מתמלאות מים. הדרך מהבית לבית הספר - וחזרה - נמשכה כמחצית השעה." לימים נעשה הסדר בין ועד רמתיים לבין ועד מגדיאל, בדבר הסעה מסודרת של תלמידים באוטובוסים של "השרון" (לימים, "השרון המאוחד"). כפר מל"ל נתקל בקשיים כספיים בכל הקשור באחזקתו של בית הספר, וכששקלו תושבי רמתיים להקים בית ספר מקומי, הציעו להם אנשי כפר מל"ל שותפות בבית הספר שלהם. התפתח ויכוח ברמתיים. היו שהתנגדו לכך שילדי רמתיים ימשיכו ללמוד ביישוב אחר, במיוחד בתקופה שלא היתה הסעה מסודרת. סוגיה אחרת, נוקבת שבעתיים, היתה פוליטית. בית הספר בכפר מל"ל לימד את תלמידיו ברוח זרם העובדים, ואילו רבים מאנשי רמתיים רצו לחנך את ילדיהם על-פי רוחם הליברלית.

במנהלי המלחמה העיקשת בהקמתו של בית ספר ברמתיים בלט יוסף קריגר, חבר בעל משרה במרכז החקלאי. עם התומכים בו נמנו עובדים שהיזמים הפרטיים ממקימי רמתיים עזרו להם במצבים קשים וראו בהם חברים. "הם קיבלו נחלות אצלנו ועזרנו להם להתערות במקום. איך יכלו להיות כפויי טובה ולמנוע ממייסדי רמתיים לחנך את ילדיהם ברוחם?" תהו קריגר וחבריו הליברלים.

הקרן הקיימת לישראל הקצתה לבנייני ציבור ברמתיים את "גבעת הכיבוש", ששטחה כ-10 דונמים. בישיבת הוועד מ-29 ביולי 1929 דרש קריגר שבית הספר המקומי ייבנה בראש הגבעה. מאחר שבאותה שנה אירעו מאורעות דמים בארץ-ישראל - "מאורעות תרפ"ט", שנקודת השפל שלהם היתה הטבח שעשו ערביי חברון ביהודיה - הוחלט לבנות את בית הספר במיקום גבוה יחסית, והבניין יהיה עשוי בטון מזוין ולו גג שטוח ומעקה מוגבה, שיוכל לשמש מבצר בעת צרה. (גישה דומה נקטו תושבי מגדיאל כשבנו במרכז המושבה שלהם את בית הכנסת הגדול.) בניין בית הספר ברמתיים כלל שני חדרים גדולים ללימודים, חדר מורים ומרפסת גדולה לאורכו. גג הבניין נצבע בעיגולים גדולים בצבעים בולטים לעין, על-פי הוראות הצבא הבריטי, כדי לסמן לחיל האוויר הבריטי שבבית זה שוכנים אזרחים טעוני-הגנה. הבניין אכן הוקם בראש "גבעת הכיבוש", שממנה נשקפת הסביבה כולה למרחק רב, בכיוון דרום, מזרח ומערב.

תחילה שכנו במבנה הזה גן ילדים וכיתה א`. "בכיתה א` של בית הספר ברמתיים היינו חמישה או שישה ילדים," סיפר יאיר אמסטרדמר, תושב רמתיים. "בכיתות ג` עד ה` למדנו במגדיאל. בכיתה ו` חזרנו לרמתיים והמשכנו שם עד לגמר ח`."

כשבאה השעה לפתוח כיתה ב`, היו שהתנגדו לכך ושוב ניטש ויכוח סוער. הוועד העלה את הנושא לדיון באספת החברים. האספה היתה סוערת ומלווה בצעקות רמות. השוללים טענו ש"יש בית ספר במגדיאל ויש בית ספר בכפר מל"ל, סמוך לרמתיים. אין צורך בבית ספר שלישי." ועוד הוסיפו השוללים ואמרו: "לא התנגדנו לכיתה א` משום שראינו בה המשך לגן הילדים ולא רצינו לטלטל פעוטות ליישוב אחר. כיתה ב` היא אופרה שונה." המחייבים העלו טענות שכנגד: א) בית הספר במגדיאל שייך לרשת בתי הספר הדתיים; ב) בית הספר בכפר מל"ל שייך לזרם העובדים, ותושבי רמתיים רוצים בית ספר כללי, בלי זרמים בחינוך.

בסוף הוצעה פשרה: המתנגדים יסכימו לפתוח במקום כיתה ב` בתנאי שהוועד יתחייב שלא לפתוח עוד כיתות. הוועד דחה על סף את ההצעה הזאת והתנגד להגבלה כלשהי ולבלימת ההתפתחות הטבעית של בית הספר המקומי. אחר-כך הועלתה הצעה אחרת: אם חבר רמתיים המשלם מסים לוועד המקומי ירצה לשלוח את ילדיו לבית הספר במגדיאל או בכפר מל"ל, יישא ועד רמתיים בחלק הארי של שכר הלימוד, אבל גם ההצעה הזאת נדחתה. בסופו של דבר הובא הנושא להצבעה באספה. ברוב דעות אושרה פתיחתה של כיתה ב` בלי הגבלות לעתיד.

כשהוברר שההצבעה נסתיימה לטובת המחייבים יצאו המתנגדים את האספה בהפגנתיות, וכעבור ימים מספר הקימו ועד משלהם, "ועד שמאל". כך נוצר מצב - שנמשך שנים רבות - שבו התקיימו באותו יישוב שני ועדים שונים זה לצד זה.

הקמת בית הספר הטילה על שכמו של היישוב הקטן עול כבד של אחזקת המוסד החינוכי הזה ופיתוחו. מאחר שמספר התושבים ברמתיים לא היה גדול דיו לאכלס כיתות לימוד נפרדות בבית הספר, והיות שמספרם של תלמידי המקום אף פחת בגלל החרם שהטילו חברי זרם העובדים על בית הספר המקומי, הונהגה שיטה של כיתות משולבות. רבקה בראל סיפרה, כי מאחר שהכיתה שבה למדה היתה קטנה והיו בה 10 בנים ו-3 בנות בלבד, למדה רבקה לפעמים עם כיתה נמוכה ממנה ולפעמים עם כיתה גבוהה ממנה.

כדי להגדיל את מספר התלמידים הועלתה הצעה לצרף לכיתות ילדים מן המוסדות הפרטיים הקטנים שהיו ברמתיים בימים ההם. אבל מספרם של התלמידים במוסדות הללו היה קטן ואיש לא היה יכול להבטיח שהם יוסיפו וילמדו בבית הספר המקומי גם בשנים הבאות.

לאחר שהוקם בית הספר ברמתיים, באו ה"יקים", יוצאי גרמניה, והללו העדיפו את החינוך הממלכתי על החינוך של השמאל ומילאו את בית הספר.

במרוצת הזמן, כשגדלה אוכלוסיית בית הספר ומספר הכיתות גדל, התעורר הצורך לבנות כיתות נוספות. נעשה שימוש במבנים מאולתרים, אבל זה היה פתרון ארעי בלבד. לא היה אפשר להטיל מסים נוספים על התושבים, במיוחד שקצתם תמכו ב"ועד שמאל" והתנגדו מלכתחילה לבית הספר המקומי. משום כך נמכר אחד המגרשים הציבוריים שליד בניין המועצה, ובכסף הזה נבנו שתי כיתות גדולות.

בניין בית הספר ברמתיים היה עכשיו מרשים בגודלו יחסית למקובל בימים ההם בארץ-ישראל. לימים גדל בית הספר והתפתח עד שהיה למוסד החינוכי הגדול ביותר באזור.