终生未娶，办起了三座义学
      俗语说得好：集腋成裘，聚沙成塔。经过多年的辛劳，武训终于积少成多，存了一笔 数目可观的钱。他打听到本县（山东堂邑县）有一位举人杨树芳，为人正直，名声很好，值得信赖，想把钱存放在杨家，于是跑到杨府求见。由于他是乞丐，主人拒而不见，他便在大门口一跪就是两天，最后终于感动了杨举人。武训声泪俱下地把乞讨积钱、兴义学之事原原本本叙述一遍，杨树芳举人深深为之感动，不但答应帮他存钱，并且表示要助他办学，助其完成夙愿。

      光绪十二年（1886年），武训49岁，已置田230亩，积资3800余吊，决定创建义学。光绪十三年（1887年），两名开明地主仰慕武训的为人，联合捐出土地供武训办义学之用。武训开始到各地购买砖瓦木料，并亲自押运。开工后，武训每天早起晚睡，在工地上搬砖打水，和工人们在一起共同劳动。
      光绪十四年（1888年），武训花钱4000余吊所建的第一所义学在堂邑县柳林镇东门外落成了，取名“崇贤义塾”。武训用了整整三十年的时间来实现他的理想，在这三十年里，他受尽苦难，但始终坚定地一步步迈向目标。“崇贤义塾”建成后，武训亲自跪请有学问的进士、举人任教，跪求杨树芳做学董，主持义塾，跪求贫寒人家送子上学。当年招生50余名，分蒙班和经班，不收学费。开学当天，准备了丰盛的筵席招待学董、老师和乡绅，武训自己却在外面向来宾磕头致谢，坚决不肯入席，只在宴会后吃了些残羹冷炙以充饥。
      义塾成立后，武训实现了心愿，但依旧以乞讨为生，依旧住在破庙里面，学生们集体跪求他来住义塾，他也不肯，说：“我过的生活自己不觉得苦，只要你们努力学习，我比什么都快乐。”一天大风，庙屋上的瓦刮下来，落到武训头上，砸得头破血流，他却悠然自得地唱着：“打破头，出出火，修个义学全在我。”
        义学创办人武训还十分关心义学里学生的读书情况，时不时来探视一下，对勤于教事的塾师，武训常常叩跪感谢；对贪玩、不认真学习的学生，他则是下跪泣劝：“读书不用功，回家无脸见父兄。”一天清晨，学生都已到齐，塾师却尚未起床。武训悄悄地走进塾师的卧房，不声不响地跪在床前不住地流泪。塾师醒来后，武训说：“先生睡觉，学生胡闹，我来跪求，一了百了。”还有一位塾师请假回家，逾期不归。武训步行六十华里赶到塾师家，孤身等候在门外一个通宵。塾师羞愧万分，再不敢超过期限。师生们感动于武训的真挚诚恳，没有一人再有一刻的疏忽怠慢，学风甚好，教学随之而相长。
      时任山东巡抚的张曜听说武训的义行，特地召见之。武训衣衫褴褛地步行到济南府。会面时，武训一面和张巡抚侃侃而谈，一面不断地捻着线头。他的率真纯朴令巡抚大为感动，下令免征义学田钱粮和徭役，另捐银二百两，同时奏请光绪帝颁以“乐善好施”匾额。清廷授以“义学正”名号，赏穿黄马褂。这本是至高无上的荣耀，但是在钦差面前，武训却不愿意下跪谢恩，也不愿意穿黄马褂，说：“义学正，不用封，黄马褂，没有用。修个义学万年不能动。”
      光绪十六年（1890年），武训资助了证和尚二百三十吊钱，又在今属临清市的杨二庄兴办了第二所义学。
  光绪十九年（1893年），武训搜集与购买了大量的有益图书，建起了读书会，专供没有钱买书的人自由借阅。有时他还携带图书到村镇的集市庙会上巡回展览，供乡亲们阅读。还大量翻印浅显的学习文章和书籍，免费散发给农民。同一年，朝廷官员，学部侍郎裕德到山东视察，武训在大街上拦轿募款。裕德捐给他两百两银子。
  光绪二十二年（1896年），武训花了3000吊钱于临清御史巷办起第三所义学，取名“御史巷义塾”（即今天的山东省示范化学校临清“武训实验小学”）。