咸豐九年（1859），21歲的武訓開始行乞集資。他手使銅勺，肩背褡袋，爛衣遮體，邊走邊唱，四處乞討，其足跡遍及山東、河北、河南、江蘇等地。將討得的較好衣食賣掉換錢，而自己只吃粗劣、發黴的食物和菜根、地瓜蒂等，邊吃邊唱：“吃雜物，能當飯，省錢修個義學院。”在行乞的同時，他還揀收破爛、績麻纏線，邊績麻邊唱道：“拾線頭，纏線蛋，一心修個義學院；纏線蛋，接線頭，修個義學不犯愁。”他還經常給人打短工，並隨時編出歌謠唱給主人聽。當給人家推磨拉碾時，就學著牲口的叫聲唱道：“不用格拉不用套，不用乾土墊磨道。”另外，他還為人做媒紅，當郵差，以獲謝禮；表演豎鼎、打車輪、學蠍子爬、給人做馬騎等，甚至吃蛇蠍、吞磚瓦，以取賞錢；將自己的髮辮剪掉，只在額角上留一小辮，以兌換金錢和招徠施捨。

同治七年（1868），武訓將分家所得的3畝地變賣，加上歷年行乞積蓄，共210餘吊，悉交人代存生息，而後置田收租。他唱道：“我積錢，我買田，修個義學為貧寒。”

光緒十二年（1886），武訓已置田230畝，積資3800餘吊，決定創建義學。光緒十四年（1888），花錢4000餘吊，在柳林鎮東門外建起第一所義學，取名“崇賢義塾”。 他親自跪請有學問的進士、舉人任教，跪求貧寒人家送子上學。當年招生50餘名，分蒙班和經班，不收學費，經費從武訓置辦的學田中支出。每逢開學時，武訓先拜教師，次拜學生。置宴招待教師，請當地紳士相陪，而自己站立門外，專候磕頭進菜，待宴罷吃些殘渣剩羹即去。平時，他常來義塾探視，對勤於教事的塾師，叩跪感謝；對一時懶惰的塾師，跪求警覺；對貪玩、不認真學習的學生，下跪泣勸：“讀書不用功，回家無臉見父兄。”

在武訓的感召下，義塾師生無不嚴守學規，努力上進。光緒十六年（1890），武訓資助了證和尚230吊錢，又在今屬臨清市的楊二莊興辦了第二所義學。光緒二十二年（1896），武訓又靠行乞積蓄，並求得臨清官紳資助，用資3000吊於臨清御史巷辦起第三所義學，取名“御史巷義塾”（今山東省示範化學校臨清“武訓實驗小學”）。武訓一心一意興辦義學，為免妻室之累，一生不娶妻、不置家 。有人勸他娶妻，他唱道：“不娶妻，不生子，修個義學才無私。”其兄長親友多次求取資助，他毫不理顧，唱道：“不顧親，不顧故，義學我修好幾處。”

山東巡撫張曜聞知武訓義行，特下示召見，並下令免征義學田錢糧和徭役，另捐銀200兩，同時奏請光緒帝頒以“樂善好施”匾額。清廷授以“義學正”名號，賞穿黃馬褂。其名聲由此大振。

光緒二十二年（1896）四月二十三日，武訓在朗朗讀書聲中含笑病逝於臨清御史巷義塾，終年59歲。師生哭聲震天，市民聞訊淚下，自動送殯者達萬人，遵遺囑葬於柳林崇賢義塾旁。10年後，清廷將其業績宣付國史館立傳，並為其修墓、建祠、立碑。武訓的業績受到世人的欽敬，許多名家題詞，全國出現以武訓命名的學校多處，並曾一度將原堂邑縣改稱武訓縣。1945年，冀南行署在柳林創辦武訓師範。

1951年，電影《武訓傳》錯遭批判。“文化大革命”中，其墓被破壞。1986年，國務院辦公廳作出為武訓恢復名譽的決定。在魯西北的冠縣、臨清，有不少以“武訓”命名的學校：冠縣的武訓高中、冠縣柳林鎮的武訓學校、臨清的武訓實驗小學等。

作為清朝末年生活在社會最底層的一個乞丐，冠縣柳林人武訓靠著乞討斂錢，經過三十多年的不懈努力，修建起了三處義學，購置學田三百餘畝，積累辦學資金達萬貫之多，這無論是在中國還是在世界教育史上都是絕無僅有的事情，所以有人稱頌他是“ 千古奇丐.
生前為人誦經趕經懺賺錢者.遺漏經文經句者.往生後必經之所地獄遊記之第七回　遊補經所