1916年8月19日，在胡墨林23岁生日的第二天，22岁的叶圣陶和她喜结良缘。新婚当天是他们初次见面。叶圣陶和朋友开玩笑，自己与妻子的婚姻是打彩票式的结婚，自己幸运地中了头彩。拥有共同的教育背景和爱好的叶圣陶与胡墨林是在结婚后才开始恋爱的。
第二年，胡墨林应聘到南通县女子师范学校任职，叶圣陶进入吴县第五小学高等女子部任教。分居两地，夫妻俩只能写信倾诉思念，等待信件成为常态。但距离没有消减他们的恋情，感情变得更加深厚。叶圣陶疯狂地迷恋妻子，由于年龄小于胡墨林，他天真得像个小孩，如果妻子不在家，就会感到空虚无聊。
1922年2月，叶圣陶接受北京大学校长蔡元培、北京大学中文系主任马裕藻邀请前往北京，准备担任北京大学预科讲师，负责教作文课。在叶圣陶离家前夜，胡墨林对他说：“你放心去北京教书，家中我会照看的。”在百感交集中，叶圣陶写下小诗《想》：“想到渐渐地接近离别，心便怅惘了。”在去北京的途中为了消解离愁，他写出了《津浦车中的晚上》。在临近胡墨林产期的时候，叶圣陶更是魂不守舍。北京大学对他聘期是两年，叶圣陶仅仅教三十余天作文课，就请朋友帮忙代课，自己请假回家照顾待产的妻子。
1923年7月，郭绍虞从福建来信热诚邀请叶圣陶，希望他到福州协和大学任教讲授文学。本来叶圣陶不想离家远游，在郭绍虞恳切的催促下，他只能勉强答应。在即将离家的时候，叶圣陶在情感驱使下，写出散文《将离》。胡墨林买来梨子和香蕉，到码头为丈夫送行。依依不舍地倚着船栏，叶圣陶深深地感受到，离别的滋味是酸楚的，里面掺入苦涩辛辣的味道。
抵达福州协和大学，白天，叶圣陶在课堂上为学生讲授小说，夜间，他独自躺在床上，望着山那边的月亮，心中不由得想念妻子，在床上辗转反侧。
自从结婚起，叶圣陶就变成了非常恋家的人，期望能够经常待在家里。福州协和大学风景优美，教育环境很好。但由于无法忍受对胡墨林的思念，叶圣陶居然仅仅教到寒假，就从福州协和大学辞职，迫不及待地回家陪伴妻子。
1937年8月13日，日寇发动全线进攻，在战火的残酷威胁下，叶圣陶只得东奔西走。1939年8月19日，日寇出动36架飞机对乐山进行大轰炸，炮弹击中胡墨林一家居住的房子，幸好长子叶至善急中生智，赶紧弄开封死的后门，得以冲出火海死里逃生。获悉家中遭遇轰炸，在成都中学教师暑期讲习所讲学的叶圣陶心急如焚，第二天清早坐车急速赶回乐山。见到安然无恙的家人，他的心才平静下来。 “粗陶碗，毛竹筷子，一样可以吃饭；土布衣衫穿在身上，也没有什么不舒服；三间面对田野的矮屋，比以前多了好些阳光和清新空气。”在文章《乐山被炸》里，提到劫后余生的生活，叶圣陶不仅没有悲观失望，反而充满乐观情绪。
在抗日战争期间，叶圣陶家8次搬迁，在动荡时局里挣扎。多年颠沛流离的生活，导致胡墨林的身体每况愈下，61岁时被诊断出患有癌症。妻子罹患癌症，让叶圣陶遭受到沉重打击。在胡墨林患病后，叶圣陶悉心照料，只要妻子病情稍有好转，就陪同她出去散心。顾虑胡墨林疲劳过度，叶圣陶随手携带小板凳，以便她疲劳时可以坐下休息。
叶圣陶习惯写日记，基本上每天都要记载胡墨林的病情变化，他时刻盼望妻子能够好起来。1957年3月2日，胡墨林病情恶化，不幸去世。第二天，悲痛中的叶圣陶写下律诗《墨亡》：“同命四十载，此别乃无期。永劫君孤往，余年我独支。出门惟怅怅，入室故迟迟。历历良非梦，犹希梦醒时。”
在妻子病逝后，叶圣陶将她所有的照片放大挂在卧室里，让她的照片日夜陪伴自己。胡墨林逝世那年叶圣陶六十三岁，此后三十一年的时间里他是看着妻子的照片过完余生的。
自从喜结连理成为夫妻，叶圣陶与胡墨林风雨同舟，历经磨难不离不弃。到胡墨林故去的时候，他们已经携手走过四十一年的风雨。叶圣陶与胡墨林对二人的婚姻十分满意，在四十一年漫长岁月里，夫妻相敬如宾。真正值得称赞的婚姻，是彼此之间真诚相爱，永远把对方放在心上。