实际上，胡耀邦的组织性很强，刘少奇找他来谈话，胡耀邦就当面表示，服从安排，马上开始准备参加团的一届三中全会。他回到翠明庄的感慨，更多的是表现出对经济建设事务的留恋。
9 月上旬的一天傍晚，天气正热，团中央办公楼前喷水池边，机关的青年干部们吃过晚饭都来了，和新任团中央书记见面。当时还没有大会议室，青年干部们就在楼前水池边席地而坐，胡耀邦悄无声息地一下子来到大家面前。
不少人一愣，或者感到有些失望，胡耀邦的个头矮小，小平头，小青年模样，年纪比喷水池边的团中央干部们大不了多少。
胡耀邦站在水池边上侃侃而谈。他说：“中央调我来和大家一起做好青年团的工作，这是党中央对我们的信任。就我个人来说，这副担子很重，但是我有信心搞好。因为有三个依靠，一有党中央的正确领导，这是做好我们青年团和青年工作的根本保证；二是有一批有经验的多年从事青年工作的负责同志，我可以随时向他们请教，把工作搞好；三就是我们青年团有一支好的干部队伍和广大团员队伍。”
胡耀邦接着说到自己：“有这三条还不够，还必须请在座的同志们经常地监督我们书记处的工作，一旦发现我们有了缺点，特别是我有什么不妥的地方，请同志们毫不客气大胆地提意见嘛、批评嘛。不要有顾虑。若是我打击报复，你们就向中央告状嘛，告我胡耀邦的状嘛。”
胡耀邦的话，引起团中央干部们一阵笑声。
刚刚来到团中央，胡耀邦即从机关和报社抽调几个人组成一个没有冠名的小组到身边协助工作，首先来到的 3 人是团中央办公室（厅） 副主任黄天祥、北京市团委的干部佘世光（1978 年任《中国青年报》总编辑），还有张黎群，胡耀邦和他们一起研究青年工作的现状和即将展开的工作，以后又延及中国青年运动的历史。
张黎群在晚年还记得，胡耀邦把他们叫到办公室交代任务时的情景。胡耀邦一边踱步，一边用手指敲着自己的脑门说： “要多动动脑筋，多研究研究。”
胡耀邦精力充沛，勤奋刻苦，整天不知疲倦地工作和读书。他的卧室和办公室仅一墙之隔，中间有门相通，他从来不倒在床上午睡，午后只在办公室沙发上靠一会儿，看看报纸，打个盹儿，又起来工作了。在他的工作日程上没有周末和星期天。
胡耀邦夜以继日地工作，对干部的要求也很严格。他每次到外地调研，总要带上团中央的几个干部当助手，也借此机会熟悉他们。他对随行的人，除了考虑工作能力、思想水平和能否作记录、写材料外，总是事先特意询问：这个人是否刻苦？能不能熬夜？要是一听说不能熬夜，他会说：“那就不要带他去了。我就怕不能熬夜的，天一黑就呵呵呵直打呵欠，不但自己没有精力工作，而且还会影响别人。”
胡耀邦超负荷工作几十年如一日。他不止一次和秘书高勇说起：“有人整天玩，像欧洲一些国家（指当时的社会主义国家）的青年团干部，经常跳舞、打球，我就不相信他们比我们聪明多少，我们这么干还干不完，他们怎么就能那么轻松地干完工作！”
高勇回忆：胡耀邦几乎天天工作到凌晨才睡。我比他年轻 14 岁，但熬不过他。有时看我们秘书实在熬不住了，他就叫警卫员给他放一片安眠药在桌上，要我们先去睡。而他是什么时候睡的，我们就不知道了。胡耀邦到团中央工作不久，1953 年春天，原河南团省委书记刘冰调任团中央办公室（厅）主任。刘冰1938 年投身革命，曾在抗大学习，战争年代当过县委书记。他到团中央以后，承担了许多文字起草工作，许多重要文件是在胡耀邦主持下起草的。
以前，刘冰不熟悉胡耀邦，一起工作了，感觉到胡耀邦对起草团中央文件特别重视。一旦确定起草文件，胡耀邦经常带着刘冰找来几位团中央部长，请他们谈情况、出思路，同时找来速记员记录。谈得差不多了，刘冰等人开始起草。这类的文件起草总要几上几下，最后由胡耀邦改定。大家对文稿质量是满意的，但刘冰有一个感觉，就是起草这类文件耗时太长了。有一次，刘冰向胡耀邦提出，你要我们写文件，一搞就是一两个月，大量的实际工作怎么办？
胡耀邦笑了，当时没有回答。几天以后，他将刘冰找去，认真地说：“刘冰同志，你现在可不是搞团省委的工作了，现在是到了团中央。我也不是在川北工作了，也是到了团中央。我们团中央的文件，一经中央批准，全国都要执行，因此要特别细致。真所谓‘差之毫厘，失之千里’，所以眼光要放远一些，我们的文件是要经过历史检验的。”
刘冰听到后很受震动，认为胡耀邦说得在理，说：“耀邦同志，你这句话对我教育很大，我理解了。”
胡耀邦拍拍刘冰的肩膀： “好，明白就好了。”