《中日和平友好条约》全文虽不足1000字，但从酝酿到缔结经历了一个漫长的过程，其间中日双方各自国内的政局都发生了巨大变化，谈判的决策者和执行者也几经转换。经过双方的共同努力，最终缔约成功，迎来了一个满意的结局。
1974年12月初，日本政坛响起一声霹雷：田中角荣首相因涉嫌洛克希德案辞职，三木武夫上台组阁。三木上台伊始就表示要“促进日中和平友好条约的签订”，说“日中和平友好条约谈判正在顺利进行，谈判一旦达成协议，想尽早请国会批准”。
但是，在三木任内，中日缔约谈判经过几十个回合却无果而终。双方的主要分歧是要不要在条约正文中写进“霸权”条款问题。“反霸”条款是中日发表《联合声明》时已达成一致并写进《联合声明》中的，但起初日方提出的条约草案中却根本没有“反霸”内容；后来，他们又提出把“反霸”条款“以某种表达形式写在前言里”。中国政府则主张，应完整地，即把这一条款的两层意思写进正文里。
1976年12月24日，福田赳夫出任首相。1977年新年刚过，日本驻华大使小川平四郎就约见中国外交部礼宾司副司长高建中，转达了福田首相给华国锋总理的口信，表示“我有早日缔约的热情，期望能够以双方都能接受的方式达成协议”。
1月20日，来华访问的日本公明党委员长竹入义胜先后会见廖承志和华国锋时，又转达了福田首相给中方的口信，表示了与上次传话同样的热情。但这两次传话都强调达成协议要“双方意见一致”，“以双方都能接受的方式”。
3月11日，回国述职后返任的小川大使会见中国外交部副部长余湛，又转达了福田首相的传话。这是福田第三次传话。传话原则上态度积极，表示“福田内阁忠实恪守《中日联合声明》，强烈希望缔结悬而未决的日中和平友好条约”，但强调“要在双方都感到满意，得到两国人民欢迎的情况下解决”，“日方决心在时机到来之际，一举谈成”。
由于这几次传话都是话中有话，中方每次听到传话后，都在重申关于缔约的原则立场后表示：福田首相是否下决心是关键所在，既然还没有下决心，认为时机不成熟，中方可以也只能等待。
1977年9月初，复出后的邓小平副主席会见来华访问的日中友好议员联盟议长滨野清吾。在谈到缔约问题时，邓小平敏锐地抓住福田赳夫在施政演说中表示要推动缔结日中友好条约的动向，不无风趣地说：“既然福田首相声明要搞这件事，我们期待他在这方面作出贡献。其实这样的事只要一秒钟就解决了，不要很多时间。所谓一秒钟，就是两个字‘签订’。”
10月14日，邓小平副主席会见日本前内阁官房长官二阶堂进。二阶堂进说，来华前他见了福田首相。关于缔约问题，福田表示现在还不能够做出决断，希望中方再等待一些时候。邓副主席说：“他不下决心，你有什么办法？我曾对滨野先生表明了两条：第一，我们对福田先生的政治见解是熟悉的；第二，问题在于福田先生下决心，只需一秒钟。我们期待福田先生下决心，这一点不变。”
1978年3月26日，邓小平会见飞鸟田一雄率领的日本社会党代表团。邓小平说：“现在的问题是要福田首相下决断。我们认为，从《联合声明》基础上有所前进最好，至少不要后退。”
4月16日，邓小平会见日本创价学会会长池田大作，通过他继续就霸权问题做福田政府的工作。邓小平指出：“条约中写入反对霸权，无非有两个含义：一是中日两国都不在亚太地区称霸，我们愿意用这一条限制我们自己，至于日本，由于有历史的渊源，写上这一条，对日本改善同亚太地区国家关系是有益的、必要的；二是反对任何国家或国家集团在这一地区谋求霸权。日本反对在条约中写入反霸条款，是因为怕得罪美苏两个超级大国。其实，反霸条款是美国人写进中美上海公报的，所以，说得清楚一点，是怕得罪苏联。难道中国人民、日本人民还愿意和高兴苏联在亚太地区谋求霸权吗？”