吴阶平幼年时期很崇拜他的父亲。父亲曾告诉他对人要有谦让精神，时时注意尊重别人，体谅别人，善于看到别人的长处，自己的不足，只有团结大家才能把事情做好。亲眼看到父亲依靠团结理念，使一个十口人的大家庭和睦相处，把工人众多、又很复杂的纱厂治理得很好。

　　吴阶平从入世起就特别注意团结，他说：“我在泌尿外科的各种会议中都表示，无论缺少什么，技术、设备、人才，我们都可以逐步补充，如果缺少团结，那就不是缺少问题，而是破坏，破坏我们已有的一切。所以必须把团结放在第一位。”

　　“我们泌尿外科团结的范围开始仅在自己的医院或研究所的同道中，后来发展到北京市、全国。在国内，其他学科的医学家们对泌尿外科的团结一致，也十分称道。后来我们举办了‘北京国际泌尿外科进展会议’，不仅带来了国外经验，也使国外知道我们的成就，现在大家还经常催问下次会议什么时候召开。”

　　在社会活动中，吴阶平也是把团结放在十分突出的地位。1995年底他当选欧美同学会会长，这个会有自然科学家、社会科学家、艺术家，还有工程技术人员、教授、医务工作者。总之，门类繁多，来源复杂，众口难调。他上任后不久，提出获得大家认同的办会方针：加强交流，广交朋友，积极参与，民主办会。他积极提倡民主办会，主张充分发扬民主，交流经验，交换意见。

　　他认为，会员之间不同议论对会务的开展可以起到支持和爱护的作用。会员之间互相尊重，时常换位思考，对事物的不同认识是可以逐步求同存异的，是可以在团结的基础上做成一些事情的。