1955年，中国科学院成立学部，当时技术科学部副主任赵飞克与有关的学部委员商量，酝酿成立水利方面的基础性研究机构，设想依托清华大学水利系筹建水工研究室，暂时利用清华水利系的实验室，待将来水工研究所的办公室和实验室建成后迁出。上述安排得到清华大学校方领导同意后，中国科学院任命张光斗教授为研究室主任开始筹办，并于1955年8月从清华大学、华东水院、武汉水院和天津大学选拔10名当年应届毕业生（丁宝瑛、万兆惠、王书华、姜凯、时启燧、汪诗金、张继骞、眭朴如、邬惠欣、马惠民），开始了筹备工作。筹备初期借用了清华大学水利馆两间办公室，没有行政人员，就连桌椅板凳、文具用品、图书资料都是由新来的10个大学生操办的。1956年中科院派杨家德副主任（长征老干部）来研究室主持工作，成立了党、团、工会等机构，同时配备了总务、财务、人事、技工等工作人员（行政人员张敏、桑履珍、万世茂等，技术工人孙宝琨、余荣良、孙以芳等）。办公地点迁出清华水利馆，搬到清华园新林院，与中科院动力研究所合占一栋二层楼房（原中国科学院数学研究所旧址）。
1956年，中国科学院水工研究室正式成立之后，首先，积极邀请留学回国人员，充实专业骨干。先后有留美学者钱宁、林秉南、肖天铎、杨秀英、冯启德、朱可善等从国外归来；接着，留苏学者丁联臻、张有实、黄俊、朱忠德等也相继来到水工室。同时，从1956年大学应届毕业生中又陆续选拔了20余人；从1957年大学毕业生中再选拔来10余名，壮大了科研队伍（他们是：龚振瀛、陈鑫荪、应松亭、俞培基、陈燕茹、洪柔嘉、李中枢、霍永基，张国栋、李业彬、吕秀贞、陈斌林、王恺忱、陶芳轩、谢省宗、黄荣彬、牟平恕、张启舜、周文浩、陈 明、 谢汉祥、沈受百、于希哲、郭 慧、刘玉明、贺伟程、田乃姝、赵林珠等）。
    当时，拟定的中科院水工研究室专业方向是：开展水利基础性研究。初期，设泥沙、水力学、结构三个专业组，后来，又增设了水文组：（1）泥沙组：清华夏震寰教授兼任组长，钱宁博士任副组长，着重研究泥沙冲淤律规；（2）水力学组：清华张任教授兼任组长，林秉南博士任副组长，着重研究高速水流；（3）水工结构组：张光斗教授兼任组长，着重研究结构理论；（4）水文组：由华东水利学院刘光文教授兼任组长，着重研究陆地水文理论。
    1955～1956年期间，国务院开始制订“十二年科学技术远景发展规划”，按学科下设30余组分头讨论科学规划草案，其中水利组成员有5人，他们是：张光斗、黄文熙、严恺、谢家泽和覃修典。他们都是当时水利界各学科的领军人物，其中有4位曾担任了水利水电科学研究院的副院长。另外，参与水利科技规划的还有两位苏联专家：格立兴和明格利。当时拟订的水利方面两个项目是：“水工建筑物的设计与施工”和“水资源和流域规划”。这次科技规划，对技术科学部门提出了‘任务带学科’的方针，要求科研单位与生产部门加强联系，要理论联系实际，要增建实验室，要重视原型观测……
    与此同时，国务院考虑调整各部委的设置，有意将水利部与电力部两部合并，以便统筹规划。这时，水利部有的同志提出在北京有中科院水工室、水利部水利科研院和电力部水电科研院，太多了，有重复，应趁水利电力部合并之机，把三单位合并。当时水利部冯仲云副部长同意这个意见，中科院武衡副院长也同意这个意见。此外，中科院技术科学部正在酝酿成立新技术研究所（如原子能、电子、自动化……），有意把工业基础研究划归产业部门……
    在上述背景下，当1958年水利电力部合并成立后，中国科学院水工研究室与水利部北京水利科学研究院（北院）先合并，当年，又与燃料工业部（电力部）水电科学研究院（南院）完成了‘三单位合并’。中国科学院水工研究室从1955年夏开始筹建，到1958年春与水利部北京水利科研院合并，历时二年多，主要进行了以下几项工作：
    第一，筹建实验室。1956年，中科院水工室开始筹划办公地址，当时有两种意见，一是建在中关村，一是建在紫竹院，并开始了泥沙试验厅、变坡泥沙试验水槽、高速水流活动陡槽等实验室的设计。这部分工作，随着三单位合并，移至新建院来实施。
    第二，积极开展科技人员的专业培训。如：（1）选送留苏人员去深造，他们是：王书华、邬惠欣、眭朴如；（2）外派年轻的技术人员参加国内有关单位举办的学习班，如：力学班（谢省宗，陈明）、电测仪器班（姜凯、牟平恕）、水工实验班（丁宝瑛）…；（3）组织内部业务培训，先后开设的课程有 “泥沙工程学” （钱宁主讲）、“理论水动力学” （林秉南主讲）和“工程数学” （肖天铎主讲）；（4）开展经常性学术活动，如规定每周六为学术活动日，一方面聘请外单位专家教授来水工室讲学，扩大青年科技人员的知识面；一方面提倡青年科技人员写‘读书报告’充实学术活动内容……。这些措施，既增进了学术气氛，也加强了专业理论建设。
    第三，招收了第一批研究生。他们是：周志德、赵振国、张有天。
    第四，专题研究的准备。例如：主持编译了《高速水流论文译丛》、《泥沙冲淤规律论文译丛》、《波达波夫文集（第二册）》等，并于1958年先后正式出版。通过编译专业文集，既提高了科研人员的外文阅读水平，又引导他们逐步进入了角色。
　

1958年以前中国科学院水工室全体人员合影