新中国成立初期（1949—1955 年）：国家赋予中国科学院全国科学研究中心的使命
中国科学院的成立肩负着为新中国发展科学技术的使命。1949 年 9 月27日，中华人民共和国成立前夕，第一届全国政协会议公布了《中华人民共和国中央人民政府组织法》。中央人民政府下设政务院，中国科学院作为政务院下的一个部门，管理全国科学行政。1949 年11月1日，中国科学院正式成立。新中国成立初期的中国科学院（1949—1955 年），面向全国行使行政职能。同时，中国科学院又有自己的研究所，这是由当时中国国情决定的。新中国刚刚诞生时，科学技术基础非常薄弱，全国科技人员不超过 5 万人。其中，专门从事科研工作的人员仅 600 人左右，专门的研究机构仅有 30 多个，科技基础薄弱。在这种条件下，建设一支科技队伍、集中科技资源，解决国家发展关键问题，成为党和政府发展科学技术的必然选择。中国科学院就担当了这样的使命。成立之后，中国科学院开始研究机构的组建，接收原中央研究院、北平研究院等下属的 24 个研究所，并调整为 18 个单位；此外，还筹建 4 个新的研究单位。
1950 年 6 月，政务院文件指出，中国科学院的基本方针是：按人民政协《共同纲领》规定的文教政策，改革过去的科研机构，以培养科学建设人才，使科学研究真正能够服务于国家的工业、农业、保健和国防事业的建设。根据上述方针，中国科学院确定了基本任务。在随后的几年，中国科学院按照这个总方针和基本任务展开了初创时期的各项建设任务。
1951 年 3 月5日，周恩来总理签署《政务院关于加强科学院对工业农业卫生教育国防各部门的联系的指示》，发给中国科学院和政务院各部委，确定了中国科学院在全国的学术领导地位。1954 年 3 月8日，中共中央对中国科学院党组报告做出长篇批示，明确“（中国）科学院是全国科学研究的中心，除了应以主要力量组织本院的科学研究工作外，还必须密切联系全国科学工作者，协助各方面的科学研究工作”。批示还指出，“各方面的科学研究工作应当有适当的分工，大体上，科学院主要是研究基本的科学理论问题和解决对于国民经济具有重要意义的关键性的科学问题。……生产部门的科研机构主要是解决生产中的实际技术问题。高等学校则视具体条件研究基础的科学理论或实际生产中的科学问题”。
1954 年召开的第一届人民代表大会，颁布《中华人民共和国宪法》，政务院改称国务院，中国科学院不再是行政部门。同时，为了加强学术领导，1955 年 6 月成立了中国科学院学部，被明确认定为“国家最高学术机关”和“全国科学研究的中心”。
到 1955 年底，中国科学院在自然科学方面的研究所，已经有 31 个，打造了科学研究的组织基础，凝聚了科研的队伍。在建院早期，中国科学院在为经济建设服务（重工业生产、农业生产的恢复以及抗生素生产等）、调查国家自然条件和勘察国家自然资源、基础研究以及人才培养与国际交流（研究生制度、派遣留学生等）方面作出了突出的成就。