物理所在基础研究方面取得了一批以“铁基超导研究的重大发现和机理研究”、“液氮温区氧化物超导体的发现及研究”、“低纯度钕铁硼永磁材料”、 “定向碳纳米管的制备和结构和物性研究” 、“原子尺度的薄膜/纳米结构生长动力学：理论和实验”、“超强激光与等离子体相互作用中超热电子的产生和传输”等为代表的，具有原创性的重要研究成果，同时SCI收录的论文数和论文被引用数已连续十五年在国内科研机构中名列前茅。2002年，据“全国学位与研究生教育发展中心”首次公布的12个一级学科整体评估排名，物理所在物理学科中排名第一。2006年，物理所再次在物理学一级学科中排名第一。自1978年以来，物理所获国际、国内奖项共300多项，其中第三世界科学院物理奖5项、国家自然科学奖15项、国家发明奖5项、国家科技进步奖11项。