材料是早已存在的名词，但材料科学的提出则是在20世纪60年代。1957年，苏联人造地球卫星发射成功之后，美国政府及科技界为之震惊，并认识到先进材料对于高技术发展的重要性，于是在一些大学相继成立了十余个材料科学研究中心，从此，材料科学这一名词开始被人们广泛地引用。
材料科学的形成是科学技术发展的结果。这是因为，第一，固体物理、无机化学、有机化学、物理化学等学科的发展，对物质结构和物性的深入研究，推动了对材料本质的研究和了解；同时，冶金学、金属学、陶瓷学等对材料本身的研究也大大加强，从而对材料的制备、结构和性能，以及它们之间的相互关系的研究也愈来愈深入，这为材料科学的形成打下了比较坚实的基础。第二，在材料科学这个名词出现以前，金属材料、高分子材料与陶瓷材料科学都已自成体系，它们之间存在着颇多相似之处，可以相互借鉴，促进本学科的发展。如马氏体相变本来是金属学家提出来的，而且广泛地用来作为钢热处理的理论基础。但在氧化锆陶瓷材料中也发现了马氏体相变现象，并用来作陶瓷增韧的一种有效手段。第三，各类材料的研究设备与生产手段也有很多相似之处。虽然不同类型的材料各有专用测试设备与生产装置，但更多的是相同或相近的，如显微镜、电子显微镜、表面测试及物理性能和力学性能测试设备等。在材料生产中，许多加工装置也是通用的。研究设备与生产装备的通用不但节约了资金，更重要的是相互得到启发和借鉴，加速了材料的发展。第四，科学技术的发展，要求不同类型的材料之间能相互代替，充分发挥各类材料的优越性，以达到物尽其用的目的。长期以来，金属、高分子及无机非金属材料学科相互分割，自成体系。由于互不了解，习惯于使用金属材料的想不到采用高分子材料，即使想用，又对其不太了解，不敢问津。相反，习惯于用高分子材料的，也不想用金属材料或陶瓷材料。因此，科学技术发展对材料提出的新的要求，促进了材料科学的形成。第五，复合材料的发展，将各种材料有机地联成了一体。复合材料在多数情况下是不同类型材料的组合，通过材料科学的研究，可以对各种类型材料有一个更深入的了解，为复合材料的发展提供必要的基础。
材料科学的形成