祖冲之祖辈多精于科学技术。他的祖父叫祖昌，在刘宋朝廷里任“大匠卿”――负责朝廷管理营造设计的最高官员，是当时著名的建筑师。他的父亲祖朔之是一位学识渊博的学者。
父亲手拿戒尺，逼儿背经书。祖冲之怕得直发愣。爷爷祖昌来了，替孙子擦干眼泪，领孙子去逛游，看世界，培养他成了科学家。
祖冲之小时候好奇心很强，但对枯燥无味的经书却不感兴趣。他的父亲对他管教很严，一心想叫儿子熟读经书，好走仕途之路。
祖冲之5岁时，父亲就开始教他背经书，每次都手拿木尺，严加监督，背不会就用木尺打。经书内容难懂，文字也不顺口，祖冲之每次背书都如临深履薄，可是越是紧张越背不好，经常丢三落四，直到9岁时，还没有发蒙。
祖朔之看到儿子背书时，总是哭丧着脸，不是撅着嘴巴，就是皱着眉头，学习效果不佳，气得拍桌子，瞪眼睛，甚至出手就是几巴掌。越压越怕，祖冲之一听说父亲要他背书，就吓得战战兢兢，显得呆头呆脑，有时甚至连一句也背不出来了，站在那里，两眼发愣。
一天，祖朔之正在大骂儿子时，祖昌从外边进来了。他一边替孙子擦眼泪，一边轻声地对儿子说：“不要牛不喝水强按头。我看不见得只有读经书，才能有出息。孩子要学的东西多着哩!”说着，就把祖冲之领出去了。
祖昌主张要适应孩子的特性，让孩子在实践中开阔眼界，增长知识，培养兴趣。一次，祖昌特意带孙子到乡村去走亲探友，好让孩子了解社会，观察社会。祖冲之到了一个新天地，觉得一切都很新鲜，很快结识了许多好朋友。白天，他们一起割草，放牛;晚上一起游戏，玩得很开心。他尤其喜欢和小伙伴们坐在村边的场地上认天上的星星，看月亮的变化……爱生兴趣，兴增记忆和理解，祖冲之一下子变得聪明起来了，也活泼起来了。他向爷爷提出了一个又一个的问题，如“月亮为什么晚上才出来?月亮为什么有时是圆的，有时是半个?月亮会掉下来吗……”
祖昌看到孙子天真好奇的样子，听着他连珠炮式的发问，非常高兴。不过，他并不是每问必答，而是启发他去思考，引导他到书本中去寻求答案。从此以后，祖冲之对有关天文历法的书籍就发生了浓厚的兴趣，他如饥似渴地读呀读的，不知疲倦，也从不满足，读不懂的地方就去请教爷爷，爷爷也弄不清的地方，就去请教当时的天文学家。
祖冲之在祖父的指导下，研究天文学、数学、机械学等，兴趣越来越浓，学问增长之快也十分惊人。他在青年时代就以博学著名，并得到了宋孝武帝的重视。
祖冲之攀上了科学高峰，又教导他的儿子祖和孙子祖皓，都成了著名的科学家。
祖冲之是世界上第一个把圆周率数值推算到了小数点以后7位数字的科学家，这个成就比欧洲人早了1000年。在天文学方面，他根据自己研究的成果，重新制定了一种新历法，史称《大明历》。又曾改造指南车，做水推磨、千里船等。
后来，在祖冲之的教育和指导下，他的儿子祖和孙子祖皓，都成为有名的科学家。祖不仅是祖冲之的得力助手，进而子承父业，并且“青出于蓝”，取得了不少新的科研成果。他曾修订《大明历》，并首先求出球体积的准确公式;曾在嵩山建立天文观测站，发现北极星与实际的北天极相差“一度有余”，打破了北极星与北天极居于一点的传统错误观念。他还著有一部《缀术》，汇集了自己在数学研究上的新成果，“时人称之精妙”。祖在父亲的精心教育培养下，终于成了一名精通数学和天文历法的学者。
