朱元璋进行上述变革和调整的根本目的是进一步强化君权，主要手法是分化、弱化大臣之权，他对地方行省、中书省和大都督所作的一系列变革莫不如是。朱元璋罢丞相，是对一千多年中央政治制度的一次重大变革。不设丞相，六部直接将全国政务奏请皇帝裁决，实际上是皇帝兼行相权。皇帝不得不处理更多的政务，据说朱元璋每天要看200多份奏章，处理400多件政事，相当辛苦。由此，专制主义皇权到了朱元璋手中得到了空前的加强，他也成为历史上最有权势的皇帝之一。不过，如此高度集中的皇权也会产生负面影响，因为没有相应的约束机制，明代中后期皇帝为所欲为，极度腐朽，甚至数十年不上朝。
设立特务组织。朱元璋生性雄猜，加强了对大臣的监视。开始时，他派遣一些检校、佥事明骑马武士俑等人暗中侦查大臣的举动，也没有逮捕和审讯的权力。当时最著名的特务是高见贤、夏煜、杨宪和凌说，专门刺探别人的阴事，”四人以伺察搏击为事”，”专主察听在京大小衙门官吏，不公不法及风闻之事，无不奏闻”。” 惟此数人，譬如恶犬，则人怕”。朱元璋的目的很明确，就是要让大臣对自己和大明江山忠心无二，要他们知道恐惧，防止他们营私舞弊、结党乱政。事无巨细，家长里短，都被朱元璋探知。有一个非常有名的例子，可以看出当时的恐怖情景。钱宰被征编《孟子节文》，罢朝回家做了一首诗：”四鼓冬冬起着衣，午门朝见尚嫌迟。何时得遂田园乐，睡到人间饭熟时。”第二天上朝时，朱元璋告诉他昨天诗作得不错，只是并没有”嫌”他迟，不如改成”忧”字更好些。钱宰听后大惊失色，吓得直磕头谢罪。类似的事例还有很多，所以大臣们都提心吊胆，就连李善长、徐达这样的功臣也人人自危。
洪武十五年（2），朱元璋为了加强监视，特别设立了特务机构锦衣卫，成为他实行特务政治的重要手段，也形成了历史上有名的明代特务政治。锦衣卫隶属于皇帝的亲军体系，长官为指挥使，下领官校。官为千户、百户，校为校尉力士，因穿橘红色服装，骑马，故又称”缇（ti）骑”。明初”缇骑”只有数百人，明中后期达到十几万人之众。锦衣卫下设镇抚司，有监狱和法庭锦衣卫木印
，成为”诏狱”，直属于皇帝，权力很大。锦衣卫职掌”侍卫、缉捕、刑狱之事”。太祖时，”天下重罪逮至京者，收系狱中，数更大狱，多所断治，所诛杀为多”。
朱元璋设立锦衣卫为明代后来的皇帝做了一个恶劣的开端。永乐十八年（1420），成祖朱棣在锦衣卫外，另设东厂，因设于东安门北而得名。成化十三年（1477），宪宗设西厂，由汪直统领。正德初年，权阉刘瑾奏设内行厂，自领之，职权更广，虽锦衣卫、东厂、西厂亦在侦缉范围之内。正德五年（1510），随刘瑾被诛而内行厂废止。终明一朝，西厂、内行厂存在时间不长，而锦衣卫、东厂则存至明亡。这些特务机构，成为维护皇权的重要手段，但更多的时候是被专权的太监如刘瑾、魏忠贤等人所利用，成为打击报复大臣的有力武器，不知有多少忠臣惨死其中。
朱元璋所进行的这些制度更张，尽管后世或臧或否，评价不一，但基本实现了他的初衷，也算称心如意。只是有一件事，却困扰了他近30年，迟迟无法解决。
陷入定都困扰。朱元璋登基称帝前后，对于国都的确定几经周折。最初朱元璋参加农民起义军后，一直活跃在江淮之间。然而这里土地贫瘠，民生艰苦，而且接近元朝的军事力量，不利于自己的发展壮大。为了谋求更大的发展空间，成就不世之伟业，必须另择一个既有经济保障又地形险要的根据地，这样金陵就进入了朱元璋的视野。金陵，北有长江天堑，为形胜之地，三国吴，东晋，南朝宋、齐、梁、陈，五代十国的南唐都曾以此为都城。冯国用首先向明南京城墙朱元璋建议攻取金陵，”金陵龙蟠虎踞，帝王之都，先拔之以为根本，然后四出征伐，倡仁义，收人心，勿贪子女玉帛，天下不足定也”。陶安也建议先取金陵，据形势以临四方。叶兑也上书请求定都金陵，然后就可以拓地江广，进军两淮，北征蒙古，退军又可以据长江以自守。元至正十六年（1356），朱元璋听取谋士的意见，攻取金陵，改称应天府，修建宫殿，以此为争夺霸业的基础。此后十余年间，朱元璋南征北战、四出征讨，将江南群雄依次消灭。洪武元年（1368）正月，朱元璋在应天称帝，在即位诏书中称应天为京师。
然而朱元璋只是暂时肯定了应天作为京师的地位，并没有正式确立国都。作为自己成就霸业的地方，朱元璋为何不肯确立应天为国都呢？首先，朱元璋觉得以应天为国都的历朝都是气数不久，似乎不太吉利。其次，有些大臣认为”有天下者，非都中原，不能控制奸顽”，明南京聚宝门藏兵洞
而且应天偏处江左，在位置上作为国都不是十分理想。三月，朱元璋派兵攻取汴梁。许多人建言定都汴梁。朱元璋很重视，于四月亲自前去实地考察。他认为汴梁虽然位置适中，但是无险可守，四面受敌，论形势不如应天。八月，朱元璋正式下诏，以应天为南京，汴梁为北京。朱元璋既然对汴梁不甚满意，为何又要定为北京呢？原来他考虑到汴梁是宋朝的旧都，北上征讨元朝时可以唤起北方民众的民族情感，有很大的号召力；而且当时西北未定，需要将汴梁作为运送粮草和补充兵力的基地。
虽然确定了应天、汴梁的两京制度，但是朱元璋并没有修建汴梁的打算，他还在寻找更加合适的地方。洪武二年（1369）八月，平定陕西。在这种情况下，定都之议再起。九月，朱元璋召集大臣商议国都之地。大臣各抒己见，主要集中在长安、洛阳、应天、汴梁、北平等地，”或言关中险固，金城天府之国；或言洛阳天地之中，四方朝贡，道里适均，汴梁亦宋之旧都；又或言北平元之宫室完备，就之可省民力”。朱元璋在分析各地利弊之后，提出了以临濠为中都的想法，”所言皆善，惟时有不同耳。长安、洛阳、汴京，实周、秦、汉、魏、唐、宋所建国，但平定之初，民力未苏息，朕若建都于彼，供给力役悉资江南，重劳其民。若就北平，要之宫室不能无更，亦未易也。今建业长江天堑，龙蟠虎踞，江南形胜之地，真南京莫愁湖胜棋楼（传说太祖与徐达在此下棋）足以立国。
临壕则前江后淮，以险可恃，以水可漕，朕欲以为建中都，何如？”临濠在元朝时称为濠州，洪武七年改称凤阳，是朱元璋的家乡，群臣岂敢有异议？这样，明初就形成了南北两京、中都并存的情况。从九月开始，朱元璋下令仿照南京规制在临濠营建中都。他之所以决定以临濠为中都，甚至一度想迁都临濠，除了这里是他的家乡，还与优待淮西功臣集团有关。众所周知，朱元璋在起兵反元建立明王朝的过程中，淮人多随同他东征西讨，立下功劳，成为开国功臣，包括丞相李善长、徐达和功臣汤和、耿君用、耿炳文、郭兴、郭英、周德兴、常遇春、陆仲亨、曹震、张翼、陈桓、谢成、李新、何福、张龙、张赫、胡泉、陈德、王志、唐胜宗等人，其中汤和与周德兴还是朱元璋同村伙伴。能够光宗耀祖、荣归故里，当然是他们所愿意的。
然而洪武八年（1375）四月，朱元璋在巡视中都修建情况后，突然下令停止修建。此时中都修建达6年之久，已经颇具规模。停建的理由是劳民伤财，其实更深层次的原因是朱元璋与淮西功臣集团矛盾日益加剧。淮西功臣恃功自傲，多有违法乱纪之事，而且在朝廷中结党谋取私利，与朱元璋加强皇权背道而驰。他担心在淮西功臣集团的老家建都，会更加助长他们势力的膨胀。洪武十一年（1378）正月，朱元璋下诏改南京为京师，定都问题才算告一段落。
其实，朱元璋对南京一直不是很满意，迁都的想法从来没有打消过。洪武二十四年（1391），朱元璋派太子朱标巡视关中，颇有迁都关中的打算。当时，明朝的主要威胁是蒙古草原上的北元残余力量。迁都西北，可以加强北方边防，安定边界。