。洪武二十年，朱元璋为太子朱标继承大统而铺路，朱元璋下令焚毁锦衣卫刑具，所押囚犯转交刑部审理；同时下令内外狱全部归三法司审理，将锦衣卫废除。
明成祖时，锦衣卫又得以恢复，并由北镇抚司专门处理诏狱。有明一代，锦衣卫一直存在。延续至1661年南明永历帝的锦衣卫指挥使马吉翔与掌卫事任子信于咒水之难被杀才可说是正式结束长达290年的历史。
由于锦衣卫是由皇帝直接管辖，朝中的其他官员根本无法对他们干扰，因而使得锦衣卫可以处理牵扯朝廷官员的大案，并直接呈送皇帝。所以，朝中官员多畏惧锦衣卫。但是，锦衣卫的刑讯范围只针对官员士大夫，所以一般不会审讯以及捉拿普通百姓。普通的百姓刑、民事案件只通过正常的司法进行处理。
洪武时期，因为锦衣卫有非法凌辱、虐待囚犯的行为，朱元璋下诏焚毁锦衣卫刑具，废除了他们的这项职能。明成祖朱棣登基之后，恢复了锦衣卫的所有权力，并有所加强。他设置了北镇抚司，专理“诏狱”，可以直接逮捕和拷问犯人，刑部、大理寺、都察院这些司法机关无权过问。明宪宗成化年间又增铸了北镇抚司印信，一切刑狱专呈皇帝，毋须通过指挥使转达，使锦衣卫北镇抚司成为皇帝直辖