公安机关在发现不应当拘留的时候，必须立即释放，发给释放证明。对需要逮捕而证据还不充足的，可以取保候审或者监视居住。