El jefe de la lucha antiterrorista británica ha dimitido después de reconocer un fallo de seguridad que pudo comprometer una importante operación en marcha.