Чтобы избежать "лесенок", можно сглаживать выделение, либо сразу установив растушевку (Feather) 1-2 пикселя в настройках лассо, либо потом размыв маску по Гауссу на те же 1-2 пикселя.