Вы несколько смешиваете понятия.
Ходатайство об исключении доказательств подается в отдельном порядке по критерию их недопустимости. Недопустимость это несоответствие формальным требованиям закона. А недостоверность это "неправдивость" доказательства.

Если сильно не умничать, то можно сказать так - ходатайство о признании доказательства недостоверным не подается. Нет такого порядка. Недостоверность или достоверность оцениваются судом уже при постановлении приговора.
Если подать такое странное ходатайство об исключении доказательства по причине его недостоверности, то результат будет такой - в ходатайстве отказать, поскольку вопрос оценки доказательства будет решен судом при удалении в совещательную комнату для постановления приговора.
О недостоверности можно говорить только в качестве довода в прениях и в последующей апелляционной жалобе. 

Передача или отказ зависит от значимости оспариваемого доказательства

- как Вам известно, на  II-й ступени кассации при подаче кассационной жалобы в Судебную коллегию по уголовным делам Верховного суда жалоба сначала проходит процедуру первичного изучения (согласно ч.1 401.10 УПК).

- для того чтобы понять, повлекут ли аргументы оспаривающие одно из доказательств запрос дела и передачу его на рассмотрение - нужно оценить роль оспариваемого доказательства в доказательственной базе.

- само по себе признание одного из доказательств недопустимым еще не гарантирует изменения приговора.

Будет ли достаточно оставшихся доказательств ?

- в Вашей ситуации нужно задать себе вопрос: что было бы с приговором, если бы это доказательство исчезло еще в суде первой инстанции ? Повлекло бы это оправдание ? Или же есть иные доказательства, которые компенсируют эту пробоину ?

- именно этот вопрос задает себе судья кассационного суда, когда изучает жалобу. Поставим себя на его место:

а) вот он читает наш довод о недопустимости одного из доказательств, вынужден согласится с тем что доказательство недопустимо и понимает, что оставшихся доказательств недостаточно для обоснования виновности (ч.1 88 УПК). В таком случае он заранее видит, что если он передает дело на рассмотрение - то итогом рассмотрения будет изменение приговора. А ведь именно этому судье предстоит исполнять роль докладчика в кассационном заседании и он заинтересован в том, что по переданному им делу приговор был изменен (Подробнее об этом здесь: Докладчик в стадии кассации, роль в процессе).

б) если же судья видит что (хотя довод о недопустимости доказательства реально подтверждается) приговор все равно устоит, потому что остающихся доказательств вполне достаточно - то он не станет передавать на рассмотрение такую бесперспективную жалобу.

Возврат прокурору из кассации

- для такого кардинального решения как п.3 ч.1 401.14 УПК (оно кардинальное, так как "перезапускает" уголовный процесс со стадии даже не суда первой инстанции, а еще ниже - со стадии расследования) - требуются весомые основания.

Зависит от значимости доказательства

- как неоднократно говорилось: при "выбивании" доказательства, дальнейшая судьба дела (возврат дела или смягчение приговора) зависит в первую очередь - от роли которую играет конкретное доказательство в доказательственной базе.

- то есть, признание одного из доказательств недопустимым приведет к возврату дела прокурору:

а) при условии, что совокупность иных доказательств, оставшихся в уголовном деле - не могут считаться достаточной (ч.1 88 УПК) для оставления приговора неизменным.

б) при условии, что кассационный суд не может сам устранить  нарушения. Кассация должна постараться сама устранить нарушения (п.19 Пленума № 19). Например, кассационный суд может оправдать осужденного по одному из эпизодов, без возврата дела прокурору.

Причина отказа судьи

- Ваша кассационная жалоба содержала несогласие с оценкой доказательств - но в ней не было указано о том, что за нарушения (ч.1 401.15 УПК) допустил суд.

- то есть, если в жалобе приведен довод "вина не доказана" - то с точки зрения судьи, Вы оцениваете те же доказательства, что и оценил суд и оценивает их по своему.

- оснований отвергать оценку нижестоящего судьи и принимать Вашу оценку - кассационный судья не усмотрел, так как счел, что доводы выходят за предмет кассационного обжалования (401.1 УПК) и поступил как предписывает п.16 Пленума № 19 (не стал рассматривать эти доводы).

Оценка доказательств

- в статье 88 УПК приведены лишь общие абстрактные понятия - относимость, допустимость, достоверность, достаточность (совокупность) доказательств.

- но в этой статье нет даже примерных критериев для использования этих понятий по конкретному делу.

Это неудобный инструмент

- в этом содержится все неудобство и слабость аргументов о нарушениях при оценке доказательств - нет конкретики, суд по своему применил норму 88 УПК, но ее абстрактность (размытость) мешает нам сформулировать в чем именно он ошибся, что именно нарушил.

- для изменения приговора в кассации нужны именно - нарушения (ч.1 401.15 УПК), а нарушения при оценке, это такие нарушения, которые затруднительно продемонстрировать прямо, в конкретном виде.

Недопустимость

- ни в нормах Главы 47.1 УПК, ни в Пленуме о кассации - нет упоминаний о возможности отмены приговора в связи с нарушениями при оценке доказательств. Тут требуется окольный путь:

- обратите внимание на формулировку в п.16 Пленума № 19  "доводы жалобы на недопустимость доказательства повлиявшего на выводы суда относительно фактических обстоятельств дела, требуют проверки".

- то есть, дается логическая привязка, нарушения при оценке - это обоснование приговора недопустимыми доказательствами. Это ослабляет возможность защиты ссылаться на любые иные нарушения при оценке доказательств - кроме явно недопустимых доказательств.

Рекомендую ознакомиться со следующими материалами:

Запрет обжалования фактических обстоятельств в стадии кассации (п.16 Пленума № 19)

Лазейка для обжалования фактов, нарушения при исследовании и оценке.

I). Исследование доказательств

- исследование доказательств, это конкретные действия суда, перечисленные в статье ч.1 240 УПК, (допросы свидетелей и пр.)

II). Проверка доказательств

- проверка доказательств, это три способа перечисленные в статье 87 УПК (сопоставлением с другими доказательствами, путем установления источников, получением иных доказательств).

III). Совокупность доказательств

- есть целых три нормы требующих учитывать весь объем доказательств и оценивать их в совокупности, а не изолированно:

- ч.1 17 УПК  убеждение должно основываться на совокупности доказательств

- ч.1 88 УПК  совокупность доказательств

- ч.4 302 УПК  для приговора требуется совокупность доказательств.