Claude и верификация (1/2)
Ты был взвешен, измерен и признан неверифицированным.
По всей Руси стоит стон от пользователей Клода, на коих воззрело Око Саурона. «Что делать? Почему мне прилетела черная метка?» Пишут о верификации даже те, кто достаточно профессионален и аккуратен.
Но я тут оптимистичен: верификации вряд ли будут массовыми долго.
Дело не в стоимости проверки документов — это дешево, $1-2 за пользователя, Антропик может себе позволить. Дело в стоимости последствий для компании.
У пользователя отнимают больше, чем 5-10 минут времени. К нему проявляют недоверие и, главное, лишают возможности обсуждать с Клодом все так же откровенно, как и до верификации. Представьте, что в вашу спальню проник Дарио Амодеи. Сможете ли говорить нежности как обычно, не думая о том, как Дарио всё конспектирует?
Степень откровенности общения людей с ИИ колоссальная. В чатах и проектах живут личные и коммерческие секреты, страхи и мечты, вся наша жизнь. Предъявление документа однозначно связывает человека и его обсуждения. И для многих это грубейшее вторжение в границы личного, после которого невозможна прежняя искренность. Лучше уйти, чем верифицироваться. Именно эта стоимость последствий удерживает Дарио от этого увлекательного подглядывания в интимные документы пользователя.
Зачем же тогда антропики затеяли верификацию, если она так дорого обходится? Предположу, что задача — сбить волну создания аккаунтов, через которые конкуренты изучают Клод. А для этого собрать данные, которые улучшат алгоритм обнаружения таких аккаунтов.
Стоит отличать заявления Антропика от реальных интересов бизнеса. Регуляторные риски и рассказы про плохие страны — это скорее риторика. Реальный интерес — зарабатывать больше. Поэтому по-настоящему плохие страны для Дарио — те, которые могут отнять рынок у Клода.
Главный риск, думаю, они видят именно в дистилляции, когда конкурирующую модель учат на ответах Клода. Если скорость развития моделей замедлится даже на год-два (а это возможно по куче причин), дистилляция создаст конкурента сравнимой мощности по заметно более низкой цене, а это угроза всему бизнесу.
Дистилляцию невозможно устранить проверкой паспортов. Для этого нужен анализ промптов и связей между неизвестными заранее аккаунтами — и это вычислительно очень сложная задача. Зачем же тогда запустили верификацию? Скорее всего, она позволяет улучшить обучающую выборку для выявления «неестественных» аккаунтов. Это способ найти неизвестные Антропику способы маскировки — пользователь выглядел естественным по многим признакам, но после верификации был забанен. Возможно, дополнительным сигналом становится и отказ от проверки, особенно если у аккаунта долгая история. И тогда поиск признаков дистилляции уже идет в гораздо меньшем множестве «неестественных» аккаунтов. И вычислений меньше, и каждого подозреваемого можно проверить тщательнее.
Не исключено, что антропики попробовали банить больше подозрительных аккаунтов, но столкнулись с ростом числа ложных срабатываний. За первую половину 2026 года они забанили рекордные 11+ млн аккаунтов, а доля отмененных по апелляциям блокировок выросла втрое по сравнению со второй половиной 2025-го — до 0,37%. А если увеличилось число ложных срабатываний, доработка классификатора «подозрительности» могла стать поводом расширить верификацию.
Если мои гипотезы верны, то как только алгоритм научится точнее выявлять аномальные аккаунты (пользователей, у которых зазорно брать деньги регулярно, но не зазорно конфисковать однократно в момент бана), цена ложных срабатываний от проверок станет для Антропика чрезмерной, и верификацию засунут в чулан. Проверки станут заметно реже или прекратятся вовсе. Ровно до тех пор, пока хитрые пользователи не придумают новые способы обхода. То есть это инструмент судного дня, который применять больно и опасно для всех сторон, но когда у Антропика будет уплывать контроль над ситуацией, они будут к нему обращаться, а по мере нормализации — снова улыбаться и даже не требовать телефон при регистрации.