Государство без регулирования отрасли ИИ. Или как далеко заходят фейки в СМИ?

Истории про баржу с тысчами видеокарт для ИИ в нейтральных водах.

Недавно наша редакция столкнулась с очень хорошо продуманным фейком, который смог обмануть весь Twitter (X) и крупные зарубежные СМИ. Речь пойдет о судне с оборудованием для ИИ стоимостью в $500 млн.

Привет, друзья!На связи NN — медиа про интернет, технологии и безопасность.

Сегодня разберем самый продуманный фейк в мире новостей технологий с которым мы когда-либо сталкивались.

31 октября некая компания Del Complex выпустила в своем блоге статью о запуске беспрецедентного проекта: они сконструировали судно (баржу) и погрузили на его борт более 10 тысяч видеокарт Nvidia H100. Корабль после этого отправили в нейтра-льные воды, а самому проекту дали красивое название BlueSea Frontier. К слову, одна видеокарта H100 сейчас стоит около 40 тысяч долларов.

Проект ставил задачу развернуть ИИ-мощности в нейтральных водах и оформить само судно как независимое государство, что позволило бы избежать контроля над работой с ИИ со стороны любого регулирующего органа. В свете последнего указа от президента США и закона ЕС о контроле и регулировании, а также саммита безопасности ИИ вопрос стал особенно острым, и компания Del Complex заранее предвидела тревожную тенденцию.

Как было указано в блоге, основать новое государство им позволит конвенция ООН по морскому праву (ЮНКЛОС) и Конвенция Монтевидео. Само «государство» обеспечено вооруженной охраной на экстренный случай, вроде нападения пиратов.

На первый взгляд новость звучала эпично, складно и сопровождалась несколькими изображениями баржи в море.

Первая волна этой новости появилась в Twitter на аккаунте компании. Она набрала 2.2 миллиона просмотров и получила серьезное обсуждение от участников ИИ-комьюнити.

Далее новость подхватили крупные американские СМИ, например медиа о технологиях Tom`s Hardware .

Но одно из изданий, The Vice, заподозрили неладное, и провели небольшой разбор медиа компании. Первое, что им бросилось в глаза это описание блога в Twitter. Вот его начало: «An Alternate Reality Corporation...»
Переведем на русский:

Такое позиционирование уже наводит на мысль, что перед нами ни что иное как шутка. Но как отметили The Vice, вирусные фейки в Twitter довольно быстро помечаются самим сообществом, и в конечном счете не получают широкой огласки. Но что есть, то есть.

Далее, Vice изучили профиль Linkedin компании, в котором среди прочих постов оказалась вот эта фотография.

Очевидно, что её сгенерировал ИИ. Согласно описанию это кадр ланча из лаборатории компании. Кроме выражения лица девушки слева и габаритов столовых приборов странным выглядит то, что они обедают в помещении, где судя по спецкостюмам и обстановке должна соблюдаться стерильность. Еда это само собой исключает.

При этом сам профиль Linkedin существует около полугода, и через него даже проводился поиск сотрудников для компании, что подтверждалось наличием электронных писем от кандидатов.

Кроме того, сам по себе проект имеет очевидные несостыковки: дата-центр такой мощности не сможет получать достаточного питания от солнечных батарей на борту, а для стабильной связи с ним потребуется протянуть кабель напрямую к судну, что технически невозможно.

Этого уже хватило, чтобы серьезно усомниться в существовании баржи, проекта и компании в целом.

Мы пошли немного дальше The Vice и продолжили изучать компанию

При внимательном осмотре сайта можно найти упоминание о некой ежегодной конференции для разработчиков, которую проводит Del Complex в Неваде. Внизу сообщения о записи на конференцию указан адрес: «Объект на горе Огаста».

Странное указание для адреса, но мы проверили информацию в Google-картах: и действительно, у подножия горы нашелся существующий адрес. Мы изучили место через спутник, и оно оказалось крайне отдаленным от шоссе, и само собой без панорамных снимков.

Забегая чуть вперед при дальнейшем анализе мы нашли упоминание о четырех объектах компании Del Complex, и объект в горах Огаста позиционировался как подземный комплекс.

Этому свидетельствует и странный отзыв в картах:

К отзыву приложено несколько фотографий в плохом качестве:

Все эти фото совпадают с концепцией подземной базы, но ни друг с другом, ни с крышами конструкций, которые видно на Google Maps. На фото с грузовиками также видно асфальтированную дорогу, но в этой местности есть только грунт, и ближайшее шоссе находится за многие мили.

Что ещё интересно, у адреса есть и другие странные отзывы: с изображениями домашних животных, ветчиной в виде головы мультяшного медведя и т.д.

Первые отзывы на Google Maps появились в апреле этого года, и это очень важно, поскольку в этом же месяце появился и их аккаунт в X (Twitter), и Linkedin, и в иных запрещенных соцсетях. До апреля никаких других упоминаний о компании не существовало, или, по крайней мере, нами найдено не было.

Все изображения на сайте и в соцсетях сгенерированы с помощью ИИ — на некоторых это видно не сразу, но везде, где изображены люди заметны следы работы нейросети.

Компания Del Complex нигде не зарегистрирована, и не представлена физическими лицами, что исключает её статус компании. Она позиционирует себя как исследователь чистой энергии, разработчик нейронного протезирования и еще кучу всего высокотехнологичного. Но ни одно СМИ до этого ни разу не писало о компании, или её разработках хотя журналисты никогда не упускают возможности выдать сенсацию.

Кроме того, ещё 3 адреса, о которых упоминается в разделе «О нас» просто не существуют. Единственная точка на карте только у подножия горы. Попробуйте поискать сами — может вам повезёт?

Ещё мы изучили магазин компании, где помимо одежды персонала можно купить и карту-удостоверение сотрудника всего за 15 евро. Карта даёт доступ к некой лаборатории №6 в кремниевой долине. При всем этом статус карты «деактивирована», а в самом конце описания есть интересная пометка:

Коротко поясним непонятные термины:

- Ризоматический в данном контексте скорее всего относится к информации означает «не имеющий порядка и иерархии в её перемещении».

- Гиперстиционный вообще ничего не обозначает, такого слова нет даже в оксфордском словаре.

Вам стало понятней? По нашему мнению это генеративный текст с запросом в духе «сделай научно-фантастическую сноску в описании товаров».

Из совокупности доказательств можно сделать вывод, что кто-то очень долго и планомерно придумывал легенду и хорошо освоил работу с нейросетями, а в подходящий момент выложил очередной пост, который удачно залетел. Слишком подозрительно, что «проект который обезопасит себя от контроля ИИ» появился почти сразу после подписания международного договора на саммите по безопасности ИИ.

Вероятно, Del Complex чья-то шутка, или хорошо продуманный эксперимент, но чем бы это ни было, мы имеем дело с фейком совершенно нового уровня: локальным, но тщательно проработанным, и что самое главное — прорвавшимся из топов Twitter в крупные СМИ, пусть и на некоторое время.

Даже сейчас эту новость на полном серьезе обсуждают наши комьюнити: например, вот свежая статья на Хабре с очень хорошей активностью, и попыткой проанализировать проект и саму компанию.

Пример с Del Comlex хорошо демонстрирует нам как далеко и качественно могут заходить фейки с помощью ИИ. В этом году сеть уже активно и на полном серьезе обсуждала фотографию взрывов возле Пентагона, или огромный пуховик Папы Римского — но это были просто фотографии сделанные за пару промптов, а не целый проект с тщательной подготовкой.

Учитывая насколько реалистичные изображения сейчас производят генеративные нейросети, а так же последние достижения игровых движков вроде Unreal Engine 5, можно сказать что Del Complex это только предвестник будущих фейков в СМИ.

Насколько это будет масштабно — покажет время. Поэтому нам стоит быть бдительными, и всегда проверять информацию, хотя с каждым делать это становится всё сложнее и сложнее.

С вами был проект NN.