Исследователи из университета UT (Техас) обнаружили собственный язык нейросети DALLE-2, самой продвинотой сети генерации картинок по текстовому запросу.
Например, Apoploe vesrreaitais - это "птица", или, в более широком смысле, нечто летающее.
Многие замечали, что DALLE часто пишет какую-то ерунду вместо реального текста, но только сейчас исследователи поняли, что это не только формально похоже на язык, но и зачастую повторятся от генерации к генерации.
Тогда они попросили нейросеть сгенерить картинки по запросам типа
• Книга с надписью овощи
• Люди говорят об овощах с субтитрами
• Слово овощи на 10 языках
и сумели вычленить оттуда слово Vicootes, обозначающее "овощи".
Вот ещё примечательный пример двух сгенеренных картинок:
Найти причину, почему именно эти комбинации дают именно такие картинки на данный момент не удалось. Простые версии с опечатками и другими языками уже проверили.
Создатели таких нейросетей очень любят ограничивать пользователей в запросах, которые они могут задать. Не дай бог там будет что-то про порнографию или ущемление прав меньшинств. А тут наклёвывется лазейка, и история делает неожиданный поворот. Раньше люди использовали алгоспик, чтобы обмануть нейросети, а теперь нейросеть использует алгоспик для помощи людям.
Apoploe vesrreaitais!
Здорово! или может Zdrov 0 - на ее языке)
Комментарий недоступен
Сегодня же напишу им емаил с Вашим предложением