Apoploe vesrreaitais — как нейросети DALLE-2 снятся птицы и еда

Исследователи из университета UT (Техас) обнаружили собственный язык нейросети DALLE-2, самой продвинотой сети генерации картинок по текстовому запросу.

Например, Apoploe vesrreaitais - это "птица", или, в более широком смысле, нечто летающее.

Многие замечали, что DALLE часто пишет какую-то ерунду вместо реального текста, но только сейчас исследователи поняли, что это не только формально похоже на язык, но и зачастую повторятся от генерации к генерации.

Тогда они попросили нейросеть сгенерить картинки по запросам типа

• Книга с надписью овощи

• Люди говорят об овощах с субтитрами

• Слово овощи на 10 языках

и сумели вычленить оттуда слово Vicootes, обозначающее "овощи".

Вот ещё примечательный пример двух сгенеренных картинок:

Найти причину, почему именно эти комбинации дают именно такие картинки на данный момент не удалось. Простые версии с опечатками и другими языками уже проверили.

Создатели таких нейросетей очень любят ограничивать пользователей в запросах, которые они могут задать. Не дай бог там будет что-то про порнографию или ущемление прав меньшинств. А тут наклёвывется лазейка, и история делает неожиданный поворот. Раньше люди использовали алгоспик, чтобы обмануть нейросети, а теперь нейросеть использует алгоспик для помощи людям.

Apoploe vesrreaitais!