Робохроники ИИ: нейросеть оживляет фото, китайцы сделали свою робособаку, а систему OpenAI бессовестно обманывают

Ежемесячно команда RDL by red_mad_robot рассказывает про новости, кейсы и подходы в ИИ, которые можно переложить на нашу действительность и реально использовать. Главное за март уже тут.

Исследователи OpenAI обнаружили, что их систему CLIP можно обмануть. Для того чтобы заставить её неправильно идентифицировать объект, достаточно, например, прикрепить к нему бумажку с названием другого предмета.

Или добавить несколько символов:

Подобные обманные картинки называют состязательными изображениями. В них целенаправленно изменяют некоторые пиксели, чтобы ввести алгоритмы в заблуждение. Этот процесс называется «типографской атакой». В реальности он может угрожать многим приложениям, использующим технологии ИИ.

Но пока можно не сильно волноваться: CLIP — экспериментальная модель. И служит для того чтобы изучать, как ИИ-системы классифицируют объекты.

В CLIP есть «мультимодальные нейроны», которые срабатывают не только на изображения предметов, но и на текст. Например, в системе есть так называемый «финансовый нейрон», который реагирует на изображения копилок и отвечает на строку «$$$». Если поставить такой знак на фото собаки, то и её он начнет распознавать как копилку.

Подобные эксперименты приведут к возникновению более сложных мультимодальных систем. Однако сейчас эти технологии находятся на начальном этапе развития.

Исследователи из Массачусетского технологического института (МТИ) разработали нейронную сеть, которая может собрать реалистичную композицию из частей нескольких изображений.

С помощью сети регрессоров и предварительно обученной GAN нейросеть оптимизирует части изображений, а затем пытается додумать недостающие данные, смотря на общую картинку. Потом она редактирует результат и, обучившись, завершает коллаж.

С практической точки зрения, это может пригодиться для создания эскизов и изображений в ограниченные сроки.

Facebook представил модель компьютерного зрения SEER (с английского «пророк»).

К предвидению она никакого отношения не имеет. SEER — аббревиатура, получившаяся из слова SElf-supERvised («под самостоятельным наблюдением»). Система сама обучается распознавать объекты на фотографиях из интернета, а не на тщательно подобранных датасетах.

При прохождении теста ImageNet, с помощью которого проверяется, насколько точно алгоритмы определяют то, что изображено на фото, SEER получил оценку в 84,2%.

Тестирование подобной модели позволит её последователям стать более гибкими, точными и адаптируемыми в будущем. Facebook также открывает исходный код библиотеки VISSL, которую использовали для обучения SEER.

Китайская компания Tencent выпустила самостоятельно разработанного мультимодального четвероногого робота с программным и аппаратным обеспечением.

Робособака «Макс» — вторая модель компании. Первая версия — Jamoca — была представлена в ноябре 2020-го. Она стоила примерно в пять раз дешевле своего конкурента — робота Spot от Boston Dynamics.

Главное отличие «Макса» от предыдущей модели — приводные колеса в «коленях». С их помощью робот может передвигаться со скоростью до 25 км/ч. Энергии в этом случае тратится на 50% меньше.

А ещё «Макс» может стоять и перемещаться на задних «лапах».

Робоcобака обладает развитой «нервной системой», которая обеспечивает управление со скоростью менее миллисекунды и значительно сокращает задержку программных и аппаратных систем.

У робота развитый «мозжечок», из-за чего он прекрасно держит равновесие и может высоко прыгать.

Компания надеется найти ему практическое применение в ближайшем будущем.

Этой зимой беспилотные автомобили «Яндекса» преодолели свои первые 10 миллионов километров. Большая часть этого расстояния была пройдена в Москве, «в одном из самых сложных городов мира со сложными погодными условиями», — утверждает команда Yandex Self-Driving Group.

Сложные погодные условия — серьёзное препятствие для беспилотных автомобилей. Во-первых, снег и плохая видимость — некоторые из лазерных лучей лидаров отражаются от снега, поэтому они не достигают необходимой цели.

Но беспилотники генерируют более миллиона лучей в секунду и это гарантирует, что значительное их количество всё-таки достигает намеченных объектов. Даже если некоторые лучи отражаются.

Во-вторых, конденсация выхлопных газов. Зимой сильная конденсация выглядит как твердые препятствия в облаке точек лидара. С этим снова справляются нейросети, которые распознают выхлопные газы автомобилей и игнорируют их.

В-третьих, планирование движения. Зимой на дорогах лежит снег, который может быть свежим и рыхлым или твёрдым и плотным. Он может казаться безобидным, но скрывать под собой лёд. Эта проблема решается за счёт коэффициента трения между дорогой и шинами. Он автоматически определяется системой автономного вождения и влияет на все решения, принимаемые автомобилем.

Ну и в-четвертых, это изменения в дорожной ситуации в режиме реального времени. Автоматизированная система самообновляющихся карт позволяет беспилотникам адаптироваться к изменениям в городе. До обновления карт автомобили продолжают плавно перемещаться по улицам.

Благодаря способности технологии объединять данные с лидаров, инерциальных измерительных устройств и одометрии беспилотники компании могут локализовать себя даже в ситуациях, когда автомобиль скользит.

Команда Yandex Self-Driving Group заявляет, что, тестируя свою систему в столице, даёт ей инструменты для работы по всему миру.

Компания IBM разработала алгоритм на основе глубоких генеративных моделей и моделирования молекулярной динамики, который способен создавать новые антимикробные препараты.

Разработка новых антибиотиков — затратный и трудоемкий процесс. Более 10 лет и около $2–3 миллиардов требуется на то, чтобы изобретенное лекарство вышло на рынок. При этом вероятность успеха может составлять меньше 1%.

С каждым годом появляется всё больше пациентов с заболеваниями, устойчивыми к известным видам антибиотиков. Поэтому эффективные вычислительные стратегии для создания препаратов с необходимым терапевтическим эффектом нужны как можно скорее.

Таким решением и стал алгоритм IBM. Он создает короткие пептиды в виде минимальной физической модели, которая отражает высокую селективность природных АМП (антимикробных пептидов). Алгоритм максимизирует антимикробную активность, минимизируя токсичность для хозяина.

Компания Nvidia и исследователи из Гарварда представили набор ИИ-инструментов для исследований клеток ДНК.

Продукт AtacWorks может всего за полчаса проанализировать геном полностью. А вот для того чтобы повторить этот процесс с помощью традиционного метода, потребуется несколько часов. В некоторых случаях он и вовсе бесполезен, например, при экспериментах с очень редкими типами клеток.

AtacWorks позволит ученым проводить исследования с меньшим количеством клеток, снижая стоимость сбора образцов и секвенирования. А анализ результатов станет быстрее и дешевле. Система также поможет создавать и диагностировать новые лекарства.

ФБР предупредило, что в течение ближайших 12-18 месяцев вырастет количество мошеннических дипфейк-видео. По словам представителей бюро, подобные случаи появились еще в конце 2019-го, и их число пока только увеличивается.

За примером далеко ходить не нужно — в начале марта американка сгенерировала дипфейковые видео и фото с пьющими, курящими и обнаженными подругами своей дочери из группы поддержки. И разослала их девушкам, их родителям и владельцам спортивного зала, чтобы соперниц выгнали из команды. Женщину арестовали и предъявили обвинение в кибердомогательстве к детям.

Ученые, конечно же, пытаются найти способы, с помощью которых можно отличить дипфейк-изображение от реального. И иногда преуспевают в этом: исследователи из Университета штата Нью-Йорк в Буффало придумали метод обнаружения дипфейков, который основан на сравнении отражения в глазах человека. На реальных фото они идентичны, на фейках — очень разнятся.

Недостаток этого метода (простите за каламбур) бросается в глаза: несоответствия на изображении решаются ручной обработкой. А если человек не смотрит в камеру, или один глаз не виден на снимке, то подход не сработает.

Исследователи из Университета Джорджии разработали рюкзак с искусственным интеллектом. «Умное» устройство помогает слабовидящим и предупреждает о препятствиях или дорожных знаках.

Для этого система использует пространственную 4K-камеру, технологию Intel для обработки изображений, небольшое GPS-устройство для определения координат и bluetooth-наушник для управления.

А вот «Ростелеком» запустил в Туле ИИ-комплекс для мониторинга дорожной инфраструктуры. Программно-аппаратный комплекс (ПАК), который устанавливается на автомобиль, состоит из камер видеонаблюдения и модуля нейронной сети. Он фиксирует неисправности на дорогах, загрязнения на дорожных знаках, светофорах и опорах освещения.

Данные о состоянии дорожной инфраструктуры записываются в ПАК и в режиме реального времени передаются в облако «Ростелекома» (затем данные попадают в управление области, цель — сделать инфраструктуру лучше).

Разработчик из Гонконгского университета создал нейросеть, которая помогает виртуально примерить одежду. Она принимает изображение человека и изображение предмета одежды, а на выходе отдает картинку, на которой на человека надет этот предмет одежды.

Разработчик заявляет, что его система обходит своих соперников в реалистичности изображений.

Банк Нью-Йорка Меллон вместе с Google разработали ИИ, который прогнозирует сбои в казначейских операциях.

Существует ряд причин, по которым казначейские сделки в США могут быть сорваны. Например, если у одной из сторон не хватает ценных бумаг, необходимых для завершения операции, или же компьютерная система вышла из строя. Невыполнение условий сделки может нанести как ущерб репутации, так и привести к штрафным санкциям.

Для предотвращения подобных случаев модель машинного обучения, разработанная Google, анализирует прошлые торговые модели. ИИ учитывает спрос и предложение казначейства, скорость торговли и расчётов, а также историю торговых и расчетных операций вовлеченных сторон.

По словам банка, сделки, которые происходят во время интенсивной торговли, когда ценные бумаги не всегда доступны для завершения транзакции, а прошлые расчеты фирмы не выполняются, считаются заведомо неудачными.

Команда финансовых услуг Google Cloud привнесла в проект свою облачную платформу и опыт работы с данными, а Банк Меллон предоставил свои знания рынка. Но система работает на компьютерах центра обработки данных банка, и данные клиентов не передаются в Google. Руководство банка заявило, что не планирует запускать эту модель в производство на облачной платформе Google.

Как глубокое обучение может пригодиться в бизнесе? Ловите 7 полезных примеров.

Нейросеть Deep Nostalgia умеет оживлять фото. Получаются «живые» картинки, будто сошедшие со страниц газеты «Ежедневный пророк» из «Гарри Поттера».

Но пользователи, конечно же, идут оживлять мемы:

На этом все! До встречи в конце апреля.

Если понравилось или не понравилось, пишите в комментариях. Ведь без обратной связи робота не переобучить. Самые свежие новости про ИИ и не только в нашем Telegram-канале. Всем ИИ!

#ai #ии #нейросети #машинноеобучение #openai #яндекс #bostondynamics #redmadrobot #робохроники