Google приостановила генерацию изображений людей в Gemini (ранее Bard) из-за расовой предвзятости
Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях.
Основные претензии к Gemini возникли после того, как пользователи заметили, что ИИ-генератор создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.
Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.
И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».
Папа Римский и девушка с жемчужной серёжкой
С 22 февраля Google приостановила возможность генерировать изображения людей с помощью Gemini. Представитель компании заверил, что они активно работают над улучшением системы генерации изображений, чтобы обеспечить более точные результаты.
Подобные перекосы замечены у Google не в первые. Ранее, в Google Images уже отмечались предвзятости в отображении различных расовых и социальных групп. Например, запрос «черная пара» приводил к отображению исключительно черных пар, в то время как запрос «белая пара» возвращал изображения пар, состоящих из представителей разных рас и гей-пары.
Такие же проблемы проявлялись при запросах изображений «гей-пары» и «гетеросексуальные пары»: изображения гей-пар часто попадали в результаты запроса «гетеросексуальные пары», поднимая вопросы о точности и балансе в репрезентации различных групп.
Аналогичные проблемы с предвзятым отображением различных расовых и социальных групп наблюдаются и в результатах поиска изображений в DuckDuckGo.
Классика!
В GPT говоришь ему, не пиши о %что-то%, и он обязательно об этом напишет ))
- Только не бросай меня в терновый куст! (с)
А как же самая мякоть?
Ок, добавлю ))
Белые тут?
Yandex туда же.
Скрепно!
Просто люди не знают английский язык. Искать надо "caucasian couple"
есть пара? Есть! Есть белый цвет? Есть!
Если хочется найти пары белой расы, то на английском это звучит как caucasian couple
Дословный перевод не всегда работает. Вообще белый человек, в плане принадлежности к расе, - это caucasian.
Вот тут спасибо за разъяснения. Несколько лет не мог понять причем тут кавказский тип внешности в анкетах 🥹
Опечатался в запросе
:)
Послушались вашего совета и поискали в Гугле, немножко смущены.
А Гагарина-то туда за что?
Ха-ха, похоже срочно переделывают свою woke машинку.
Боюсь представить, кем бы он был по версии Gemini
Ну, я видел промт с просьбой сгенерировать ванильное мороженое, gemini выдал шоколадное)))
Снег надо попробовать. Вдруг выдаст жёлтый
Картинки в Gemini не пробовал создавать, но вот информацию выдает полезную. Бывает, что даже лучше, чем GPT-4.
Совсем уже Куку поехала с этим равноправием. Учебники истории уже переписывают! Чернокожие арийские нацисты!
ну негры были в Вермахме
Да ладно?
Ну что было, то было) Африканский легион был, корпус F даже под Ростовом был )
Есть мнение, что история столько раз переписана — разом больше не страшно.
Чернокожие арийские нацистыНадо запретить НС учиться на фэнтези и фантастике.
Если человек учит историю по генераторам изображений, то здесь больше к нему вопросы. А на рынке изобилия нейросетей каждый может создавать свои альтернативные образы)
А чем ИИ хуже режиссеров? Им можно, а ему нельзя?
Клованы-толерасты.
С чернокожего солдата в каске я конечно знатно орнул.
Самый разъеб был бы, если бы чёрный был в колпаке Ку-клукс-клана.
сгенерить сходку куклусклана без масок))0
Негры уже просто за..бодали. запрещённый фб в ленту все время сует Блэк хистори месяц и прочие черные дела
Расширяют окно Овертона. То ли еще будет.