Google потребует от разработчиков приложений добавить кнопку для жалоб на неприемлемый контент, созданный ИИ

Речь о сервисах, в которых нейросети создают изображения, текст и другие материалы по запросу пользователя.

  • С 31 января 2024 года Google потребует, чтобы разработчики приложений, в которых используется генеративный искусственный интеллект, добавили возможность пожаловаться на контент, который создают нейросети, или отметить неприемлемые материалы. Пользователи должны будут иметь возможность это сделать, не выходя из приложения.
  • Например, речь о приложениях, в которых используются чат-боты, если общение ИИ с пользователем — основная функция сервиса, или создаются изображения, которые генерируются по запросу. Те же правила касаются приложений, в которых с помощью ИИ создаются аудио- или видеозаписи реальных личностей.
  • Правила не распространяются на приложения, в которых размещается созданный ИИ контент, но нет возможности его генерировать; сервисы, в которых ИИ лишь обобщает информацию (например, из результатов поиска или документов); приложения, в которых ИИ помогает улучшить существующие функции (например, создавать черновики писем в почте).
  • Также ИИ-приложения должны соответствовать всем остальным политикам Google.
Пример обратной связи / Источник: Google
77
52 комментария

Вот просто объясните мне, далёкому от всей этой толерантности и прочей херободы: зачем?

Почему просто не написать в условиях использования что-то типа "всё, что ты генерируешь этой нейронкой - это твоя ответственность, если что не так - тобi пиздецъ".

Цензурировать заранее - это просто днище. Это уже почти как мыслепреступление. Тьфу на вас, короче. Жду нормальную нейронку, без всех этих ваших ограничений.

15
Ответить

Вот скажи, ты дурной?
Русским языком написано, что эта возможность для ПОЛЬЗОВАТЕЛЕЙ. По сути это защита от того, что нейросетью будет нанесён какой то ментальный вред пользователям продукта.
Днище - это скинуть всю ответственность на юзеров, типа "используете наш продукт - сами виноваты"

1
Ответить

Комментарий недоступен

Ответить

Локальный Stabe Diffusion с custom моделями — Так победим.

Ответить

Они и так ограничивают создание непотребств, но словарный запас для ограничения того или иного промта сильно ограничен, стоит буквально измененить окончание и получится желаемое порно. Ради расширения такого словарного запаса - это создаётся!

Ответить

Очень просто. Если не будет возможность жаловаться на приложение, то будут жаловаться на гугл.
Выход простой, роспространять приложение вне стора. Но вот тут могут возникнуть проблемы с оплатой за функционал.

Ответить