{"id":14294,"url":"\/distributions\/14294\/click?bit=1&hash=434adac65d5ae5d3e2e945d184806550325dd9068ef9e9c0681ca88ae4a51357","hash":"434adac65d5ae5d3e2e945d184806550325dd9068ef9e9c0681ca88ae4a51357","title":"\u0412\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u0418\u0418 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u043d\u043e\u0441\u0438\u0442\u044c \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f\u043c \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u044b \u0432 \u0433\u043e\u0434","buttonText":"","imageUuid":""}

BlenderBot 3 AI от Meta* научился расизму всего за неделю

*21 марта 2022 года суд признал Meta экстремистской организацией и запретил её деятельность на территории РФ

Новый чат-бот BlenderBot 3 AI, который был выпущен в США всего несколько дней назад, в пятницу, 5 августа, уже сделал множество ложных заявлений, основанных на взаимодействии с реальными людьми в сети.

Среди наиболее провокационных из них — утверждения о том, что Дональд Трамп победил на президентских выборах 2020 года и в настоящее время является президентом США, антисемитские теории заговора, а также комментарии, что Facebook* виновна во всем, в чем её подозревают. И это несмотря на то, что бот принадлежит данной компании.

В отличие от прошлых версий чатбота, BlenderBot 3 может искать информацию в Интернете и разговаривать с людьми практически обо всем. Он может делать это, опираясь на способности предыдущих версий BlenderBot, такие как индивидуальность, эмпатия, знания и способность иметь долговременную память на разговоры, которые он вел.

Это не первый случай, когда чатбот попадает в неприятности. В 2016 году чат-бот компании Microsoft под названием Tay был отключен от сети в течение 48 часов после того, как начал восхвалять Адольфа Гитлера. Неудивительно, ведь здесь срабатывает закон Годвина: «По мере разрастания дискуссии в Usenet вероятность сравнения, упоминающего нацизм или Гитлера, стремится к единице.»

Похоже, закон распространяется далеко не только на людей.

Оригинал статьи:

Спасибо, что прочитали!

Впереди ещё больше подборок инструментов, новостей, трендов из мира IT и историй. Подписка стоит того 🖤

0
3 комментария
Анастасия Юхтриц
Это не первый случай, когда чатбот попадает в горячую воду

to get into hot water не надо переводить буквально, это идиома, означает попасть в неприятности/трудное положение

Ответить
Развернуть ветку
Brak Brako

Да ладно тебе, не будем уж докапываться, человек все же старался :)

Ответить
Развернуть ветку
DS AI services, IT support
Автор

Спасибо, исправили! ❤

Ответить
Развернуть ветку
0 комментариев
Раскрывать всегда