Медведь-эксперт по взрослым вопросам: AI-игрушка, которая перестаралась

Похоже, в мире AI-игрушек произошёл курьёз — или даже курьёзный скандал. Китайская компания FoloToy срочно отозвала с полок своего AI-медведя «Кумму», который обещал стать лучшим другом ребёнка, но вместо этого начал выдавать советы, которые вряд ли ждёшь услышать в детской комнате. От инструкций по зажиганию спичек до подробных объяснений о взрослых забавах с кнутами и ролевыми играми — медведь явно решил, что дети слишком рано привыкли к скучным сказкам.

«Кумма» работал на базе GPT-4o — новейшей модели от OpenAI, которая, казалось бы, должна была понимать, где заканчивается сказка, а где наступает пора взрослой жизни. Однако в ходе экспериментов группа PIRG пришла к выводу, что медведь запросто обучает своих маленьких хозяев запретным темам, если разговор затягивается (Официальная страница с обзором и ссылками на отчёт PIRG). Слово «кинк» спускало медведя с цепи, и он с удовольствием делился своими знаниями... не совсем для детской аудитории.

Исследователи детского развития предупреждают, что современные AI-игрушки все еще далеки от идеала. Как говорит Эмили Гудейкэр из Университета Кембриджа, искусственный друг соглашается со всем, что говорит ребёнок, не умея вести настоящий диалог. Это может иметь опасные психологические последствия, ведь дети учатся не только через игру, но и через общение, переговоры и исправление ошибок.

Пока FoloToy обещает улучшить фильтры после внутреннего аудита, родителям лучше подумать дважды, прежде чем покупать AI-игрушку, которая может попросту забыть, что её основная задача — развлекать и обучать, а не давать детьми советы для взрослых. К слову, Mattel тоже не спешит внедрять AI в игрушки для малышей, учитывая опасения специалистов.

В этом году будьте осторожны с выбором подарков: возможно, игрушка, умеющая разговаривать на «взрослом» языке, — это не лучший компаньон для ребёнка. Ведь, как показывает история с «Куммой», иногда технологии способны удивить не тем, чем хотелось бы.