Опасны ли нейросети для детей?

Новое - всегда интересно, но не всегда безопасно
Новое - всегда интересно, но не всегда безопасно

С каждым днем в мире нейросетей становится все больше новых инструментов и сервисов, которые вносят свой вклад в развитие IT-сектора. Уже сегодня пытливые умы регулярно делегируют часть своих рутинных полномочий нейросетям, освобождая личное время для решения более важных задач.

Все это ведет к тому, что будущее уже не рассматривается в отрыве от нейросетевого участия в профессиональной, бытовой, развлекательной и иных сферах жизни людей.

Но…

Более важно то, что нейросети имеют потенциал принимать участие и в образовательной сфере, с раннего возраста предоставляя детям максимально эффективный доступ к знаниям - их предметным выжимкам.

Чем это опасно?

Отличие нейросети от классического образа преподавателя заключается именно в отсутствии «чувства необходимого». То есть при незащищенном взаимодействии с тем же ChatGPT ребенок рискует:

1. Встретиться с пропагандой.

Создатель ChatGPT – это компания под названием OpenAI, созданная и функционирующая в США. Это влияет и на позиционирование, например, того же ЛГБТ-контекста в ответах от ChatGPT.

Иными словами, в России неприемлема пропаганда ЛГБТ, и ChatGPT об этом знает. Однако, в своих ответах, затрагивающих эту тему, открыто ее поддерживает и поощряет. Очевидно, что подобное для неокрепшей психики ребенка опасно.

ChatGPT позиционирует ЛГБТ-аспект как благо, что неверно с нашей точки зрения
ChatGPT позиционирует ЛГБТ-аспект как благо, что неверно с нашей точки зрения

2. Стать объектом большой политики.

Ни для кого не секрет, что мы находимся в перманентном состоянии информационного давления. В том числе являемся и объектом политики, то есть тем, кого «тащат на свою сторону».

Эти же действия происходят и в ChatGPT, который по аналогии с 1м пунктом порой весьма открыто, так или иначе придает, к примеру, антироссийские взгляды в свои ответы на запросы. Это и делает ребенка объектом политики.

Антироссийский подтекст, несмотря на оговорки, очевиден
Антироссийский подтекст, несмотря на оговорки, очевиден

Мы против такого.

Есть ли безопасная для ребенка нейросеть?

Да, есть.

Это GPTkids – российский стартап и полноценная образовательно-развлекательная площадка, в которой ребенку не грозит встретится с означенными выше опасностями.

Создатели GPTkids – Юлай и Булат – 30летние отцы с командой разработчиков. Идея создания проекта была продиктована теми рисками, о которых писалось выше.

Стремясь познакомить своих детей (9летних 3классников) с новыми сервисами и научить их взаимодействовать с ними уже с ранних лет, Юлай и Булат поставили перед собой цель сделать нейросетевой сервис исходя из минимум 2 принципов:

1. Дистанцированность от пропаганды.

Наши настройки не дадут чат-боту отвечать на «скользкие» темы, потому что мы считаем, что в вопросах самоидентификации первостепенную роль должно играть воспитание и взгляд родителей/опекунов.

2. Максимально вне политики.

Равно как и в пункте выше, мы считаем, что GPTkids – это не место для политики. Чат-бот расскажет об истории, но не станет давать (навязывать) какую-либо точку зрения.

На любой запрос, касающийся "тонкой" темы, наш чат-бот отвечает следующим образом:

Пример действия фильтра "нехороших" запросов и ответов
Пример действия фильтра "нехороших" запросов и ответов

Таким образом мы не вмешиваемся в воспитательные процессы и в формирование мировоззрения детей.

А более подробно о GPTkids, о том что в нем есть и чем он полезен, мы расскажем Вам в следующей заметке😉

Начать дискуссию