Причины предвзятости ИИ легко понять... и трудно исправить. Если вкратце, то данные, используемые для обучения нейросетей, поступают из реального мира, который сам по себе страдает от предрассудков (гендерных, расовых...). Когда модели ИИ обучаются на этих данных, они закрепляют эти предубеждения. Это особенно заметно в том, как ИИ изображает определенные профессии (хотя некоторые усилия были предприняты, по крайней мере, MidJourney). Такое положение дел особенно тревожно, когда речь идет о вполне реальных и актуальных областях применения ИИ, таких как распознавание лиц в правоохранительных органах или алгоритмы приема на работу. Чего только стоит эта дикая история с учёным-гидрологом, которого нейросеть назвала возможным убийцей четырёх женщин. Инициативы по борьбе с этим явлением многочисленны. Например, OpenAI использует подкрепляющее обучение на основе обратной связи с людьми, чтобы направить работу ИИ в русло менее предвзятых ответов. Аналогичным образом, такие стартапы, как Runway, изучают возможность использования синтетических наборов данных для обучения своих моделей. Однако эти решения являются поверхностными исправлениями, которые скорее маскируют, чем действительно устраняют основные предубеждения в обществе. А общество не меняется.
я бы сказал путь ИИ в 2023 очень даже спешный)
Могло бы быть и быстрее)
Все пишут про положительные аспекты, но так хочется услышать отрицательное мнение людей. Не хотите в следующей статье раскрыть?
Отличная идея! Действительно вокруг мало отрицательных мнений, потому что критиковать можно только в ретроспективе как мне кажется. А когда это уже случится, большинству будет уже всё равно, потому что технологии плавно и незаметно будут внедрены в нашу повседневную жизнь. Например, как смартфоны или интернет. Можно ли сейчас сказать что-то негативное об интернете? Конечно! Можно ли сейчас представить без него жизнь? Очень вряд ли. Поэтому не смотря на то что кто-то будет заявлять о негативном влиянии интернета на социализацию/молодое поколение/здоровье etc (нужное подчеркнуть) большинству уже будет в целом всё равно на это. Пока негативные высказывания об ИИ связаны со страхом перед неизведанным. Благодарю за вопрос, раскрою эту тему в одной из следующих статей!