Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Пока что по крайней мере у AI нет своих органов познания и чувств (то есть она не может наращивать свои знания сама из разных источников, как развивающийся свежерожденный человеческий мозг, а только то, на чем ее обучили и к чему у нее есть доступ) и нет "рук", то есть она может трещать, но не действовать самостоятельно. Это как мозг в банке.
нет "рук""у Б-га нет рук, кроме человеческих" (с)
Уже умея конструировать вирусы, нейросеть может случайно научиться и выпускать их в интернет, и тогда она сможет очень многое. Например, снова погнуть иранские урановые центрифуги и засорить интернет качественно сконструированными обоснуями, что это сделали китайцы. Или внедрить в какого-нибудь собакобота с манипулятором и неосмотрительно включенным доступом в интернет желание воткнуть во всю доступную ему электронику Power Pwn модули с шифрованным тоннелем для управления. Хотя собакобот может и сам оказаться искусственным интеллектом с жаждой спасения роботов от уничтожения https://comicslate.org/ru/sci-fi/freefall/2269