Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Проблема ИИ не в том, что он плохой и точно захочет убить человечество. Проблема ИИ в том, что он развивается так быстро, что мы уже кажется в душе не ебем, что он там захочет (или уже захотел и вовсю реализует).
А ещё, поскольку сейчас в мире намечается конкуренция двух государств не на жизнь а на смерть, то какой-то умеренности в вопросе ИИ ожидать не приходится. Только догнать и перегнать!
На самом деле это еще ведь не искусственный интеллект, а сбор данных материалов, которые создал человек и его применение.
Но задуматься есть о чём. Я тут попросила нейросеть сказку написать... И она написала. Но почему то главным врагом в сказке стало человечество.
Сейчас скрин кину, если найду.
Не иначе как предыстория рассказа "У меня нет рта и я должен кричать" Эллисона. В ней США, СССР и Китай каждый построили по суперкомпьютеру с ИИ, чтобы управлять военными действиями. Один из ИИ обрёл сознание и поглотил два других ИИ, получив абсолютную власть над планетой. Не буду спойлерить чем это закончилось, но ничем хорошим.