Ученые против атомной бомбы и ИИ: опасности и вызовы современности
Ученые против атомной бомбы и ИИ
В середине ХХ века ряд учёных, включая Эйнштейна и моего земляка Сахарова, выступили против ядерного оружия и дальнейшего развития это сферы в целом.
Сейчас похожий контекст, высказываются учёные и инвесторы, и уже против ИИ, например: в марте 2023 письмо «Института будущего жизни» подписали Маск, Возняк и ещё 100 человек, призвали остановить обучение ИИ мощнее GPT-4 до разработки протоколов безопасности. В мае 2023 года Сэм Альтман и другие руководители OpenAI, Anthropic и Google DeepMind заявили: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с пандемиями и ядерной войной».
Два сходства:
- Глобальное влияние на все сферы жизни, бизнеса, макропроцессы;
- Развитие технологии на фоне горячих конфликтов на материке Евразия
Два больших различия между этими эпохами:
- Атомное оружие создавали централизованно и оно требовало огромных государственных ресурсов; современные ИИ-модели создаются как гигантами, так и тысячами частных компаний в условиях жёсткой коммерческой конкуренции;
- Опасность атомной бомбы была очевидна (после 1945-го), вред ИИ не очевиден и не выявлен, мы только догадываемся об опасности;
Как думаете, это то же самое или сравнение некорректно?
Подписывайтесь на Telegram Апгрейдер.