Илон Маск: у нас только 10% шансов сделать безопасный ИИ
Сегодня я хочу поделиться с вами переводом статьи Челси Год (Chelsea Gohd), недавно вышедшей на сайте Futurism. Перевод сделали в нашей компании Neuromation, а мой подробный комментарий на тему недавно появился в нашем блоге на Medium. А что вы думаете: будет ли безопасный сильный AI? Все умрём? Или вообще не будет никакого сильного AI?..
Илон Маск - мастер разводить ПР ни о чем, а страх - самая популярная эмоция
Маск всё-таки не сам это придумал; те же Бостром и Юдковский говорят об этом уже лет десять подряд, настойчиво и убедительно. Просто сейчас у них наконец получилось достучаться до гейтсов и масков мира сего.
Конечно; об этом я и пишу:
Elon Musk recently claimed that we only have a “five to 10 percent chance of success” in making AI safe. I do not know enough to argue with this estimate, but I would certainly argue that Elon Musk also cannot know enough to make estimates like this.
https://medium.com/neuromation-io-blog/ai-risk-should-we-be-worried-eb9205d716f1
ну все как обычно. сначала мы это делаем, а потом думаем о моральной составляющей того, что мы выкатили
Не, сейчас как раз наоборот: когда выкатим, непонятно, скорее всего через десятки лет, а моральная составляющая уже начала кое-кого беспокоить. :)
Конечно; я об этом и пишу вот здесь:
https://medium.com/neuromation-io-blog/ai-risk-should-we-be-worried-eb9205d716f1
Лично мне по шкурным соображениям скорее интересно, будет ли лет через 50 сам Маск.)
Если ИИ опасен для человечества, это одно. Если оно может уничтожить человечество это другое, ибо тогда пооект Человек, запускали ради ИИ. И кто вообще сказал, что человек это не искусственное?
И роботы и мы, созданы из той природы , которая на планете земля.
А существование души, не доказано, что не является работой разума.