Вероятность угрозы от ИИ и общественная реакция на нее

Форсится история, дескать, ученые из топовых AI лаб считают, что ИИ может всех убить с вероятностью более 10%

Общественность негодует, как же так, ужас-ужас.

На одном из подкастов недавно говорил: у всех читающих этот блог на горизонте 100 лет вероятность помереть 100%. Из потенциальных миллиардов лет, которые мы могли бы прожить, если бы прокачали трансгуманизм и победили старение (без ASI этого не получится). Допустим, это не оставшиеся 90%, но десять-то вы сами дадите?

Итого, получается, с одной стороны мы рискуем в среднем 10 годами текущей жизни (10%*100). А с другой стороны - апсайд в миллионы. И общественность все равно истерит.

Лучший аргумент против демократии.

Ну и в покер с таким мышлением играть тоже не стоит 😁

PS. Если человечество выживет, а вы умрете — вам все равно будет похер (по-определению), так что это в принципе в расчет брать нет смысла.