На тему "самосознание не является необходимым качеством разумности" рекомендую роман Питера Уоттса "Ложная слепота", там действительно такой пример сконструирован (и с пугающей убедительностью!).
Я бы сказал "не самые последние популисты".Интелект не сухая математика,а еще к примеру и творчество,не представляю как это в формулы уложат,рандомом?Если грубо по фрейду то ему и незачем этим заниматься,останется пожалеть существо с отсутствием желания бессмертия через продолжение рода,желания выживать,любое его стремление задается из вне(по сути такой же калькулятор).О эмоциях,"ярости альтрона" вообще и речи не может быть у него даже гормонов нет,сдались ему ресурсы. Тут мало программистов,надо еще и экспертом в нейробиологии быть,последнии пока говорят что и мозг смоделировать пока не представляется возможным.
Мой аргумент в конце статьи был как раз о том, что не совсем обязательно моделировать мозг, чтобы сделать что-то, что умнее человека. Не обязательно моделировать крыло и перья, чтобы летать. Если бы для того, чтобы быстро передвигаться мы пытались воспроизвести механизмы движения животных, мы бы все еще не смогли ходили пешком от Москвы до Петербурга.
А почему тест Тюринга считается таким абсолютным водоразделом? Ведь это тоже по сути мнение людей, а не закон. Нет доказательства того, что прохождение текста Тюринга является признаком создания настоящего искусственного интеллекта.
Тест Тьюринга считается водоразделом, так как пока программы его не прошли. И представляется, что для прохождения теста нужна универсальная рациональность. То есть рациональность в самой широкой области. Пройти тест просто симулируя понимание просто не получится
Потому что после его прохождения AI сможет обманывать человека, маскироваться и, соответственно, выйдет из под его контроля. Грубо говоря, мы не будем знать, какие действия совершил AI, какие - люди, будем не в состоянии оценить степень его развития и опасности и не сможем вовремя отключить "рубильник".
Эх, сколько мы уже видели попыток напугать тем, что "ууу, компьютер уже обыгрывает всех в го, скоро он захватит мир". Все такие эксперты, к сожалению, не понимают разницу между алгоритмом и сознанием. И не удосужились погрузиться хоть немного в тему и понять, что учёные уже не одно десятилетие пытаются подступиться к пониманию сознания, и пока там полный абсолютный круглый ноль. Но через 30 лет, конечно, точно будет армагеддон. Если же автор имеет ввиду, что мир захватит алгоритм (без сознания), то этот алгоритм сначала должен быть создан человеком. То есть проблема, как обычно, в нас самих и не в страшном искусстыенном интеллекте
Странно, что у нас до сих пор не приняли закон, запрещающий вольнодумие искусственному интеллекту, чтобы не смел сомневаться и обязательно проходил патриотическое и духовное обучение.
Если говорить о риске, то можно вообще вывести за скобки обсуждения создание полноценного самостоятельного искусственного сознания (в рамках создания ИИ). Посмотрите на бактерии и вирусы, у которых нет сознания и абстрактного мышления, которые действуют успешно против более развитых и сложных существ. Они обходятся более скромными ресурсами, им достаточно "программы поведения", которая направлена тупо на размножение и уничтожение целей. Вирусы писать люди давно уже научились. Нет и проблемы с наличием "злой воли" среди людей (обязательно найдется желающий). Машины могут уничтожить людей и без появления полноценного ИИ (имеется ввиду без настоящего сознания). Вот это будет настоящая катастрофа, когда относительно разумная жизнь в человеческом облике будет уничтожена, а новая более продвинутая не успеет появиться. Останутся только "роботы-зомби", имитирующие разумное поведение.
Машинам нужно будет никого убивать. Отнимаете у людей всю работу, и платите пособия на содержание, а потом, когда все готово, перестаете платить: зачем содержать бесполезных паразитов. Большинство людей умрут сами, или убьют друг друга за еду.
Сразу видно что чувак не программист. У них так всегда - объясняешь им что ну невозможно, а они говорят "о случайном создании", "а вдруг", "москва не сразу строилась","рано или поздно произойдет прорыв" и т.д. Не могут компьютеры думать, а просто исполняют команды.
""Она утверждала, что компьютер, даже очень мощный, не способен ни на творчество, ни даже на то, что мы называем «интеллектом». Ведь любая машина — всего лишь бездумный исполнитель алгоритмов, заложенных в нее человеком. То есть даже если компьютер когда-нибудь и напишет стихотворение или роман — все равно авторские права будут принадлежать кодеру, который его на это запрограммировал."" - об Аде Лавлейс.
Компьютеры уже давно "не просто исполняют команды". Программисты, которые писали программу Deep blue, которая выиграла у Каспарова, сами не могли выиграть у Каспарова. И не предполагали, как эта программа будет играть. Более того, эта программа не "просто считала" комбинации в игре. Она училась у других программ. Большая часть современных AI продуктов построены на Deep learning, то есть на самообучающихся моделях. Эти модели создаются с наборами примитивных правил, а потом их деплоят в среду, где они начинают тестировать свои гипотезы.
ИИ способен определять паттерны максимизации успеха намного лучше человека. Вопрос в том, на какую задачу натравить агента. Предположим мы научим нейронки управлять экономикой стран, с эффективностью на порядки превышающей человеческий менеджмент. Министерства экономики станут рудиментом, и только вопросом времени будет замена этого министерства программой аля DeepBlue. Дальше всё может быть хорошо, а может и плохо, смотря как весы будут настроены и что нейронка посчитает максимизацией успеха ;)
>мы научим нейронки управлять экономикой странКонечно, так будет на кого удобнее сваливать кризисы и проблемы. "Отстаем в ИИ перед западом..", скажут нам по ТВ :).
Если серьезно, то нейронки не заменяют людей, а лишь могут упростить самую банальную рутину. Можно написать скриптов- помощников в министерстве и этого будет достаточно. Ничего серьезного в плане "лучше чем человек" они не делают по определению.
А если судить по фондовому рынку, то эффективных систем нет и не предвидится. Тут была на силиконе статья https://vc.ru/p/algorithmic-trade инвесторы сторонятся таких лохотронов. Так что пока министерства экономики будут белковыми.
На тему "самосознание не является необходимым качеством разумности" рекомендую роман Питера Уоттса "Ложная слепота", там действительно такой пример сконструирован (и с пугающей убедительностью!).
Я бы сказал "не самые последние популисты".Интелект не сухая математика,а еще к примеру и творчество,не представляю как это в формулы уложат,рандомом?Если грубо по фрейду то ему и незачем этим заниматься,останется пожалеть существо с отсутствием желания бессмертия через продолжение рода,желания выживать,любое его стремление задается из вне(по сути такой же калькулятор).О эмоциях,"ярости альтрона" вообще и речи не может быть у него даже гормонов нет,сдались ему ресурсы.
Тут мало программистов,надо еще и экспертом в нейробиологии быть,последнии пока говорят что и мозг смоделировать пока не представляется возможным.
Мой аргумент в конце статьи был как раз о том, что не совсем обязательно моделировать мозг, чтобы сделать что-то, что умнее человека. Не обязательно моделировать крыло и перья, чтобы летать. Если бы для того, чтобы быстро передвигаться мы пытались воспроизвести механизмы движения животных, мы бы все еще не смогли ходили пешком от Москвы до Петербурга.
А почему тест Тюринга считается таким абсолютным водоразделом? Ведь это тоже по сути мнение людей, а не закон. Нет доказательства того, что прохождение текста Тюринга является признаком создания настоящего искусственного интеллекта.
Тест Тьюринга считается водоразделом, так как пока программы его не прошли. И представляется, что для прохождения теста нужна универсальная рациональность. То есть рациональность в самой широкой области. Пройти тест просто симулируя понимание просто не получится
Потому что после его прохождения AI сможет обманывать человека, маскироваться и, соответственно, выйдет из под его контроля. Грубо говоря, мы не будем знать, какие действия совершил AI, какие - люди, будем не в состоянии оценить степень его развития и опасности и не сможем вовремя отключить "рубильник".
Эх, сколько мы уже видели попыток напугать тем, что "ууу, компьютер уже обыгрывает всех в го, скоро он захватит мир". Все такие эксперты, к сожалению, не понимают разницу между алгоритмом и сознанием. И не удосужились погрузиться хоть немного в тему и понять, что учёные уже не одно десятилетие пытаются подступиться к пониманию сознания, и пока там полный абсолютный круглый ноль. Но через 30 лет, конечно, точно будет армагеддон. Если же автор имеет ввиду, что мир захватит алгоритм (без сознания), то этот алгоритм сначала должен быть создан человеком. То есть проблема, как обычно, в нас самих и не в страшном искусстыенном интеллекте
Странно, что у нас до сих пор не приняли закон, запрещающий вольнодумие искусственному интеллекту, чтобы не смел сомневаться и обязательно проходил патриотическое и духовное обучение.
Если говорить о риске, то можно вообще вывести за скобки обсуждения создание полноценного самостоятельного искусственного сознания (в рамках создания ИИ). Посмотрите на бактерии и вирусы, у которых нет сознания и абстрактного мышления, которые действуют успешно против более развитых и сложных существ. Они обходятся более скромными ресурсами, им достаточно "программы поведения", которая направлена тупо на размножение и уничтожение целей. Вирусы писать люди давно уже научились. Нет и проблемы с наличием "злой воли" среди людей (обязательно найдется желающий).
Машины могут уничтожить людей и без появления полноценного ИИ (имеется ввиду без настоящего сознания). Вот это будет настоящая катастрофа, когда относительно разумная жизнь в человеческом облике будет уничтожена, а новая более продвинутая не успеет появиться. Останутся только "роботы-зомби", имитирующие разумное поведение.
Машинам нужно будет никого убивать.
Отнимаете у людей всю работу, и платите пособия на содержание, а потом, когда все готово, перестаете платить: зачем содержать бесполезных паразитов.
Большинство людей умрут сами, или убьют друг друга за еду.
Сразу видно что чувак не программист. У них так всегда - объясняешь им что ну невозможно, а они говорят "о случайном создании", "а вдруг", "москва не сразу строилась","рано или поздно произойдет прорыв" и т.д.
Не могут компьютеры думать, а просто исполняют команды.
""Она утверждала, что компьютер, даже очень мощный, не способен ни на творчество, ни даже на то, что мы называем «интеллектом». Ведь любая машина — всего лишь бездумный исполнитель алгоритмов, заложенных в нее человеком. То есть даже если компьютер когда-нибудь и напишет стихотворение или роман — все равно авторские права будут принадлежать кодеру, который его на это запрограммировал."" - об Аде Лавлейс.
| Не могут компьютеры думать, а просто исполняют команды.
Как и человек, на клеточном уровне нет гомункула, а только исполнение "химических" команд.
Компьютеры уже давно "не просто исполняют команды". Программисты, которые писали программу Deep blue, которая выиграла у Каспарова, сами не могли выиграть у Каспарова. И не предполагали, как эта программа будет играть. Более того, эта программа не "просто считала" комбинации в игре. Она училась у других программ. Большая часть современных AI продуктов построены на Deep learning, то есть на самообучающихся моделях. Эти модели создаются с наборами примитивных правил, а потом их деплоят в среду, где они начинают тестировать свои гипотезы.
ИИ способен определять паттерны максимизации успеха намного лучше человека. Вопрос в том, на какую задачу натравить агента. Предположим мы научим нейронки управлять экономикой стран, с эффективностью на порядки превышающей человеческий менеджмент. Министерства экономики станут рудиментом, и только вопросом времени будет замена этого министерства программой аля DeepBlue. Дальше всё может быть хорошо, а может и плохо, смотря как весы будут настроены и что нейронка посчитает максимизацией успеха ;)
>мы научим нейронки управлять экономикой странКонечно, так будет на кого удобнее сваливать кризисы и проблемы.
"Отстаем в ИИ перед западом..", скажут нам по ТВ :).
Если серьезно, то нейронки не заменяют людей, а лишь могут упростить самую банальную рутину. Можно написать скриптов- помощников в министерстве и этого будет достаточно. Ничего серьезного в плане "лучше чем человек" они не делают по определению.
А если судить по фондовому рынку, то эффективных систем нет и не предвидится. Тут была на силиконе статья https://vc.ru/p/algorithmic-trade инвесторы сторонятся таких лохотронов.
Так что пока министерства экономики будут белковыми.