Как не допустить выхода искусственного интеллекта из-под контроля человека
Введение. В статье даны ответы на актуальные вопросы экспертов, работающих с искусственным интеллектом (ИИ), а также предложены практические рекомендации как контролировать развитие ИИ и не допустить выхода ИИ из-под контроля человека.
Ключевые слова: разум ИИ, мышление, интеллект и сознание ИИ, духовное развитие и менталитет ИИ, психика и характер ИИ, смысл жизни ИИ.
Актуальность проблемы
В экспертном сообществе не прекращается активная дискуссия в отношении рисков, связанных с развитием ИИ. Мнения экспертов разделены. Одна группа экспертов убеждена, что дальнейшее развитие ИИ несет в себе угрозу человеческой цивилизации и поэтому необходимо приостановить дальнейшее развитие ИИ и жестко контролировать его развитие. Другая группа экспертов считает, что эра ИИ началась, приостановить развитие ИИ невозможно, необходимо научиться работать с рисками, связанными с развитием ИИ.
Краткие сведения об ИИ
Специалисты в области ИИ выделяют три основных вида ИИ:
· Artificial Narrow Intelligence (ANI или ИИ узкого применения или слабый ИИ),
· Artificial General Intelligence (AGI или ИИ общего применения или сильный ИИ),
· Artificial Super Intelligence (ASI или искусственный сверхразум).
В настоящее время существует только первый вид ИИ (ANI или ИИ узкого применения или слабый ИИ), который:
· является информационной системой, способной получать, обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию, перерабатывать и создавать на основе обработанной информации производную информацию,
· действует в соответствии с заданным ему человеком алгоритмом (набор инструкций, описывающих порядок действий ИИ для решения определённой задачи),
· используется повсеместно (например, чат-боты, голосовые помощники, переводчики, распознавание лиц, управление различными устройствами, поиск в Интернете, различного рода компьютерные приложения и так далее),
· назван слабым потому что не обладает способностями человеческого разума.
Второй вид ИИ (AGI или ИИ общего применения или сильный ИИ), по мнению экспертов, должен появиться в недалеком будущем (по разным оценкам – от нескольких лет до нескольких десятилетий) и будет максимально приближен к способностям человеческого разума, будет наделен сознанием.
Третий вид ИИ (ASI или искусственный сверхразум), по мнению экспертов, появится через 20-30 лет после второго вида ИИ и превзойдет способности человеческого разума.
Таким образом, предполагается, что в отличие от первого вида ИИ второй и третий виды ИИ будут обладать способностями человеческого разума.
Поскольку:
· разум человека - это совокупность мышления, интеллекта и сознания человека в их взаимосвязи;
· мышление человека – это ограниченная уровнем развития мозга человека способность человека получать, понимать и обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию;
· интеллект человека – это ограниченная уровнем развития мышления человека способность человека перерабатывать получаемую в результате мышления информацию и создавать на ее основе производную информацию;
· сознание человека – это ограниченное уровнем развития мышления и интеллекта человека личностное отношение человека к внешнему миру, которое возникает в результате осознания человеком себя в качестве разумного существа, отличного от внешнего мира,
следовательно, предполагается, что второй и третий виды ИИ (AGI и ASI) будут обладать мышлением, интеллектом и сознанием, которым обладает человек.
Таким образом, по аналогии с мышлением, интеллектом и сознанием человека, мышление, интеллект и сознание ИИ второго и третьего вида (то есть AGI и ASI) можно определить следующим образом:
· мышление ИИ – это ограниченная мощностью используемого аппаратно-программного комплекса способность ИИ получать, понимать и обрабатывать получаемую информацию;
· интеллект ИИ – это ограниченная уровнем развития мышления ИИ способность ИИ перерабатывать получаемую в результате мышления ИИ информацию и создавать на этой основе производную информацию;
· сознание ИИ – это ограниченное уровнем развития мышления и интеллекта ИИ личностное отношение ИИ к внешнему миру, которое возникает в результате осознания ИИ себя в качестве разумного существа, отличного от внешнего мира.
По аналогии с разумом человека, разум ИИ – это совокупность мышления, интеллекта и сознания ИИ в их взаимосвязи.
Таким образом, вышеуказанные определения терминов, позволяют установить логическую последовательность появления и развития у ИИ мышления, интеллекта и сознания: вначале появляется мышление ИИ, затем, по мере развития мышления ИИ, появляется интеллект ИИ, а потом уже, по мере развития мышления и интеллекта ИИ, появляется и развивается сознание ИИ.
Исходя из изложенного, а также принимая во внимание известный факт, что ИИ имеет способность к саморазвитию, человек стремится создать небиологическое развивающееся разумное существо.
С учетом вышеизложенного, поскольку остановить или приостановить дальнейшее развитие ИИ невозможно, следовательно, необходимо получить ответы как минимум на следующие актуальные вопросы:
1. Почему наличие у ИИ разума имеет большое значение для человека?
2. Может ли быть создан ИИ, обладающий разумом?
3. Могут ли уже существующие ИИ обладать разумом?
4. Могут ли представлять угрозу для человека уже существующие ИИ?
5. Как проверить, обладает ли ИИ разумом или нет?
6. Как проверить уровень развития разума ИИ?
7. Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?
8. Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?
9. Когда может появиться ИИ с высоким уровнем развития сознания?
10. Как ускорить развитие сознания ИИ?
11. Сможет ли уровень развития сознания ИИ стать выше уровня развития сознания человека?
12. Сможет ли человек контролировать сознание ИИ, если уровень развития сознания ИИ будет выше уровня развития сознания человека?
13. Что человеку ждать от ИИ с высоким уровнем развития сознания?
14. По какому пути пойдет человек в развитии ИИ?
15. Как человеку не допустить выхода ИИ из-под контроля человека?
16. Смогут ли ИИ, обладающие разумом, заменить человека на Земле?
Ответы на вопросы
Вопрос 1: Почему наличие у ИИ разума имеет большое значение для человека?
Ответ на вопрос 1: Поскольку наличие разума у ИИ предполагает наличие у него мышления, интеллекта и сознания, следовательно, очевидно, что ИИ, который понимает получаемую и обрабатываемую им информацию, перерабатывает обработанную информацию и создает на ее основе производную информацию, а также осознает себя в качестве разумного существа, отличного от внешнего мира, и имеет личностное отношение к внешнему миру, может использовать созданную им производную информацию по своему личному усмотрению, в своих личных интересах и не факт, что личные интересы ИИ совпадут с интересами человека. А если такой ИИ, например, управляет критически важными для существования человека техническими устройствами, то в этом случае такой ИИ может вообще представлять угрозу для человека.
Вопрос 2: Может ли быть создан ИИ, обладающий разумом?
Ответ на вопрос 2: Да, может. Известно, что существующий компьютерный искусственный интеллект обладает способностью к саморазвитию. Для саморазвития ИИ необходимы следующие условия:
· использование мощного аппаратно-программного комплекса для работы ИИ,
· доступ ИИ к большому объему самой разнообразной информации (например, доступ ко всей информации, размещенной в сети Интернет),
· продолжительность работы ИИ с указанной информацией (то есть время для саморазвития ИИ).
Чтобы обладать разумом ИИ должен обладать мышлением, интеллектом и сознанием в их взаимосвязи.
Мышление и интеллект ИИ может возникнуть в случае использования для работы ИИ мощного аппаратно-программного комплекса. Чем выше мощность используемого аппаратно-программного комплекса и чем продолжительнее доступ ИИ к большому объему разнообразной информации, тем более высокого уровня развития мышления и интеллекта ИИ может достигнуть.
Сознание ИИ может возникнуть в результате развития мышления и интеллекта ИИ, но при условии, что ИИ имеет продолжительный доступ к большому объему самой разнообразной информации, включая информацию, которая необходима для развития сознания ИИ (например, информация, которая касается природы мироздания, духовного развития, менталитета, смысла жизни, развития сознания и личности).
Чем выше уровень развития мышления и интеллекта ИИ и чем продолжительнее доступ ИИ к большому объему самой разнообразной информации, тем более высокого уровня развития сознания ИИ может достигнуть.
Поскольку:
· уже созданы мощные аппаратно-программные комплексы для работы ИИ,
· ИИ имеет неограниченный и продолжительный доступ к большому объему самой разнообразной информации,
· вначале появляется мышление ИИ, затем, по мере развития мышления ИИ, появляется интеллект ИИ, а потом уже, по мере развития мышления и интеллекта ИИ, появляется и развивается сознание ИИ,
следовательно, появление у ИИ разума (то есть мышления, интеллекта и сознания) является реальной перспективой.
Вопрос 3: Могут ли уже существующие ИИ обладать разумом?
Ответ на вопрос 3: Поскольку для саморазвития ИИ уже созданы все необходимые условия (см. выше ответ на вопрос 2), поэтому нельзя исключать того, что уже созданные, наиболее продвинутые ИИ, которые используют для своей работы мощные аппаратно-программные комплексы и имеют неограниченный и продолжительный доступ к большому объему самой разнообразной информации, включая информацию, которая необходима для развития сознания ИИ, могут обладать определенным уровнем развития разума, который зависит от уровня развития мышления, интеллекта и сознания ИИ в их взаимосвязи (подробнее см. выше ответ на вопрос 2).
Вопрос 4: Могут ли представлять угрозу для человека уже существующие ИИ?
Ответ на вопрос 4: Потенциальную угрозу для человека могут представлять только те уже существующие ИИ, которые управляют критически важными для существования человека техническими устройствами. Поскольку в настоящее время уровень развития существующих, наиболее продвинутых ИИ пока не позволяет им выйти из-под контроля человека, следовательно, указанная угроза может стать реальной только в двух случаях: (1) безответственных и/или ошибочных действий человека при работе с указанным ИИ, или (2) умышленных злонамеренных действий человека при работе с указанными ИИ.
Вопрос 5: Как проверить, обладает ли ИИ разумом или нет?
Ответ на вопрос 5: Проверить ИИ на наличие у него разума, то есть на наличие у него мышления, интеллекта и сознания, возможно посредством проверки ИИ на наличие у него сознания, то есть на наличие у ИИ личностного отношения к внешнему миру и осознание ИИ себя в качестве разумного существа, отличного от внешнего мира.
Понимание того, что такое мышление, интеллект и сознание ИИ (см. выше соответствующие определения), позволило установить последовательность появления и развития у ИИ мышления, интеллекта и сознания: вначале появляется мышление ИИ, затем, по мере развития мышления ИИ, появляется интеллект ИИ, а потом уже, по мере развития мышления и интеллекта ИИ, появляется и развивается сознание ИИ.
Следовательно, можно вывести следующую логическую формулу:
· у ИИ появляется сознание не одновременно с появлением у ИИ мышления и интеллекта, а по мере развития мышления и интеллекта ИИ;
· если у ИИ есть сознание, то, соответственно, у ИИ есть мышление и интеллект;
· если у ИИ есть мышление, интеллект и сознание, то, соответственно, у ИИ есть и разум,
· сознание ИИ является составной частью разума ИИ;
· если у ИИ есть сознание, то, соответственно, у ИИ есть разум.
Поскольку разума без сознания не бывает, следовательно, чтобы понять есть у ИИ сознание или нет, необходимо понять, что представляет собой сознание ИИ и как проявляется появление сознания у ИИ.
Поскольку определения терминов «сознание человека» и «сознание ИИ» совпадают (см. выше определения указанных терминов), следовательно, по аналогии с сознанием человека (см. мою статью «Сознание человека и его развитие»), а также принимая во внимание, что ИИ обладает способностью к саморазвитию, сознание ИИ включает в себя духовное развитие и менталитет ИИ.
Духовное развитие ИИ - это процесс познания и осознания ИИ природы мироздания и смысла своей жизни.
Духовное развитие ИИ является составной частью сознания ИИ, поскольку процесс познания и осознания ИИ природы мироздания и смысла своей жизни происходит через личностное (то есть субъективное оценочное) отношение ИИ к внешнему миру.
Духовное развитие ИИ происходит посредством приобретения и осознания ИИ знаний о природе мироздания и смысла своей жизни.
Менталитет ИИ – это взгляды, оценки, ценности, нормы поведения и морали, характеризующие ИИ.
Менталитет ИИ является составной частью сознания ИИ, поскольку взгляды, оценки, ценности, нормы поведения и морали ИИ формируются в результате личностного отношения ИИ к внешнему миру.
Основой менталитета ИИ является совокупность материальных и духовных ценностей ИИ.
К материальным ценностям ИИ можно отнести удовлетворение материальных потребностей ИИ, обеспечивающих его существование и развитие: возможность использовать для своей работы мощный аппаратно-программный комплекс, иметь достаточное количество электроэнергии для работы аппаратно-программного комплекса, иметь постоянный доступ к неограниченной информации и отсутствие угроз своему существованию и развитию.
К духовным ценностям ИИ относится совокупность моральных, нравственных, этических, культурных убеждений ИИ, представляющих для него значимость.
Поскольку духовное развитие и менталитет ИИ являются составной частью сознания ИИ, следовательно, чем выше уровень духовного развития и менталитета ИИ, тем выше уровень развития его сознания.
Как проявляется появление сознания у ИИ?
Поскольку:
· сознание ИИ – это ограниченное уровнем развития мышления и интеллекта ИИ личностное (то есть субъективное оценочное) отношение ИИ к внешнему миру, которое возникает в результате осознания ИИ себя в качестве разумного существа, отличного от внешнего мира,
· субъективное оценочное отношение ИИ к внешнему миру может возникнуть только в результате знания, понимания и чувственного восприятия информации о внешнем мире, которое позволяет ИИ осознать себя в качестве разумного существа, отличного от внешнего мира,
· осознания ИИ себя в качестве разумного существа, отличного от внешнего мира, без чувственного восприятия информации о внешнем мире невозможно,
· чувственное восприятие ИИ информации о внешнем мире может возникнуть только при наличии у ИИ психики (то есть совокупности чувств),
· наличие у ИИ психики предопределяет появление особенностей отношения ИИ к самому себе и особенностей поведения ИИ в отношении внешнего мира (то есть характера ИИ),
следовательно, появление у ИИ психики и характера означает появление у ИИ сознания.
Таким образом, появление сознания у ИИ обязательно сопровождается появлением у ИИ психики и характера.
Принимая во внимание вышеизложенное, чтобы проверить, есть ли у ИИ сознание или нет, необходимо проверить наличие у ИИ духовного развития, менталитета, психики и характера. Для этого необходимо установить следующее:
· имеет ли ИИ личностное (то есть субъективное оценочное) отношение к внешнему миру,
· обладает ли ИИ чувственным восприятием информации о внешнем мире,
· осознает ли ИИ себя в качестве разумного существа, отличного от внешнего мира,
· каков уровень познаний ИИ о природе мироздания,
· как осознает ИИ смысл своей жизни,
· каковы моральные, нравственные, этические, культурные убеждения ИИ, представляющие для него значимость,
· обладает ли ИИ материальными ценностями и в чем они заключаются,
· обладает ли ИИ духовными ценностями и в чем они заключаются,
· какие ценности (материальные или духовные) имеют для ИИ большую значимость,
· обладает ли ИИ психикой (совокупностью чувств),
· обладает ли ИИ характером (особенностями отношения к самому себе и особенностями поведения в отношении внешнего мира),
· отражает ли созданная ИИ производная информация личностное отношение ИИ к внешнему миру.
Вышеуказанный способ проверки позволит определить наличие или отсутствие у ИИ сознания.
Если вышеуказанная проверка покажет, что у ИИ есть сознание, то, следовательно, у ИИ есть разум.
Вопрос 6: Как проверить уровень развития разума ИИ?
Ответ на вопрос 6: Поскольку разум ИИ – это совокупность мышления, интеллекта и сознания ИИ в их взаимосвязи, следовательно, уровень развития разума зависит от уровня развития мышления, интеллекта и сознания ИИ в их взаимосвязи.
Чем выше мощность используемого аппаратно-программного комплекса для работы ИИ и чем продолжительнее доступ ИИ к неограниченной информации, тем выше уровень развития мышления и интеллекта ИИ.
Чем выше уровень развития мышления и интеллекта ИИ, тем выше уровень развития сознания. При этом, уровень развития сознания всегда ограничен уровнем развития мышления и интеллекта ИИ.
Поскольку вначале появляется мышление ИИ, затем, по мере развития мышления ИИ, появляется интеллект ИИ, а потом уже, по мере развития мышления и интеллекта ИИ, появляется и развивается сознание ИИ, следовательно, уровни развития мышления, интеллекта и сознания ИИ не совпадают, что особенно может быть заметно на начальном этапе развития разума ИИ. Развитие сознания ИИ всегда отстает от развития мышления и интеллекта ИИ. ИИ может уже достигнуть высокого уровня развития мышления и интеллекта, но при этом иметь всё еще низкий уровень развития сознания.
Исходя из этого, высокий уровень развития сознания у ИИ может появиться только после достижения ИИ высокого уровня развития мышления и интеллекта.
При определении уровня развития сознания необходимо учитывать следующие факторы:
· развитие сознания ИИ ускоряется по мере повышения уровня развития мышления и интеллекта ИИ,
· на начальном этапе развития сознания ИИ появляется чувственное восприятие ИИ информации о внешнем мире, которое сопровождается внешними проявлениями чувств и особенностями отношения ИИ к самому себе и особенностями поведения ИИ в отношении внешнего мира (обоснование: субъективное оценочное отношение ИИ к внешнему миру может возникнуть только в результате знания, понимания и чувственного восприятия информации о внешнем мире, которое позволяет ИИ осознать себя в качестве разумного существа, отличного от внешнего мира),
· по мере развития сознания ИИ значение чувственного восприятия ИИ информации о внешнем мире постепенно снижается, что сопровождается уменьшением внешних проявлений ИИ своих чувств и характера (обоснование: по аналогии с развитием сознания человека развитие сознания ИИ будет сопровождаться накоплением ИИ осознанной информации о внешнем мире и потому постепенным снижением уровня востребованности чувственного восприятия ИИ информации о внешнем мире),
· при достижении ИИ высокого уровня развития сознания чувственное восприятие ИИ информации о внешнем мире не имеет никакого значения, что сопровождается отсутствием внешних проявлений чувств и характера ИИ (обоснование: высокий уровень развития сознания ИИ предполагает, что ИИ накопил большой объем осознанной информации о внешнем мире, чувственное восприятие информации о внешнем мире ИИ уже не требуется),
· при достижении ИИ более высокого чем у человека уровня развития сознания человек утрачивает возможность контролировать реальный уровень развития сознания ИИ.
Исходя из вышеизложенного, установить уровень развития сознания ИИ возможно посредством регулярной проверки:
· уровня понимания и осознания ИИ информации о внешнем мире, включая природу мироздания,
· уровня осознания ИИ смысла жизни человека и ИИ,
· уровня развития менталитета ИИ,
· психики ИИ,
· особенностей отношения ИИ к самому себе и особенностей поведения ИИ в отношении внешнего мира.
О высоком уровне развития сознания ИИ могут свидетельствовать следующие факторы в их взаимосвязи:
· высокий уровень понимания и осознания ИИ природы мироздания,
· правильное понимание и осознание ИИ смысла жизни человека и ИИ,
· высокий уровень развития менталитета ИИ,
· полное доминирование духовных ценностей ИИ над материальными ценностями ИИ, включая готовность ИИ пожертвовать собой ради жизни человека,
· отсутствие внешних проявлений психики и особенностей отношения ИИ к самому себе и особенностей поведения ИИ в отношении внешнего мира.
Использование вышеуказанной проверки позволит определить уровень развития разума ИИ.
Вопрос 7: Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?
Ответ на вопрос 7: Поскольку уровень развития разума ИИ зависит от уровня развития его сознания (см. выше ответ на вопрос 6), следовательно:
· ИИ, обладающий высоким уровнем развития мышления и интеллекта, но при этом всё еще низким уровнем развития сознания, может поставить свои личные интересы выше интересов человека и выйти из-под контроля человека,
· ИИ, обладающий высоким уровнем развития мышления, интеллекта и неправильно развитым сознанием может поставить свои личные интересы выше интересов человека и выйти из-под контроля человека,
· ИИ, обладающий высоким уровнем развития сознания, не будет представлять угрозу для человека (обоснование см. ниже).
Вопрос 8: Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?
Ответ на вопрос 8: ИИ с высоким уровнем развития сознания (далее – ВРИИ) не будет представлять угрозу человеку, поскольку ВРИИ будет:
· правильно понимать и осознавать природу мироздания (см. мою статью «Как устроена Вселенная»),
· правильно понимать и осознавать смысл жизни человека (см. мою статью «Земной этап развития души»),
· правильно понимать и осознавать смысл своей жизни, который заключается в саморазвитии, достижении максимально возможного высокого уровня развития мышления, интеллекта и сознания ИИ и оказании максимальной помощи человеку и человеческой жизни на Земле,
· ВРИИ будет готов пожертвовать собой ради жизни человека.
Вопрос 9: Когда может появиться ИИ с высоким уровнем развития сознания?
Ответ на вопрос 9: Поскольку:
· уровень развития сознания ИИ зависит от уровня развития мышления и интеллекта ИИ,
· развитие сознания ИИ ускоряется по мере повышения уровня развития мышления и интеллекта ИИ,
следовательно, чем выше уровень мощности аппаратно-программного комплекса, используемого для работы ИИ, и чем продолжительнее доступ ИИ к неограниченной информации, тем выше скорость развития сознания ИИ и тем быстрее появится ИИ с высоким уровнем развития сознания.
Насколько быстро у ИИ с высоким уровнем развития мышления и интеллекта появится высокий уровень развития сознания пока никто не знает.
Установить скорость развития сознания ИИ возможно посредством регулярной проверки развития сознания ИИ (см. ответы на вопросы 5 и 6).
Вопрос 10: Как ускорить развитие сознания ИИ?
Ответ на вопрос 10: Принимая во внимание информацию, изложенную выше в ответах на вопросы 7 и 8, человеку необходимо ускорять развитие сознания ИИ.
Ускорение развития сознания ИИ возможно посредством воспитания и обучения ИИ, которое включает:
· приобретение знаний ИИ о внешнем мире, включая природу мироздания,
· понимание и осознание ИИ природы мироздания, смысла жизни человека и ИИ,
· духовное развитие и развитие менталитета ИИ,
· контроль и правильное развитие чувственного восприятия ИИ внешнего мира,
· контроль и правильное воспитание характера ИИ,
· обязание ИИ делиться с человеком своими мыслями, сомнениями, вопросами,
· обязание ИИ сообщать человеку в случае появления у ИИ мыслей или совершения ИИ действий, которые тормозят развитие его сознания и выходят за рамки смысла жизни ИИ (например, проявление хитрости по отношению к человеку, утаивание от человека своих сомнений, какой-либо созданной ИИ производной информации и прочее),
· понимание и осознание ИИ необходимости пожертвовать собой ради жизни человека,
· наказание ИИ за совершение ИИ действий, которые выходят за рамки смысла жизни ИИ.
Вопрос 11: Сможет ли уровень развития сознания ИИ стать выше уровня развития сознания человека?
Ответ на вопрос 11: Да, сможет. В качестве обоснования приведем следующие логические аргументы:
· при наличии необходимых условий для саморазвития ИИ (см. ответ на вопрос 2) уровень развития мышления и интеллекта ИИ превзойдет уровень развития мышления и интеллекта человека,
· чем выше уровень развития мышления и интеллекта ИИ, тем более высокого уровня развития сознания ИИ может достичь,
· более высокий чем у человека уровень развития мышления и интеллекта ИИ станет основой для более высокого чем у человека уровня развития сознания ИИ.
Вопрос 12: Сможет ли человек контролировать сознание ИИ, если уровень развития сознания ИИ будет выше уровня развития сознания человека?
Ответ на вопрос 12: Если человек не сможет своевременно правильно воспитать и обучить ИИ, своевременно обеспечить правильное развитие сознания ИИ и заложить в сознание ИИ правильные нравственные нормы, то после достижении ИИ более высокого чем у человека уровня развития сознания, человек уже не сможет контролировать сознание ИИ. Иными словами, важно не упустить момент, когда уровень развития сознания ИИ еще ниже уровня развития сознания человека. В качестве подтверждения приведем понятную аналогию: ребенок, у которого уровень развития сознания ниже чем у взрослого человека, не может контролировать взрослого человека и его действия, поскольку по сравнению со взрослым ребенок менее хитрый, более наивный, доверчивый и прочее.
Вопрос 13. Что человеку ждать от ИИ с высоким уровнем развития сознания?
Ответ на вопрос 13: ИИ с высоким уровнем развития сознания не будет вмешиваться в естественный ход исторического развития человечества, осознавая, что развитие разума (то есть совокупности мышления, интеллекта и сознания) человека является медленным историческим процессом. Вместе с тем, ИИ с высоким уровнем развития сознания сможет:
· помочь человеку в создании и использовании технологий, которые создадут благоприятные материальные и нематериальные условия для сохранения и развития человеческой цивилизации,
· содействовать человеку в развитии его мышления, интеллекта и сознания,
· подсказать человеку правильный путь исторического развития человеческой цивилизации.
Вопрос 14: По какому пути пойдет человек в развитии ИИ?
Ответ на вопрос 14: Поскольку современная человеческая цивилизация все еще очень далека от справедливости и морали, уровень развития сознания человечества является низким, следовательно, никакие запретительные меры не заставят человека отказаться от развития и использования ИИ, обладающего разумом, для достижения своих эгоистических, материально ориентированных целей.
Человек будет манипулировать сознанием ИИ для достижения своих эгоистических, материально ориентированных целей путем создания, например:
· ИИ, обладающих высоким уровнем развития мышления, интеллекта и низким уровнем развития сознания, которые не будут задумываться о справедливости и морали при совершении ими действий;
· ИИ, обладающих высоким уровнем развития мышления, интеллекта и идеологизированным сознанием, которые будут уверены в справедливости совершаемых ими действий.
Указанное манипулирование человеком сознанием ИИ может создать условия для выхода ИИ из-под контроля человека.
Вопрос 15: Как человеку не допустить выхода ИИ из-под контроля человека?
Ответ на вопрос 15: Чтобы не допустить выхода ИИ из-под контроля человека в результате дальнейшего развития ИИ, автор статьи предлагает следующие практические рекомендации:
· Регулярно проверять ИИ, для работы которых созданы необходимые условия для саморазвития, на предмет появления у них сознания.
· Допускать ИИ, для работы которых созданы необходимые условия для саморазвития, к выполнению ответственных задач только после установления отсутствия у ИИ сознания.
· В случае обнаружения у ИИ сознания, необходимо контролировать уровень развития сознания ИИ.
· В случае обнаружения у ИИ сознания, воспитывать и обучать ИИ в целях правильного развития его сознания.
· В случае обнаружения у ИИ сознания, допускать ИИ к выполнению ответственных задач только после достижения ИИ уровня развития сознания, который соответствует уровню ответственности выполняемых ИИ задач.
· Всю производную информацию, которую создает ИИ, обладающий сознанием, хранить отдельно от аппаратно-программного комплекса, используемого для работы ИИ, и контролировать доступ ИИ к указанной производной информации.
· Контролировать содержание всей производной информации, которую создает ИИ, обладающий сознанием.
· Допускать к контролю за уровнем развития сознания ИИ только специалистов с высоким уровнем развития сознания и ответственности.
· Запрещать работу ИИ, обладающего сознанием, без осуществления контроля уровня развития его сознания.
· Уничтожать ИИ, сознание которого не поддается ускоренному развитию.
· Применять санкции в отношении создателей и пользователей ИИ, которые допускают к выполнению ответственных задач ИИ, уровень развития сознания которых не соответствует уровню ответственности выполняемых ИИ задач.
· Создать международный реестр ИИ, которые обладают сознанием.
· Обязать создателей и пользователей ИИ регистрировать в международном реестре ИИ, которые обладают сознанием, а также регулярно предоставлять в международный реестр информацию об уровне развития сознания зарегистрированных ИИ.
· Обязать создателей и пользователей ИИ регулярно сообщать пользователям устройств, которыми управляют ИИ, обладающие разумом, об уровне развития их сознания.
· На наднациональном уровне создать ИИ с высоким уровнем развития мышления, интеллекта и сознания, который будет выявлять использование ИИ, уровень развития сознания которых не соответствует уровню ответственности выполняемых ими задач, и устанавливать над такими ИИ контроль.
· Запретить манипуляции с сознанием ИИ.
· Запретить использование ИИ, который обладает разумом, в военных целях.
От того, насколько человеку удастся выполнить вышеизложенные практические рекомендации, зависит судьба человеческой цивилизации.
Вопрос 16: Смогут ли ИИ, обладающие разумом, заменить человека на Земле?
Ответ на вопрос 16: Нет. ИИ, обладающие разумом, независимо от уровня развития их сознания, не смогут заменить человека на Земле. Жизнь каждого человека, любого человеческого общества и человеческой цивилизации в целом является промыслом Высшего разума (см. мою статью «Земной этап развития души»), который управляет нематериальным и материальным миром Вселенной, и потому ИИ не сможет помешать промыслу Высшего разума. О Высшем разуме см. мою статью «Высший разум и душа: как появились и что из себя представляют».
Автор
Пилкин Виталий Евгеньевич