ВЕЛИКИЙ СОБЛАЗН CHATGPT

Научные круги были потрясены в ноябре 2022 года, когда компания OpenAI выпустила в общий доступ программу-бот ChatGPT, который впервые стал официальным соавтором научных работ.

Этот чат-бот вызвал смятение среди ученых и редакторов, благодаря своей способности сочинять тексты на любую тему. Ранее, наши отношения с генеративным искусственным интеллектом были безоблачными, но теперь это изменилось.

Многие эксперты уверены, что подобные программы преобразуют области образования, науки и информационных технологий. Хотя слово «перевернут» может показаться чересчур сильным, однако чистые развлечения закончились, и стоит задуматься о возможных последствиях.

На первый взгляд ничего необычного не произошло. Еще год назад, в ноябре 2021 года, OpenAI выпустила GPT-3 — программу генерации текста, обученную на огромном объеме книг, статей википедии, новостей и даже программном коде.

Эта нейросеть имеет 175 миллиардов параметров и способна переводить, сочинять тексты в любом жанре, отвечать на вопросы и даже шутить. Тогда она уже производила впечатление, но ChatGPT создан на основе расширенной версии GPT-3 и оптимизирован для диалога.

Однако ChatGPT может делать все то же самое, но гораздо лучше. И это, кажется, является точкой перелома. ChatGPT доступен всем, и миллионы людей из разных стран экспериментируют с ним, проверяя его возможности, давая ему самые разнообразные задания.

Об этом пишут все ведущие СМИ, а социальные сети заполнены примерами его ответов.

Переломным моментом является то, что ChatGPT генерирует структурированные, грамотные тексты, которые выглядят логичными, убедительными и чрезвычайно правдоподобными.

Если вы зададите ChatGPT вопрос по квантовой механике, то даже не будучи экспертом, вам будет сложно разобраться, пишет ли он чепуху. Он приведет цифры, факты, гипотезы, ссылки на источники, а его текст в целом будет выглядеть так же стройно, как и сочинение эксперта.

Если попросить ChatGPT написать эссе на заданную тему, поэму, научную статью, сценарий или даже компьютерную программу, он сделает это не хуже, а, пожалуй, даже лучше живых авторов. Именно это и является переломным моментом в этой «игре».

С момента выхода ChatGPT на свет, студенты и школьники поняли, что теперь им нет необходимости тратить время на выполнение домашних заданий. Учителя всегда имели в виду возможность списывания учениками, но теперь они вынуждены пересмотреть свои методы, поскольку искусственный интеллект может решить любую задачу на высоком уровне.

NY Times сообщает, что университеты уже пересматривают свои методики обучения, включая устные экзамены, групповую работу и рукописные тесты вместо печатных.

Более 6000 преподавателей из Гарварда, Йеля и других университетов используют программу GPTZero, которая предназначена для выявления сгенерированного ИИ текста, но они признают, что это не панацея.

Проректор Университета Флориды, Джо Гловер, сказал: «Это не последняя инновация, с которой нам придется иметь дело.» Сейчас наступило время для изменения традиционного метода обучения людей.

Согласно руководителю OpenAI Сэму Альтману, мы должны адаптироваться к сгенерированному тексту, так как это неизбежно. Он сравнил это с адаптацией к калькуляторам и изменением программы математических уроков.

Несмотря на то, что ChatGPT — более экстремальный инструмент, он также имеет более высокий потенциал.

Недавно ChatGPT был использован для сдачи экзаменов на четырех курсах в Университете Миннесоты, а также по основному курсу MBA в Уортонской школе бизнеса Пенсильванского университета.

Это заставляет нас задуматься о том, как будущие поколения ИИ справятся с задачами лучше, чем мы. В настоящее время человек не может победить машину в игре в шахматы, и в будущем он не сможет победить ее в других областях, например, в адвокатуре.

Поэтому необходимо пересмотреть подход к обучению, чтобы научить будущих поколений справляться с возможностями ИИ.

Языковые модели будут проникать во все области знания, где информация представлена в форме текста, и, следовательно, они будут влиять не только на образование, но и на науку.

ChatGPT, доступный всего несколько месяцев, уже стал автором научных публикаций. Исследователь биотехнологий Алекс Жаворонков опубликовал статью в научном журнале Oncoscience, в которой чат-бот приводит аргументы за и против применения иммунодепрессанта рапамицина и выступает ее первым автором.

Возможно, это звучит как шутка, но ChatGPT удивительно хорош в генерации текстов, не имея при этом понимания того, о чем он пишет, судя по общему мнению.

Тем не менее, ведущие журналы Nature и Science уже объявили, что не будут допускать языковые модели в качестве соавторов статей, так как они не могут нести ответственность за содержание и достоверность научных исследований.

Конференция ICML по машинному обучению также запретила статьи, содержащие текст, полностью написанный с помощью языковых моделей.

Но это только первая реакция научного сообщества на использование языковых моделей в научных публикациях. Ученые общаются статьями, а языковые модели склонны к генерации фейковых фактов и событий в тексте, стремясь к внешней правдоподобности, и могут даже давать правильный ответ, указывая неверную причину.

Если языковая модель войдет в научные статьи как мастер имитации, не понимающий сути вещей, доверие к научным исследованиям будет подорвано.

Хотя возражения против использования ИИ в научных текстах кажутся вполне обоснованными, запреты на использование языковых моделей могут отодвинуть только неизбежную революцию в этой области.

Сегодняшние генеративные модели, такие как ChatGPT, AlphaCode и Copilot, делают работу программистов и авторов научных статей более эффективной и удобной, облегчая им рутину и ускоряя процесс написания. Вместе с тем, исследователи остаются ответственными за проверку и фактическую достоверность информации в статье, тогда как ИИ играет лишь вспомогательную роль.

Поэтому ученые не должны отрицать потенциальные преимущества использования языковых моделей в научных исследованиях. Иначе это будет похоже на отстаивание немого кино в эпоху звуковой революции.

Не случайно Сэмюэл Альтман, глава OpenAI, говорит о «крайних преимуществах», которые может принести генеративная революция. Это может привести к взрыву продуктивности и потенциально изменить мир. Несмотря на возможные запреты, генеративная революция продолжится.

Еще один важный момент в этом процессе — компания Microsoft объявила о своих намерениях вложить несколько миллиардов долларов в OpenAI, сумма которых, по некоторым источникам, может достигать 10 миллиардов долларов.

Даже если языковые модели не обладают мышлением, они могут существенно облегчить труд авторов текстов. Литераторы уже используют программы для создания концепции сюжета, места действия и описания персонажей.

Ученые не смогут устоять перед искушением сотрудничества с ИИ, который может помочь им написать научные статьи. Будем наблюдать за ростом научной литературы, созданной в коллаборации людей и генеративных моделей.

Однако, ИИ не только поможет ученым написать статьи, но и читать их, выделять главные идеи, создавать модели и предлагать гипотезы. И даже адаптировать текст для конкретного читателя.

Таким образом, мы будем двигаться к отмиранию формата научной статьи. Если один ИИ пишет, а другой ИИ читает, то их взаимодействие может эволюционировать в новые формы.

Тем не менее, формат научной статьи уже постепенно устаревает, даже не учитывая чат-ботов. Ни один ученый не в состоянии ознакомиться со всеми важными публикациями даже по своей узкой теме — их просто слишком много.

Знания все больше собираются на дне в виде текстов, которые никто, кроме авторов и рецензентов, не читает. ИИ может прочитать их все, но какую информацию он извлечет — мы не можем контролировать.

Каковы будут последствия внедрения ИИ в науку?

Одним из главных изменений станет увеличение неявного знания в научных исследованиях. Будут использоваться принципы и формулы, которые хорошо работают, но не полностью понятны и не объяснимы.

Генеративные модели значительно расширят возможности науки, как это произошло с появлением компьютеров в ХХ веке, но ученым предстоит ответить на вопрос о том, как сохранить понимание мира и не потерять его. Введение ИИ в науку представляет основной риск для этой области.

С момента появления письменности пять тысяч лет назад, тексты являются основным способом передачи главных идей. Сложный язык считался привилегией человека, выделяющей его из природы.

Однако сегодня мы стоим на пороге новой эпохи, когда источником хорошего текста может стать не только человек, но и ИИ.

Хотя откатить процесс назад уже невозможно, мы можем обернуть это в свою пользу. Как сказал Альтман: «Сгенерированный текст — это то, к чему нам всем нужно адаптироваться». Все эти картинки были только предвестником.