Основы генеративного ИИ: что нужно знать о новых технологиях

Основы генеративного ИИ, которые стоит знать

  1. Что такое генеративный ИИ?

Генеративный ИИ — раздел искусственного интеллекта, который создаёт новый контент, обучаясь на закономерностях в уже существующих данных.

В отличие от традиционного ИИ, который в основном предсказывает или классифицирует, генеративный ИИ создаёт новые результаты.

Он может генерировать:

Текст

Изображения

Аудио

Видео

Код

Музыку

Трёхмерные модели

Пример

Ввод: «Напиши функцию на Python для сортировки списка».

Вывод: ИИ генерирует код на Python.

  1. Традиционный ИИ и генеративный ИИ

Традиционный ИИ: предсказывает результаты

Генеративный ИИ: создаёт новый контент

Традиционный ИИ: классификация

Генеративный ИИ: генерация

Традиционный ИИ: выявление мошенничества

Генеративный ИИ: ChatGPT

Традиционный ИИ: фильтрация спама

Генеративный ИИ: генерация изображений

Традиционный ИИ: рекомендательные системы

Генеративный ИИ: генерация кода

  1. Эволюция ИИ

Искусственный интеллект

→ Машинное обучение

→ Глубокое обучение

→ Базовые модели

→ Генеративный ИИ

→ Большие языковые модели

Генеративный ИИ построен на машинном обучении и глубоком обучении.

  1. Реальные применения

Здравоохранение

• Создание медицинских отчётов

• Разработка лекарств

• Медицинские чат-боты

Финансы

• Анализ рисков

• Генерация отчётов

• Расследование мошенничества

Разработка программного обеспечения

• Генерация кода

• Исправление ошибок

• Документация

Образование

• ИИ-наставники

• Генерация тестов

• Краткое изложение материалов

Маркетинг

• Рекламные тексты

• Посты для социальных сетей

• Описания продуктов

Поддержка клиентов

• ИИ-чат-боты

• Краткое изложение обращений

• Автоматизация ответов на частые вопросы

  1. Типы генеративного ИИ

Генерация текста

Пример: ChatGPT, Claude

Генерация изображений

Пример: DALL·E, Midjourney, Stable Diffusion

Генерация аудио

Пример: синтез речи, клонирование голоса с помощью ИИ

Генерация видео

Пример: создание видео с помощью ИИ, говорящие аватары

Генерация кода

Пример: GitHub Copilot, ИИ-помощники для программирования

  1. Что такое базовые модели?

Базовые модели — очень большие предварительно обученные модели, обученные на огромных наборах данных.

Характеристики:

• Универсальные

• Могут выполнять много задач

• Поддаются дообучению

• Поддерживают разные применения

Примеры: Llama, ChatGPT, Claude

  1. Что такое большая языковая модель?

Большая языковая модель обучается на миллиардах слов, чтобы понимать и генерировать человеческий язык.

Возможности:

Ответы на вопросы, перевод, краткое изложение, программирование, рассуждение, генерация текста

Примеры: Llama, Claude, ChatGPT

  1. Как работает большая языковая модель?

Базовый процесс:

Запрос пользователя

Разбиение на токены

Модель-трансформер

Предсказание вероятностей

Сгенерированные токены

Итоговый ответ

Модель предсказывает по одному токену за раз, пока ответ не будет завершён.

  1. Что такое токенизация?

Токенизация преобразует текст в более мелкие единицы — токены.

Пример:

Предложение: «Генеративный ИИ удивителен»

Возможные токены: [«Генеративный»] [«ИИ»] [«удивителен»]

Модель обрабатывает токены, а не сырой текст.

  1. Что такое эмбеддинги?

Эмбеддинги преобразуют текст в числовые векторы, которые отражают смысл.

Продолжение в комментариях: