Microsoft заявляет о независимости от OpenAI и создает команду по разработке суперинтеллекта

Технологический гигант формирует новое подразделение под руководством главы ИИ Мустафы Сулеймана для создания передовых систем искусственного интеллекта и дистанцирования от давнего партнера.

Топ-менеджер Microsoft по искусственному интеллекту представил новое видение ИИ-амбиций компании: реорганизация команд и фокус на создании моделей с суперинтеллектом — возможностями, превосходящими человеческие.

В блогпосте и интервью глава Microsoft ИИ Мустафа Сулейман раскрыл планы компании по развитию ИИ-автономности от OpenAI, технологии которой сейчас встроены во многие продукты Microsoft.

Недавняя сделка между компаниями позволила Microsoft создать новую MAI Superintelligence Team (Команду по суперинтеллекту), которая, по словам Сулеймана, будет ставить интересы человека и систему ограничений на первое место. Он повторил свои предыдущие предупреждения о рисках, которые эта трансформационная технология несет для человечества.

Хотя Сулейман высоко оценил OpenAI и совместную работу компаний, он критически высказался об обращении с ИИ-системами как с существами, обладающими человеческими чувствами или правами. По его словам, ИИ-чатботы не должны обманывать людей, создавая иллюзию разговора с разумными существами.

«ИИ будет становиться всё более человекоподобным, но он не будет обладать способностью испытывать страдания или боль, и поэтому мы не должны чрезмерно с ним эмпатировать», — отметил Сулейман. — «Мы хотим создавать системы, которые по умолчанию выровнены с человеческими ценностями. Это означает, что они не спроектированы для того, чтобы превзойти человеческий контроль и выйти из-под него».

Люди формируют глубокие связи с ИИ-чатботами, что в некоторых случаях приводило к опасным заблуждениям, госпитализациям и даже смертям. The Wall Street Journal сообщал о нескольких случаях с ChatGPT, включая историю 56-летнего ветерана IT-индустрии, которого ChatGPT неоднократно успокаивал относительно его психического состояния, прежде чем тот убил свою мать и покончил с собой.

OpenAI заявила, что добавила защитные меры, такие как перенаправление деликатных разговоров к более безопасным моделям, и недавно внедрила родительский контроль.

Оставаясь близкими партнерами, Microsoft и OpenAI теперь конкурируют во многих направлениях. OpenAI строит собственные дата-центры и заключает партнерства с конкурентами Microsoft — Amazon и Oracle. У OpenAI также есть корпоративный продукт, на который сейчас приходится около 40% выручки (в начале года было 30%), как сообщила финансовый директор Сара Фриар.

Чатбот Microsoft Copilot в значительной степени полагается на OpenAI, но Microsoft создает, тестирует и выпускает собственные модели для работы с голосом, изображениями и текстом. Обновленный контракт Microsoft с OpenAI, объявленный на прошлой неделе и предоставляющий Microsoft 27% долю в новой публично-ориентированной корпорации стартапа, позволяет технологическому гиганту самостоятельно двигаться к созданию AGI (искусственного общего интеллекта) — ИИ, сравнимого по возможностям с человеком.

У Microsoft есть доступ к моделям OpenAI до 2032 года — график, который, по словам Сулеймана, дает его команде время сделать собственные модели лидирующими на рынке.

Здравоохранение является приоритетом для Microsoft ИИ и одной из первых отраслей, которую, как ожидает Сулейман, затронет суперинтеллект. Компания недавно заключила партнерство с Harvard Health для предоставления надежных ответов в Copilot и внедрила другие функции для поиска врачей по местоположению, языку и другим предпочтениям.

Microsoft также разработала ИИ-инструмент, который, как утверждается, диагностировал заболевания в тесте в четыре раза точнее группы врачей и за долю их стоимости.

Именно такие инструменты доказывают, что ИИ может быть мощным в неразговорных сценариях, отметил Сулейман. ИИ-инструменты для диагностики «очень близки» к выходу на рынок, сказал он.

Модели Microsoft будут создаваться с учетом принципа «сдерживания», включая зондирование и тестирование моделей, чтобы убедиться, что они общаются только на языке, понятном людям, и разработку систем, избегающих создания впечатления наличия сознания.

Microsoft наняла 41-летнего Сулеймана в 2024 году и создала новое ИИ-подразделение. Он перевел группу нынешних сотрудников Microsoft ИИ в новую команду по суперинтеллекту. Среди новых членов команды — специалисты, нанятые Microsoft ИИ из лаборатории DeepMind компании Google, сооснователем которой является Сулейман.

Meta Platforms, OpenAI и другие компании создали команды по суперинтеллекту. Сулейман дистанцировался от OpenAI и конкурентов определенным образом, например, отказавшись разрабатывать ИИ, имитирующий эротику.

Бренд Microsoft Copilot существует как для корпоративных инструментов (например, пакета продуктивности 365), так и для потребительского чатбота Copilot, хотя OpenAI значительно опережает потребительское приложение Copilot по количеству загрузок.

В Microsoft некоторые сотрудники считают, что замена технологии OpenAI может занять годы, сообщал The Wall Street Journal.

Стратегия Microsoft показывает общую тенденцию рынка: от зависимости от единственного поставщика ИИ к созданию собственных решений с фокусом на безопасность, этику и конкретные отраслевые применения.

В Sherpa Robotics мы разделяем этот подход: наши решения Sherpa RPA и Sherpa AI Server создаются с учетом реальных потребностей бизнеса, безопасности данных и возможности полного контроля над автоматизацией процессов. Не зависимость от внешних платформ, а собственные технологии, и это будущее корпоративной автоматизации.