Сэм Альтман выпустил Библию AGI. 5 принципов OpenAI и почему компания готова тормозить прогресс
OpenAI официально выкатили декларацию намерений, свод из 5 правил, по которым компания обещает строить путь к сильному искусственному интеллекту AGI. На фоне бесконечных споров о безопасности и обвинений в чрезмерной коммерциализации, этот манифест выглядит как попытка Альтмана успокоить регуляторов и общественность.
Разбираем, что зашито в конституцию главного ИИ-гиганта планеты.
1. Демократизация. Против монополии избранных
Первый и главный пункт, ИИ не должен принадлежать корпоративной элите. OpenAI обещает, что ключевые решения о развитии технологии будут приниматься через демократические процедуры, а не только внутри закрытых лаб. Звучит красиво, но как именно это будет работать на практике пока вопрос открытый.
2. Расширение возможностей. ИИ как личный коуч
Компания верит, что ИИ поможет каждому стать счастливее и продуктивнее. Идея проста, технология должна работать на достижение личных целей человека, а не просто заменять его на рабочем месте.
3. Всеобщее процветание. Почему OpenAI сжигает миллиарды
Вот тут важный момент для тех, кто следит за финансами. Сэм объясняет конские расходы на вычисления и инфраструктуру (при сравнительно скромной выручке) именно этим принципом. Идея в том, чтобы максимально удешевить интеллект и сделать его доступным всем, даже если сейчас это выглядит как экономическое самоубийство.
4. Устойчивость. Стоп-кран для биоугроз
OpenAI признает, что риски реальны, от кибератак до биологических угроз. Компания готова плотно работать с правительствами и даже намеренно тормозить разработку, если возникнут серьезные проблемы с безопасностью.
Цитата из документа
В будущем возможны периоды, когда нам придётся пожертвовать частью расширения возможностей ради большей устойчивости.
5. Адаптивность. Признание старых факапов
Последний пункт, готовность менять курс. В качестве примера OpenAI приводит кейс с GPT-2 в 2019 году. Тогда они побоялись публиковать веса модели из-за опасности для общества, позже сами назвали эти опасения неоправданными, но именно так родилась стратегия итеративного развертывания (выпуск по чуть-чуть).
Публикация вышла в разгар жесткой критики. Бывшие сотрудники и скептики всё чаще указывают на то, что OpenAI из некоммерческой организации превратилась в жесткую коммерческую машину.
Сама компания в тексте признает. Мы стали значительно более крупной силой в мире, чем пару лет назад. Декларация это попытка пообещать прозрачность и покаяться за возможные ошибки в будущем.
С одной стороны, принципы выглядят как правильные слова за всё хорошее. С другой, OpenAI оставляет за собой право на экстренное торможение, что дает им огромную власть в диалоге с государствами.
Источник официальный блог OpenAI
Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.