«Мы не понимаем, как работает ИИ»
Недавние заявления генерального директора Anthropic, Дарио Амодея, вызвали широкий резонанс в технологическом сообществе. В своём эссе он признал, что даже разработчики не до конца понимают, как работают современные системы искусственного интеллекта (ИИ). Амодей отметил, что при выполнении задач, таких как резюмирование финансовых документов, ИИ-системы принимают решения, причины которых остаются неясными даже для их создателей. Он подчеркнул, что это беспрецедентная ситуация в истории технологий.
Anthropic планирует в течение следующего десятилетия разработать инструменты, аналогичные «МРТ для ИИ», чтобы лучше понять внутренние механизмы работы моделей. Недавние эксперименты компании, включающие «красные команды» для выявления уязвимостей и «синие команды» для их обнаружения, показали, что интерпретируемость ИИ возможна, но требует дальнейших усилий.
Признание ограниченного понимания ИИ поднимает вопросы о его безопасности и потенциальных рисках. Аналитики отмечают, что такие заявления могут быть направлены на привлечение внимания к проблемам прозрачности и необходимости регулирования в области ИИ.
Подписывайтесь на канал TechStream — рассказываем о науке, технологиях и будущем человечества:
Источник: