Юрист Anthropic сослался в суде на несуществующую статью, которую выдумал их собственный ИИ
В ходе судебного разбирательства между компанией Anthropic и музыкальными издательствами, включая Universal Music Group, произошёл курьёзный инцидент: юрист Anthropic сослалась на несуществующую научную статью, которую сгенерировал их собственный ИИ-ассистент Claude.
Суть дела заключается в обвинениях против Anthropic в использовании защищённых авторским правом песенных текстов для обучения Claude. В рамках защиты, эксперт компании Оливия Чен представила документ, содержащий ссылку на якобы существующую статью из журнала The American Statistician. Однако, как выяснилось, указанная статья не существует, а её название и авторы были выдуманы Claude.
Адвокат Anthropic, Ивана Дуканович из фирмы Latham & Watkins, признала ошибку, объяснив, что Claude был использован для форматирования цитаты, и что ошибка не была обнаружена при проверке. Она подчеркнула, что это была "непреднамеренная ошибка", а не попытка ввести суд в заблуждение.
Судья Сьюзан ван Кёлен выразила серьёзную озабоченность по поводу инцидента, отметив, что существует "большая разница между простой ошибкой в цитировании и галлюцинацией, сгенерированной ИИ". Она потребовала от Anthropic официального объяснения произошедшего.
Ситуация практически анекдотическая: в деле, где музыкальные издательства обвиняют Claude в неправомерном использовании текстов, юрист Anthropic подаёт в суд документ с неверной ссылкой на статью, которую придумал Claude. Такое нарочно не придумаешь!