Адвокат, що представляє компанію Anthropic, визнав використання неправильної цитати, створеної чат-ботом Claude AI, під час триваючого судового процесу з музичними видавцями. Це стало відомо з подання, зробленого в суді Північної Каліфорнії в четвер.
Про це розповідає ProIT
Згідно з поданням, Claude «галюцинувала» цитату з «неточною назвою і неточними авторами». У документах Anthropic зазначено, що їхній «ручний перевірка цитат» не виявила цієї помилки, а також кількох інших, викликаних «галюцинаціями» Claude.
«Ми вибачаємося за цю помилку і вважаємо її чесною помилкою в цитуванні, а не фальсифікацією авторитету».
На початку цього тижня адвокати, що представляють Universal Music Group та інших музичних видавців, звинуватили експертного свідка Anthropic — одного з працівників компанії, Олівію Чен — у використанні Claude для цитування фальшивих статей у її свідченнях. Суддя федерального суду, Сьюзен ван Кулен, наказала Anthropic відповісти на ці звинувачення.
Позов музичних видавців є лише одним з кількох суперечок між правовласниками та технологічними компаніями щодо ймовірного зловживання їхньою роботою для створення генеративних інструментів штучного інтелекту.
Цей випадок став черговим прикладом того, як адвокати використовують штучний інтелект у суді, а потім шкодують про це. Раніше цього тижня суддя Каліфорнії розкритикував пару юридичних фірм за подання «фальшивих досліджень, створених штучним інтелектом» до суду. У січні австралійський адвокат був спійманий на використанні ChatGPT при підготовці судових документів, що призвело до помилкових цитат.
Проте ці помилки не заважають стартапам залучати величезні кошти для автоматизації юридичної роботи. Компанія Harvey, яка використовує генеративні моделі штучного інтелекту для допомоги юристам, нібито веде переговори про залучення понад 250 мільйонів доларів за оцінкою в 5 мільярдів доларів.