Недавний инцидент с 66-летней Луизой Литтлджон из Шотландии вызвал значительное обсуждение относительно точности и этичности применения искусственного интеллекта в повседневной жизни. Женщина была шокирована, получив обычное голосовое сообщение от автосалона, которое система Visual Voicemail на её iPhone ошибочно преобразовала в оскорбительный текст с непристойными выражениями.
Об этом сообщает ProIT
Как сообщает BBC News, вместо обычного приглашения на мероприятие, сообщение содержало вопросы сексуального характера, что вызвало возмущение у миссис Литтлджон. Настоящее сообщение от гаража Lookers Land Rover в Мазервелле, которое содержало приглашение на событие, где упоминалось “шестое марта”, было неверно интерпретировано системой искусственного интеллекта. Она преобразовала фразу в “могли заняться сексом”, а другие слова, такие как “не стесняйтесь”, были искажены до непристойных выражений.
Проблемы с распознаванием речи
Эксперты считают, что ошибки могут быть следствием шотландского акцента работника гаража, фоновых шумов или недостаточной разнообразности данных, на которых обучался искусственный интеллект. Это подчеркивает серьезные недостатки в работе систем, которые полагаются на автоматизированные решения.
Этот случай демонстрирует проблему “галлюцинаций” искусственного интеллекта, когда системы выдумывают или неправильно интерпретируют информацию. Подобные ошибки уже происходили и ранее, в частности, когда система Apple ошибочно транскрибировала слово “расист” как “Трамп”. Это поднимает вопрос о ответственности разработчиков за качество и этичность своих продуктов.
Необходимость совершенствования технологий
Хотя Apple признала, что точность транскрипции зависит от качества записи, компания не прокомментировала конкретный инцидент. Эксперты подчеркивают важность внедрения гарантий для предотвращения подобных ошибок в будущем. Этот случай стал еще одним свидетельством того, как искусственный интеллект, несмотря на свой большой потенциал, все еще нуждается в совершенствовании и более тщательном контроле.
“Этот случай показывает, как важно совершенствовать технологии искусственного интеллекта для избежания подобных ситуаций”