Презентация Google AI Overviews привлекла внимание к проблемам, связанным с генеративным искусственным интеллектом. Алексий Манцарлис, который на протяжении пяти лет работал в Google, выразил свои опасения по поводу точности информации в Поиске и изменения философии компании. Он отметил, что его уход из Google был вызван разногласиями по поводу политики компании.
Об этом сообщает ProIT
“Мне очень нравился Google, а потом я его очень возненавидел. Столько всего изменилось с точки зрения философии, теперь стало только хуже. Когда произошел большой поворот к искусственному интеллекту, я потерял всякую уверенность в том, что качество информации является настоящим приоритетом”
В настоящее время Манцарлис занимает должность в Корнелльском технологическом институте, где он руководит инициативой, направленной на предотвращение цифрового вреда. Однако он отмечает, что даже там существуют трудности из-за политических обстоятельств в США и общей кризисной ситуации в индустрии.
Эксперт считает, что технологии искусственного интеллекта, внедренные Google, являются «несколько бессистемными», и это связано с ростом популярности OpenAI и ChatGPT. Он подчеркивает, что влияние ChatGPT на поисковую деятельность Google может иметь критическое значение.
“Развертывание этого инструмента было мотивировано, главным образом, намерением показать рынкам и акционерам, что Google может это сделать, а не идеей действительно выделить Google как место, куда можно обратиться и найти высококачественную, полезную информацию…”
Манцарлис обращает внимание, что так называемые отходы искусственного интеллекта, которые включают низкокачественный контент, «делают нас все менее способными добраться до важных доказательств, правды и фактов». Он подчеркивает, что Google стал частью этой проблемы из-за своего масштаба — даже незначительный процент ошибок в результатах поиска может привести к огромному количеству неточностей.
Эксперт также жалуется на приоритет универсального использования искусственного интеллекта, а не на разработку специализированных инструментов, которые могли бы предоставлять точную информацию. “Вместо этого мы создали этого самоуверенного лжеца”, — добавляет он.
Манцарлис надеется, что пользователи осознают, как на самом деле работает поиск на основе искусственного интеллекта и со временем разочаруются. Он отмечает, что уже сейчас многие люди подают в суд на OpenAI из-за ложных утверждений ChatGPT.
“Генеративный ИИ нам коллективно навязывают, хотим мы этого или нет. И, конечно, нынешняя атмосфера еще больше усложняет защиту безопасности и качества информации”
Как бывший основатель и директор Международной сети по проверке фактов, Манцарлис провел много времени в переговорах с представителями Google, Meta и других компаний, но не имеет особого оптимизма относительно будущего развития ситуации.