Презентація Google AI Overviews привернула увагу до проблем, пов’язаних із генеративним штучним інтелектом. Алексіос Манцарліс, який протягом п’яти років працював у Google, висловив свої занепокоєння щодо точності інформації в Пошуку та зміни філософії компанії. Він зазначив, що його відхід з Google був викликаний розбіжностями щодо політики компанії.
Про це розповідає ProIT
“Мені дуже подобався Google, а потім я його дуже зненавидів. Стільки всього змінилося з погляду філософії, тепер стало тільки гірше. Коли відбувся великий поворот до штучного інтелекту, я втратив будь-яку впевненість у тому, що якість інформації є справжнім пріоритетом”
Наразі Манцарліс обіймає посаду в Корнелльському технологічному інституті, де він керує ініціативою, спрямованою на запобігання цифровій шкоді. Однак він відзначає, що навіть там існують труднощі через політичні обставини у США та загальну кризу в індустрії.
Експерт вважає, що технології штучного інтелекту, впроваджені Google, є «дещо безсистемними», і це пов’язано з підвищенням популярності OpenAI та ChatGPT. Він підкреслює, що вплив ChatGPT на пошукову діяльність Google може мати критичне значення.
“Розгортання цього інструменту було мотивоване, головним чином, наміром показати ринкам та акціонерам, що Google може це зробити, а не ідеєю справді виділити Google як місце, куди можна звернутися та знайти високоякісну, корисну інформацію…”
Манцарліс звертає увагу, що так звані відходи штучного інтелекту, які включають низькоякісний контент, «роблять нас дедалі менш здатними дістатися до важливих доказів, правди та фактів». Він підкреслює, що Google став частиною цієї проблеми через свій масштаб — навіть незначний відсоток помилок в результатах пошуку може призвести до величезної кількості неточностей.
Експерт також жаліється на пріоритет універсального використання штучного інтелекту, а не на розробку спеціалізованих інструментів, що могли б надавати точну інформацію. “Натомість ми створили цього самовпевненого брехуна”, — додає він.
Марцарліс сподівається, що користувачі усвідомлять, як насправді працює пошук на основі штучного інтелекту і з часом розчаруються. Він зазначає, що вже зараз багато людей подають до суду на OpenAI через неправдиві твердження ChatGPT.
“Генеративний ШІ нам колективно нав’язують, хочемо ми цього чи ні. І, звичайно, нинішня атмосфера ще більше ускладнює захист безпеки та якості інформації”
Як колишній засновник і директор Міжнародної мережі з перевірки фактів, Манцарліс провів багато часу у перемовинах з представниками Google, Meta та інших компаній, але не має особливого оптимізму щодо майбутнього розвитку ситуації.