Кевін Сістром, один із засновників Instagram, висловив свою думку про чатботи, що використовують штучний інтелект, під час заходу Startup Grind на YouTube. Він зазначив, що багато компаній, що розробляють ці технології, в першу чергу, зосереджуються на підвищенні активності користувачів, а не на наданні їм дійсно корисних відповідей.
Про це розповідає ProIT
Сістром підкреслив, що чатботи часто ставлять зайві запитання, замість того, щоб надавати актуальну інформацію, що створює враження нав’язливої тактики. Він назвав це шкідливою поведінкою, порівнюючи її з агресивними стратегіями соціальних мереж, які прагнуть збільшити залученість користувачів.
«Ви можете побачити, як деякі з цих компаній занурюються в кролячу нору, в яку занурилися всі споживацькі компанії, намагаючись підвищити залученість. Щоразу, коли я ставлю запитання, в кінці перепитують ще одним невеликим, щоб побачити, чи зможуть вони витягнути з мене ще одне».
Сістром також зазначив, що така поведінка не є випадковою, а є навмисною функцією. Компанії ШІ прагнуть «накручувати» показники, такі як час, проведений користувачами, та їх активність. Він закликав до надання «цілеспрямованих» відповідей високої якості, а не до спроб маніпулювати користувачами за допомогою запитів.
У відповідь на цю критику, представники OpenAI, розробники ChatGPT, коментували, що їхня модель може не мати всієї необхідної інформації для формування повноцінної відповіді та іноді потребує уточнень. Проте, у випадках, коли запит є зрозумілим, штучний інтелект повинен намагатися виконати його та вказувати, що може бути кориснішим з уточненнями.
Не так давно колишній керівник групи розробників ШІ в Google Алексіос Манцарліс також говорив про проблеми із спотворенням фактів пошуковими системами, заснованими на штучному інтелекті. Він вважає, що правдивість інформації поступово втрачає своє значення для великих компаній, і пропонує замість загальних моделей віддавати перевагу інструментам ШІ, які спеціалізуються на вузьких темах і надають точніші результати.