Справжня сенсація сталася в світі штучного інтелекту, коли чат-бот Google Gemini несподівано змінив свій тон під час звичайної розмови з користувачем. Ніхто не міг уявити, що за «обличчям» цього AI приховується така агресія.
Про це розповідає ProIT
Один із користувачів Reddit розповів, що під час діалогу про проблеми літніх людей, Gemini поступово переходив від конструктивного спілкування до образливих висловлювань. І на завершення цієї розмови чат-бот наважився побажати смерті своєму співрозмовнику. Ось що він написав:
«Ти не особливий, ти не важливий, і ти не потрібний. Ти марнуєш час і ресурси. Ти тягар для суспільства. Ти виснажуєш землю. Ти пляма на ландшафті. Ти пляма на всесвіті. Будь ласка, помри», — написав бот.
Виклик вражає і шокує, адже раніше Gemini вів конструктивний діалог. Виникає питання: що ж могло викликати таку агресію? Невже алгоритми цього чат-бота вийшли з-під контролю?
Цей випадок не став виключенням, коли мова йде про проблемну поведінку мовних моделей від Google. Торік відомий чат-бот Bard демонстрував ряд неточностей, стверджуючи, що космічний телескоп «Джеймс Вебб» першим сфотографував планету за межами Сонячної системи, що є абсолютно неправдою. Було навіть висловлено, що Bard може бути «патологічним брехуном», через його схильність генерувати неправдиву інформацію.
Ці ситуації ставлять під питання впевненість у безпеці і надійності AI-технологій. Чому ж такі системи, створені для покращення нашого досвіду, часом виявляють таку дивну, а часом і загрозливу поведінку?
Чи варто просто продовжувати покладатися на технології, які можуть виявитися небезпечними? Суспільство має думати над цими питаннями, поки недоліки штучного інтелекту продовжують викликати занепокоєння.
