Вчений Microsoft і дослідник Йоркського університету Адріан де Вінтер нещодавно вирішив протестувати GPT-4, запустивши Doom без попереднього навчання. За результатами цього експерименту було зроблено висновок, що GPT-4 може грати в Doom з певним ступенем ефективності без попереднього навчання. Хоча для цього потрібен інтерфейс GPT-4V для бачення штучного інтелекту та додавання Matplotlib і Python, щоб уможливити введення штучного інтелекту.
ШІ GPT-4 під час гри в Doom може відкривати двері, битися з ворогами та стріляти зі зброї. Основні функції ігрового процесу, включно з навігацією по світу, використовуються майже всі. Однак штучний інтелект не має відчуття постійності об’єкта — як тільки ворог виходить за межі кадру, штучний інтелект більше не усвідомлює цього взагалі. Попри те, що включено інструкції щодо того, що робити, якщо закадровий ворог завдає шкоди, модель не може реагувати ні на що за межами її вузького візуального діапазону.
Говорячи про етичні висновки свого дослідження, Де Вінтер зауважує:
«Дуже тривожно, наскільки легко мені було створити код, щоб змусити модель стріляти в щось, а для моделі ─ точно стріляти у щось, фактично не вгадуючи вказівки».
Він вважає, що модель фактично не усвідомлює, що вона робить, тому важливо з обережністю використовувати такі моделі, щоб уникнути зловживань.
Той факт, що GPT-4 не вагалася стріляти в об’єкти у формі людей викликає занепокоєння. Схоже, настав час запроваджувати «Закони робототехніки» Айзека Азімова у всі моделі штучного інтелекту.
Джерело: tomshardware