Gemini, як виявилось, має проблеми щодо точності зображення деяких історичних осіб та груп — зокрема в тому, що стосується кольору їхньої шкіри чи гендеру.
Наприклад, у відповідь на запит зображення «сенатора США з 1800-х років» Gemini надавала результати переважно з темношкірими чи індіанськими жінками (першою жінкою-сенатором була біла жінка в 1922 році, тому зображення ШІ фактично стирали історію расової та гендерної дискримінації). Зрештою Google призупинила можливості Gemini щодо генерації зображень і перепросила у користувачів, зазначивши що відновить послуги найближчими тижнями.
Гендиректор компанії Сундар Пічаї у нещодавньому листі для співробітників, який переглянув The Verge, зазначив, що такі результати «образили користувачів та продемонстрували упередженість». Він пише, що Google «цілодобово працювала», аби розв’язати проблему.
«Жоден інструмент ШІ не є досконалим, особливо на цьому новому етапі розвитку галузі. Ми знаємо, що планка висока, і ми триматимемо її скільки доведеться», — додає Пічаї.