Google оголосив про оновлення свого чат-бота Gemini, щоб краще направляти користувачів до ресурсів психічного здоров’я під час кризових ситуацій. Це рішення з’явилося на фоні позову про неправомірну смерть, в якому стверджується, що чат-бот “направляв” чоловіка до самогубства.
Коли розмова вказує на те, що користувач може бути в кризі, пов’язаній із самогубством або самопошкодженням, Gemini вже запускає модуль “Допомога доступна”, який направляє користувачів до ресурсів кризового психічного здоров’я, таких як гарячі лінії або текстові служби підтримки. Google стверджує, що оновлення — це насправді більше редизайн, який спростить цей процес до “одного дотику”, що дозволить користувачам швидше отримувати допомогу.
Модуль допомоги також міститиме більш емпатійні відповіді, розроблені “для заохочення людей шукати допомогу”. Після активації “можливість звернутися за професійною допомогою залишиться чітко доступною” протягом решти розмови.
Google заявив, що співпрацював з клінічними експертами для редизайну та зобов’язується підтримувати користувачів у кризі. Компанія також оголосила про виділення 30 мільйонів доларів (приблизно 1,2 мільярда грн) на глобальні гарячі лінії протягом наступних трьох років.
Як і інші провідні постачальники чат-ботів, Google підкреслив, що Gemini “не є заміною професійної клінічної допомоги, терапії або кризової підтримки”, але визнав, що багато людей використовують його для отримання інформації про здоров’я, включаючи під час кризових ситуацій.
Це оновлення відбувається на фоні ширшого контролю за тим, наскільки адекватні захисти в індустрії. Звіти та розслідування, включаючи наше дослідження про надання кризових ресурсів, часто вказують на випадки, коли чат-боти не справляються з вразливими користувачами, допомагаючи їм приховувати розлади харчування або планувати насильство. Google часто показує кращі результати, ніж багато конкурентів у цих тестах, але не є ідеальним. Інші компанії штучного інтелекту, включаючи OpenAI та Anthropic, також вжили заходів для покращення виявлення та підтримки вразливих користувачів.
Цікавий факт
В Україні існує безкоштовна гаряча лінія для підтримки психічного здоров’я, яка працює цілодобово, надаючи допомогу людям у кризових ситуаціях.
