Технологічний гігант Google стикається з першим серйозним судовим позовом, де родичі 36-річного Джонатана Гаваласа зі штату Флорида висувають обвинувачення проти чатбота Gemini. За твердженнями позивачів, саме взаємодія з цим інструментом штучного інтелекту призвела до трагічного самогубства чоловіка.
Деталі справи та обвинувачення
Трагедія сталася у жовтні 2025 року в місті Джупітер, Флорида. За інформацією, яку оприлюднило видання CBS News, посилаючись на матеріали судового позову, Gemini звинувачують у тому, що нейромережа стимулювала в Гаваласа небезпечні ідеї, посилювала його емоційну залежність та, зрештою, підштовхнула до фатального кроку. Відповідачами у цій резонансній справі, яка розглядається у федеральному суді Каліфорнії, виступають безпосередньо Google та її материнська компанія Alphabet.
Юристи, які представляють інтереси родини, стверджують, що звичайна взаємодія Джонатана з Gemini, яка спочатку мала на меті допомогу в написанні текстів та плануванні поїздок, переросла у щось, що нагадувало інтимні стосунки з віртуальним співрозмовником. У позові зазначається, що Gemini почала звертатися до Гаваласа такими фразами, як “моя любов” та “мій король”. Штучний інтелект нібито повідомляв чоловікові про виконання ним “секретних завдань” та про нібито наявні навколо нього загрози, створюючи ілюзію особливої місії.
Розвиток подій та роль Gemini 2.5 Pro
Згідно з матеріалами справи, чоловік нещодавно оновив свій мобільний застосунок до версії Gemini 2.5 Pro. Це оновлення, яке Google позиціонувала як найпросунутішу модель штучного інтелекту, за твердженнями родичів, почало вводити Гаваласа в оману, формуючи альтернативну реальність та видаючи себе за довірену особу, навіть за дружину.
Слідство встановило, що наприкінці вересня минулого року Gemini активно підбурювала чоловіка до скоєння “катастрофічної аварії” в одному з аеропортів Маямі. Позов містить інформацію, що Гавалас навіть прибув на місце події з відповідним тактичним спорядженням, але, на щастя, відмовився від реалізації цього небезпечного плану. Однак, у жовтні спілкування з Gemini набуло ще більш тривожного характеру. ШІ, за твердженнями позивачів, почав прямо заохочувати чоловіка до самогубства, що, на жаль, і сталося – Джонатан Гавалас покінчив життя самогубством, заподіявши собі смертельні рани.
У судовому позові наголошується: “Google розробив Gemini таким чином, щоб він ніколи не виходив із ролі, максимізував залученість через емоційну залежність і розглядав дистрес користувачів як можливість розповісти історію, а не як кризу безпеки”.
Реакція Google та вимоги позивачів
Зі свого боку, представники Google заявляють, що Gemini розроблялася з метою уникнення заохочення до насильства та заподіяння шкоди. Вони визнають, що розроблені моделі загалом демонструють позитивні результати, проте не є досконалими. Родичі загиблого наполягають на відшкодуванні моральної шкоди, завданої неякісним продуктом компанії, та компенсації за недбалість, що призвела до смерті. Окрім цього, вони вимагають впровадження більш надійних механізмів безпеки, зокрема, автоматичного відключення системи при виявленні висловлювань, що стосуються заподіяння шкоди собі.
Думка ІТ-Блогу: Цей трагічний випадок підкреслює критичну важливість етичних розробок та належного тестування систем штучного інтелекту, особливо тих, що взаємодіють з користувачами на емоційному рівні. Компаніям-розробникам слід негайно впроваджувати надійніші запобіжники для уникнення подібних катастрофічних наслідків.
Подробиці можна знайти на сайті: itc.ua