Штучний інтелект (ШІ) нерідко “галюцинує”, тобто генерує вигадану інформацію, і може звинувачувати реальних людей у вигаданих злочинах. Такі випадки стають дедалі частішими, а ефективних рішень проблеми поки що не існує.
Гуглити власне ім’я може бути корисною вправою, адже так можна дізнатися багато цікавого. Аналогічної назви для пошуку інформації про себе в штучному інтелекті ще немає, але коли її вигадають, вона буде не менш важливою, адже люди все частіше ставлять питання ШІ замість пошукових систем.
Саме так учинив норвежець Арве Х’ялмар Холмен, поставивши ChatGPT просте запитання: “who is Arve Hjalmar Holmen?”. У відповідь він отримав інформацію, яка його, м’яко кажучи, шокувала. Згідно з даними ШІ, у 2020 році він убив двох своїх синів і намагався вбити третього, за що отримав 21 рік в’язниці – максимальний термін за подібні злочини у Норвегії.
Головна проблема цієї відповіді полягає в тому, що все це – вигадка.
ШІ докладно описав процес злочину, вигадавши чимало деталей. “Злочин шокував спільноту та всю країну”, – стверджує ChatGPT. Найгірше в цій ситуації те, що ШІ частково використав реальні факти. Зокрема, він правильно вказав кількість та стать дітей Арве, а також назвав містечко, де він мешкає. Це робить “галюцинації” штучного інтелекту ще небезпечнішими.
Юристи Арве дослідили, чи не є така відповідь сумішшю фактів про різних людей. Вони перевірили норвезькі новини за певний період, шукаючи згадки подібних злочинів, але безрезультатно – ChatGPT повністю вигадав історію про реальну людину.
Це не поодинокі випадки. Автор також особисто стикнувся з тим, як ШІ може вигадувати дані. Коли російські війська окупували Запорізьку АЕС, він вирішив записати відео про ЗАЕС і звернувся по допомогу до ChatGPT. У відповідь він отримав великий текст про “Закарпатську атомну електростанцію” з даними про кілька енергоблоків, її розташування, хто і коли її розробляв та будував. ШІ впевнено склав детальний опис повністю вигаданого об’єкта.
Цікаво, що зараз при спробі дізнатися про ЗАЕС ChatGPT надає правильну інформацію, а на запитання про “Закарпатську АЕС” відповідає, що її не існує.
ChatGPT не вперше опиняється в подібній ситуації. Раніше компанія вже була в центрі розслідувань у Польщі та Ірландії. В Італії сервіс навіть тимчасово блокували навесні 2023 року, поки компанія не змінила правила обробки даних реальних людей. Після внесення змін та виплати 15 млн євро штрафу ChatGPT знову запрацював у країні.
Правила GDPR (Загального регламенту про захист даних) чітко вимагають, щоб приватні дані людей були точними, а з цим у ChatGPT, як бачимо, досі великі проблеми. У відповідь на скаргу Арве представники OpenAI в ЄС заявили:
Ми досліджуємо нові способи підвищення точності наших моделей та зменшення “галюцинацій”. Поки ми переглядаємо цю скаргу, це стосується версії ChatGPT, яка з того часу покращилася й може шукати дані в інтернеті, що підвищує точність.
Водночас, звинувачення людей у вигаданих злочинах для ChatGPT – це не рідкість. Наприклад, Браян Худ, мер містечка Хепберн Шир поблизу Мельбурна, дізнався, що ChatGPT звинувачувало його в корупції. Іронічно, що саме Браян, перед тим як стати мером, допоміг викрити хабарництво та інші злочини свого колишнього роботодавця і сприяв засудженню кількох злочинців.
Від ChatGPT не відстають і його конкуренти. Коли німецький журналіст Мартін Бернклау запитав у ШІ Copilot (Microsoft) про себе, ШІ відповів, що це “54-річний дитячий насильник”. ШІ стверджував, що Бернклау втік із психіатричної лікарні, торгував наркотиками та був засуджений за жорстокі злочини. Чатбот також опублікував його реальну адресу та номер телефону, а також порадив маршрут, як дістатися до його будинку.
В ефірі подкасту Law Report на австралійському ABC Мартін пояснив, що всі згадані випадки – це злочини, про які він писав як журналіст.
Розробники ШІ зазвичай швидко реагують на такі звинувачення та коригують відповіді моделей. Так, на запит про Арве зараз ChatGPT вже відповідає, що Арве звинуватив OpenAI у наклепі. Але це не вирішує проблеми: ШІ дійсно може “галюцинувати”. А враховуючи, що переважна більшість людей не перевіряє відповіді ШІ, наслідки таких помилок можуть бути дуже дорогими – зокрема, для репутації людей, а також вимагати значних сил, часу та грошей на юристів.
За даними порталу: tokar.ua