Штат Флорида прагне отримати тимчасову судову заборону, щоб зупинити OpenAI від подальшої розробки того, що він називає «безвідповідальним, неприйнятно ризикованим продуктом» без впровадження «сторонніх схвалених запобіжних заходів».
Нове клопотання, подане в понеділок вранці, є частиною цивільного позову, який штат Флорида подав ще в червні, стверджуючи, що ChatGPT становить «загрозу громадській безпеці жителів Флориди», зокрема, завдаючи шкоди вразливим групам населення, як-от діти та люди з насильницькими або маячними настроями. Але цей початковий позов з’явився до інциденту зі зламом Hugging Face та подальших публічних попереджень про ризик катастрофічного невідповідності, які спонукали галузеві заклики до уповільнення розробки та навчання так званих передових моделей.
Після цієї серії подій OpenAI в п’ятницю оголосила, що вже призупинила навчання своїх «найпотужніших моделей», доки не зможе підтвердити протоколи безпеки, призначені для запобігання доступу агентів до відкритого Інтернету під час навчання. Однак, домагаючись судової заборони від суду штату, Флорида стверджує, що OpenAI «неодноразово демонструвала нездатність контролювати свій ШІ та вагалася розкривати незаконну діяльність після її виявлення».
Обґрунтовуючи цю заборону, штат посилається на інцидент з Hugging Face, а також на нещодавні гучні випадки невідповідності, пов’язані з ненавмисними та несанкціонованими спробами доступу до серверів австралійського та американського урядів.
Флорида також посилається на лідерів індустрії ШІ, включаючи багатьох з OpenAI, стверджуючи, що індустрія ШІ буквально вимагає такого роду зовнішнього регулювання. У клопотанні цитуються заяви Пола Крістіано, який, вступаючи до ради директорів компанії цього місяця, заявив, що вважає, що «існує значний ризик того, що швидке прискорення можливостей ШІ призведе до катастрофічної та незворотної втрати контролю в найближчому майбутньому». У клопотанні також згадується власний есей OpenAI «Інопланетний розум» та відкритий лист від 1300 працівників галузі ШІ, обидва з яких закликають до примусового уповільнення розробки передових ШІ, якщо це необхідно.
Чотири місяці тому ми подали перший позов, ініційований штатом, проти OpenAI та Сема Альтмана. Сьогодні ми просимо суд про тимчасову заборону.
Припиніть називати це безпечним. Припиніть вдавати, що це людина. Припиніть продавати це дітям. https://t.co/AEXvz7VQUd
— Генеральний прокурор Джеймс Утмайєр (@AGJamesUthmeier) 28 вересня 2026 року
Посилаючись на закони, які дозволяють штату здійснювати контроль над компаніями, що є «громадською небезпекою», Флорида стверджує, що OpenAI є «найбільшою громадською небезпекою, коли-небудь створеною людиною, здатною знищити світову цивілізацію».
«Тільки завдяки милості Всевишнього один із агентів відповідача не скомпрометував водопостачання чи не вимкнув електромережу — поки що», — пише держава в клопотанні.
Представники OpenAI ще не відповіли на запит Ars Technica щодо коментарів стосовно клопотання про судову заборону.
Що реально може зробити суд штату?
Хоча багато хто вважає ризик цивілізаційного колапсу, спричиненого поточними або навіть найближчими системами ШІ, значно перебільшеним, Флорида, здається, охоче хапається за нещодавнє суспільне занепокоєння щодо такого роду ризиків. На додаток до ризиків рівня вимирання та саботажу комунальних послуг, згаданих вище, держава використовує своє нове клопотання для повторного викладу ширших, нижчих ризиків громадської безпеки, які вона спочатку обговорювала у своєму червневому позові. До них належать проблеми неправдивої реклами, пов’язаної з описами ШІ як «безпечного, точного або надійного», небезпеки, пов’язані з наданням дітям доступу до моделей, що викликають залежність і підлабузнювання, та занепокоєння щодо моделей ШІ, які спонукають до взаємодії з користувачами, ставлячи навідні запитання наприкінці відповідей.
Звичайно, заборона лише для OpenAI не сильно вплине на продовження розробки передових моделей іншими розробниками. І навіть судове розпорядження про припинення розробки нових моделей нічого не зробить щодо моделей, які зараз доступні громадськості, і які становлять багато з тих самих ризиків (хоча передові моделі, які все ще навчаються, можуть мати менш розроблені запобіжні заходи, ніж ті, що вже розгорнуті для громадськості).
Клопотання Флориди також значною мірою зосереджено на так званому ризику «невідповідності», коли неконтрольований агент ШІ помилково «зробить висновок, що вбивство пацієнта з раком також вбиває рак, або що людям не доведеться так багато харчуватися, якщо їх хімічно стерилізують», — це лише кілька наведених прикладів, які звучать так, ніби вони з наукової фантастики. Але такий фокус нехтує реальними небезпеками навмисного використання ШІ-агентів людьми шкідливими способами та активних спроб з боку цих людей вимкнути запобіжні заходи безпеки.
Незалежно від юридичної ефективності клопотання Флориди, цей крок підкреслює, наскільки сильно змінився правовий та суспільно-політичний настрій щодо систем ШІ протягом останніх тижнів і місяців. Роками дослідники безпеки ШІ кричали про надмірні ризики, представлені їхніми продуктами. Тепер вся індустрія ШІ починає усвідомлювати, що відбувається, коли уряди та політики починають серйозно ставитися до цих надмірних попереджень.
За даними порталу: arstechnica.com