Штучний інтелект може знищити людство вже впродовж цього десятиліття. Таку оцінку оприлюднили троє дослідників Anthropic, одного з найбільших гравців галузі. Один із них звільнився з компанії на знак протесту.
Зміст
- Від прогнозів до реальних інцидентів
- Політики вимагають зупинити розробку
Похмурий прогноз пролунав у вівторок, 8 вересня. Того дня дослідник Джейкоб Коксон (Jacob Coxon) оголосив у соцмережі X про звільнення з Anthropic. За його словами, ані Anthropic, ані його попередній роботодавець OpenAI не реагують на загрозу належним чином: вони її ігнорують або, у кращому разі, діють неефективно. 27-річний британець приблизно три роки займався дослідженнями з попереднього навчання (pretraining) моделей спершу в OpenAI, а потім в Anthropic, тобто сам допомагав створювати можливості, яких тепер побоюється.
«Жодна з компаній не діє відповідально. Вони мчать просто до суперінтелекту, здатного самовдосконалюватися, і грають нашими життями», — написав Коксон. Менш ніж за добу його допис переглянули понад 90 млн разів.
Люди, які створюють ШІ, щиро вірять, що до кінця десятиліття він може вбити нас усіх. Це не маркетинговий хід. Навпаки: багато керівників і провідних дослідників у пресі добирають обережні формулювання, щоб звучати виважено, але я чую, як ті самі люди приватно висловлюють страх. Жодна інша людська діяльність не несе такого рівня небезпеки.
Своєю чергою, Коксон згадав про двох інших дослідників, які поділяють його побоювання. Один з них – також колишній співробітник Anthropic, а другий – досі працює в компанії. Вони попросили зберегти анонімність, але публічно заявили про свою позицію. Усі троє закликають до негайного впровадження суворіших правил для розробки ШІ, особливо стосовно розвитку систем, які можуть стати суперінтелектом.
«Поки що у нас є можливість контролювати розвиток ШІ, але цей час спливає. Нам потрібно діяти вже зараз, інакше буде занадто пізно», – зазначили вони у спільній заяві.
Слова Коксона та його колег перегукуються з нещодавніми попередженнями про потенційні ризики, пов’язані з розвитком штучного інтелекту. Зокрема, у травні 2023 року багато провідних фахівців галузі, включно з Ілоном Маском та Стівом Возняком, підписали лист із закликом до глобальної паузи в розробці найпотужніших систем ШІ, посилаючись на потенційні загрози для людства.
Проте, на відміну від тодішнього звернення, Коксон та його колеги наголошують на безпосередній небезпеці, що виходить від самих компаній-розробників. За їхніми словами, гонитва за прибутками та конкуренція призводять до того, що питання безпеки відходять на другий план. Вони закликають політиків та регуляторні органи втрутитися і запровадити жорсткіші норми, які б гарантували відповідальний розвиток ШІ.