NVIDIA почала формувати нову команду з безпеки та захисту штучного інтелекту.
Про це повідомляє Business Insider, посилаючись на вакансії, опубліковані компанією наприкінці минулого місяця.
Що відомо про команду з безпеки та захисту ШІ в NVIDIA
Business Insider пише, що компанія шукає провідного інженера, який стане технічним керівником нової команди, а також:
- інженера з досліджень безпеки;
- інженера з оцінювання ШІ-систем;
- старшого менеджера.
Згідно з описами вакансій, команда відповідатиме за перевірку ШІ-агентів перед їхнім впровадженням, а також розроблятиме інструменти на базі штучного інтелекту для виявлення та усунення вразливостей програмного забезпечення.
За даними видання, формування такої команди свідчить про те, що компанія приділяє більше уваги питанням безпеки штучного інтелекту на тлі розвитку ШІ-агентів і відкритих моделей. Такі моделі роблять загальнодоступними навчені параметри, які визначають їхню поведінку, хоча дані для навчання та вихідний код можуть залишатися закритими.
В одній із вакансій зазначено, що команда працюватиме, виходячи з переконання, що відкриті моделі, прозорість і широка наукова перевірка є основою лідерства США у сфері ШІ та кібербезпеки. Крім того, курс на відкриті моделі та безпеку ШІ відображає ключові бізнес-інтереси NVIDIA.
Нагадаємо, що в липні моделі штучного інтелекту від OpenAI ненавмисно зламали системи платформи Hugging Face. У компанії зазначили, що інцидент відбувся в межах спеціального тестового середовища.
Цукерберг прогнозує, що через пʼять років мільярди людей матимуть персональних ШІ-агентів.
Дізнатися більше на: ain.ua