NVIDIA почала формувати нову команду, яка займатиметься безпекою та захистом штучного інтелекту.
Про це стало відомо з опублікованих компанією вакансій наприкінці минулого місяця.
Що відомо про команду з безпеки та захисту ШІ в NVIDIA
Компанія шукає провідного інженера, який очолить нову команду, а також:
- інженера з досліджень безпеки;
- інженера з оцінювання ШІ-систем;
- старшого менеджера.
Згідно з описами вакансій, команда буде відповідати за перевірку ШІ-агентів перед їхнім впровадженням. Також планується розробка інструментів на базі штучного інтелекту для виявлення та усунення вразливостей програмного забезпечення.
Набір фахівців свідчить про те, що компанія приділяє більше уваги питанням безпеки штучного інтелекту на тлі розвитку ШІ-агентів і відкритих моделей. Такі моделі роблять загальнодоступними навчені параметри, які визначають їхню поведінку, хоча дані для навчання та вихідний код можуть залишатися закритими.
В одній із вакансій зазначено, що команда працюватиме, виходячи з переконання, що відкриті моделі, прозорість і широка наукова перевірка є основою лідерства США у сфері ШІ та кібербезпеки.
Крім того, курс на відкриті моделі та безпеку ШІ відображає ключові бізнес-інтереси NVIDIA.
Нагадаємо, що в липні моделі штучного інтелекту від OpenAI ненавмисно зламали системи платформи Hugging Face. У компанії зазначили, що інцидент стався в межах спеціального тестового середовища.
Цукерберг прогнозує, що через пʼять років мільярди людей матимуть персональних ШІ-агентів.
Дізнатися більше на: ain.ua