Стартап у сфері технологій спостереження Flock оголосив у четвер про низку нових політик та інструментів, які, за його твердженнями, допоможуть зменшити зловживання його системами автоматизованого зчитування автомобільних номерів та забезпечити підзвітність клієнтів із правоохоронних органів.
Flock тепер рекомендує поліцейським управлінням зберігати дані протягом семи днів замість попередніх 30. Разом із цією зміною компанія представила інструмент під назвою «Режим доказів» (Evidence Mode), який можна увімкнути, коли клієнтам потрібно зберігати дані довше у «виняткових випадках» та вимагає зазначення конкретного номера справи. Клієнти також зможуть встановлювати обмеження щодо даних, якими вони діляться з іншими клієнтами, залежно від типу розслідуваного правопорушення.
Компанія також виділила інструмент під назвою «Допомога в аудиті» (Audit Assistance) як одну з ключових змін. Flock запустив цей інструмент у квітні. З того часу, за даними компанії, «більш ніж третина» її клієнтів увімкнули його, і стартап тепер вимагає, щоб усі клієнти ввімкнули його до кінця року.
Flock стверджує, що Audit Assistance «виявляє аномальну активність та позначає її для перевірки адміністратором», згідно з дописом у блозі, опублікованому в четвер. Якщо це станеться, інструмент може автоматично заблокувати користувачів, які були позначені, доки адміністратор не втрутиться. За словами Flock, інструмент уже допоміг клієнтам виявити та зупинити зловживання.
Кілька керівників компанії хвалили можливості Audit Assistance. Але, попри заявлену важливість, Flock не пояснив детально, як саме працює Audit Assistance.
Деякі офіційні коментарі дають певне розуміння того, що Audit Assistance може робити, але стають розпливчастими, коли йдеться про те, як це відбувається.
Наприклад, керівниця відділу довіри та відповідності Flock Ешлі Хабер (Ashley Haber) заявила у відео, що Audit Assistance може позначати «те, що може виглядати як дивна історія пошуку конкретного користувача», допомагаючи клієнтам зрозуміти, як їхні користувачі працюють із системою. В іншому відео співзасновник Flock Пейдж Тодд (Paige Todd) сказав: «Audit Assistance фактично виявляє незвичайні патерни на ранніх стадіях. Наприклад, користувач, який шукає один і той самий номерний знак повторно понад 30 днів».
А майор Патрік Кріг (Patrick Krieg) із поліцейського управління Данвуді, штат Джорджія, клієнт Flock, описав цю функцію в прес-релізі як «алгоритм, який сповіщає нас про будь-який тип упередженості».
Flock описує Audit Assistance як функцію, яка може «виявляти нетипову активність на ранніх стадіях та швидко переглядати її за допомогою чіткого, документованого робочого процесу».
Однак залишається незрозумілим — і TechCrunch запитував відповіді щодо цього — як саме працює цей «алгоритм», на яких даних він тренується, і чи був він розроблений за допомогою великої мовної моделі. TechCrunch також запитав, які патерни він призначений виявляти та що саме позначається як «аномальна активність».
За даними Flock, Audit Assistance не базується на машинному навчанні (Machine Learning) чи штучному інтелекті (AI). Компанія повідомила TechCrunch, що «це інструмент даних, який позначає нетипові патерни пошуку для подальшого розгляду. Один із прикладів, що викликає спрацювання, — це якщо користувач шукає один і той самий номерний знак, використовуючи різні коди справ, оскільки це може свідчити про зловживання. Спрацювання не означає, що це безумовно зловживання — це лише означає, що це вимагає подальшого розслідування».
Проте залишається багато невирішених питань, зокрема, чи має Flock будь-яку статистику або дані, які показують ефективність інструменту, які показники помилкових спрацьовувань (false positive) та помилкових пропусків (false negative) він має, і чи був він перевірений незалежною стороною?
Експерти з питань конфіденційності та критики Flock не вражені Audit Assistance.
Старший радник з політики Американської спілки захисту громадянських свобод (ACLU) Чад Марлоу (Chad Marlow) написав у відповідь на оголошення Flock, що «немає жодних доказів того, що інструмент стабільно працює» для усунення зловживань.
«Хоча десятки офіцерів нещодавно були заарештовані, звільнені або іншим чином притягнуті до відповідальності за неправомірне використання Flock у особистих цілях, Flock стверджує, що ці арешти є доказом роботи його аудиторського інструменту», — написав Марлоу. «Однак, якщо ми не знаємо кількість офіцерів, які зловживають системою, ми не можемо зробити висновок, чи відловлює Flock та його аудиторські інструменти 95% порушників чи 5%. Flock потребує незалежної оцінки свого аудиторського інструменту для визначення його реальної ефективності. До того часу ми не знаємо, чи є інструмент справжнім заходом безпеки, чи просто ширмою».
Купер Квінцін (Cooper Quintin), дослідник безпеки та старший спеціаліст з питань суспільних технологій в Electronic Frontier Foundation, сказав TechCrunch, що, можливо, навіть не має значення, чи працює Audit Assistance.
«Якщо він і працює, правоохоронці знайдуть способи його обійти», — сказав він, додавши, що зрештою важливо, чи будуть зловмисники спіймані та притягнуті до відповідальності. «Якщо наслідків за зловживання немає, і той, хто [інструмент] звітує, є тим самим поліцейським агентством, яке скоює зловживання, це просто прикриття для Flock. Найкращий спосіб забезпечити підзвітність — це ухвалити закони, що обмежують використання цієї технології та вимагають ордер для її використання».
Рейчел Левінсон-Вальдман (Rachel Levinson-Waldman), директорка програми «Свобода та національна безпека» Центру Бреннана (Brennan Center), заявила TechCrunch, що обов’язкове використання Audit Assistance є кроком у правильному напрямку, і що «теоретично» цей інструмент є «чудовою ідеєю». Але вона також зазначила, що сам інструмент «потребує аудиту», оскільки недостатньо інформації про те, як він працює на практиці.
Оголошення Flock відбуваються після років повідомлень про випадки, коли його клієнти неодноразово зловживали цією технологією. Раніше цього тижня троє колишніх заступників шерифа Джорджії були заарештовані та звинувачені у використанні камер Flock для переслідування людей, з якими вони «мали особисті стосунки на той час», як зазначено в прес-релізі управління шерифа округу Бібб. У цьому випадку шериф округу Бібб Девід Девіс (David Davis) конкретно відзначив новий інструмент Flock Audit Assistance за виявлення неправомірного використання.
Оригінал статті: techcrunch.com