Майже щодня, прокидаючись, я читаю новину про компанію, яка вкладає мільйони або мільярди доларів в інтеграцію ШІ у свою робочу силу. Це відбувається переважно тому, що бізнеси не хочуть відставати, навіть якщо вони не до кінця розуміють, що саме їм може бракувати. Однак генеральний директор Microsoft Сатья Наделла попереджає, що якщо компанії покладаються на одну-єдину модель ШІ, вони ризикують «перестати існувати».
На відміну від деяких конкурентів, Microsoft обрала інший підхід: вона дозволяє компаніям, що використовують Microsoft 365 Copilot, самостійно обирати моделі, включно з моделями від OpenAI та Claude. Це, ймовірно, пояснює, чому Сатья Наделла нещодавно заявив, що компаніям ніколи не слід ставати залежними від однієї моделі ШІ.
У подкасті з CNN журналіст Фарідом Закрією зазначив, що кожного разу, коли ви користуєтеся ШІ, ви надаєте компаніям, що розробляють ШІ, свої дані. Ці дані можуть включати ваші знання, хід думок, ідеї та бачення.
«Вони, по суті, крадуть це і покращують свої моделі», — сказав Закрія, і це те, що, ймовірно, викликає занепокоєння у багатьох з нас.
Ви можете відмовитися від навчання моделей, але ми також не можемо сліпо припускати, що кожна компанія, що займається ШІ, завжди діятиме саме так, як очікують користувачі. Зрештою, компанії вже звинувачували в тому, що вони купують книги, тренують на них свої моделі, а потім знищують фізичні копії, тому галузь вже мала чимало етичних суперечок.
Сатья Наделла, схоже, погоджується з цією думкою.
«Абсолютно», — відповів генеральний директор Сатья Наделла на запитання, чи повинні компанії та споживачі мати контроль над цим.
«Моя теза проста: якщо компанія повинна існувати, давайте залишимо споживчі ринки поза увагою, оскільки певною мірою повинна бути певна обмінна цінність у споживчому просторі, де ви отримуєте щось безкоштовно, можливо, за свої дані», — сказав Наделла.
«Приблизно так працювала бізнес-модель реклами. Тож залишимо це осторонь».
Однак для бізнесу, за словами Наделли, правила повинні бути зовсім іншими, інакше це може поставити під загрозу саме існування компанії. Іронічно, але ці коментарі з’являються в той час, коли Microsoft продовжує просувати Microsoft 365 Copilot у своїх продуктах, від Word і PowerPoint до Windows і OneDrive.
Наделла стверджує, що споживачі та компанії підходять до ШІ дуже по-різному, оскільки компанія створює власні знання, і ці знання повинні залишатися всередині компанії, а не бути прив’язаними до моделі або постачальника ШІ.
«Я — компанія, яка створює знання, і мені потрібно, щоб ці знання залишалися всередині компанії», — пояснив Наделла. «У мене є не тільки людський капітал, але й зростаюча кількість токенного капіталу».
Під «токенним капіталом» Наделла має на увазі знання, які компанія накопичує завдяки використанню ШІ, включаючи контекст навколо запитів, взаємодій та того, як співробітники використовують ці моделі.
«Кожного разу, коли ви використовуєте модель, усі метадані навколо неї зберігаються вами, щоб ви могли використати все це для тренування, можливо, власних вагових коефіцієнтів або власної моделі», — сказав Наделла.
Наделла також не хоче, щоб компанії ставали залежними від однієї моделі ШІ, і, як я зазначав вище, його аргумент узгоджується з підходом, який Microsoft зараз застосовує до Copilot, де компанії можуть обирати між Claude, OpenAI та іншими моделями.
«Будь-яка одна модель може зникнути, а ви все одно зможете контролювати свою долю», — сказав Наделла в подкасті на CNN. «Будь-яка компанія, яка не має такого контролю, я стверджую, перестане існувати, тому що ви, по суті, передали своє мислення на аутсорсинг».
Наделла, здається, значно менше турбується про споживачів, які також можуть передавати свої дані та «віддавати на аутсорсинг» знання несвідомо. Зрештою, якщо передача даних та знань ШІ є проблемою для компанії, важко стверджувати, що така ж турбота повністю зникає для звичайного споживача.
Чи тренує Microsoft свої моделі ШІ на ваших даних?
За словами самої Microsoft, ні, і компанія заявила це через програми Copilot та численні документи підтримки. Однак у вас є можливість надавати деякі дані для тренування.
Наприклад, якщо у вас встановлено додаток Copilot, є дві неактивні перемикачі. Перший — «Тренування на основі активності розмов», а другий — «Тренування на основі голосових розмов».
Отже, якщо ви будете досить люб’язні, ви можете дозволити «розмовам з Copilot допомагати тренувати ШІ», включаючи все, що ви додаєте до чату, наприклад, файли та зображення.
Однак ці перемикачі вимкнені за замовчуванням, тому це не є великою проблемою.
Але нещодавно я помітив, що є третій перемикач під назвою «Додатковий обмін діагностичними даними», який зазвичай увімкнено за замовчуванням. Хоча він не дозволяє моделям ШІ тренуватися на ваших особистих даних, він може надсилати деякі дані для «покращення продуктів Microsoft, включаючи Windows».
«Це включає те, як ви використовуєте браузер, відвідані вами вебсайти та покращену звітність про помилки», — зазначено в описі перемикача.
Я не зміг з’ясувати, чому цей перемикач існує в Copilot для Windows, але якщо він увімкнений на вашому ПК, переконайтеся, що ви його вимкнули, якщо не хочете ділитися цими діагностичними даними. Або ви можете повністю видалити Copilot, якщо взагалі не користуєтеся додатком.
У документі Microsoft стверджує, що моделі ШІ роблять прогнози на основі даних, і для цього вони тренуються на великій кількості інформації, включаючи загальнодоступні дані. Нарешті, модель ШІ «використовує те, що вона вивчила, для генерації відповідей на запитання чи запити», але Microsoft заявляє, що не буде збирати ваші особисті дані без вашої згоди.
Чи погоджуєтеся ви, що ШІ — це «передача мислення на аутсорсинг», і чи повинні такі компанії, як Microsoft, припинити вмикати ШІ за замовчуванням? Дайте знати в коментарях нижче.