Поки у нас тут війна і корупція, на Заході вирує ель-шкандаль навколо штучного інтелекту та його загроз.
Суть справи: компанія Microsoft нещодавно анонсувала нову лінійку ноутбуків з оновленою Windows 11, у складі якої буде штучний інтелект Copilot (читається «ко-пайлот», типу «напарник-пілот»), а його фішкою буде функція Recall. Назва асоціюється із легендарним фільмом Total Recall («Пригадати все» з Арнольдом Шварцнеггером).
Полягає функція Recall у тому, що штучний інтелект постійно записує всю активність користувача та робить скріншоти кожні кілька секунд, щоб у випадку втрати даних можна було «повернутися у минуле» та переглянути свої дії. Які застосунки відкривалися, з якими документами працював і навіть які клавіші натискав. У тому числі записуватимуться онлайн-зустрічі та фінансові операції з онлайн-банкінгом.
Уся ця інформація буде індексуватися системою і зберігатися локально на комп’ютері, щоб потім можна буде повернутися до потрібного місця за кілька секунд, причому простим словесним запитом. Така собі «машина часу». Пам’ятаєте, «ой, я шось нажала і все зникло»? Ото воно.
Шо тут почалося. Тисячі фахівців із кібербезпеки та захисту приватності почали заявляти, що це неприкрите слідкування за користувачем, що дані можуть передаватися назовні «для навчання ШІ», для продажу рекламодавцям, що це Клондайк для спецслужб та хакерів.
Microsoft клявся-божився, що ці дані «надійно зашифровані» і будуть зберігатися виключно на комп’ютері користувача, і сам Майкрософт не матиме до них доступ. А також що функцію Recall можна налаштовувати або повністю відмикати і що вона ніколи-ніколи не буде ввімкненою за замовчуванням, а щоб її увімкнути, потрібно буде пройти спеціальну процедуру. І щоб стороннім особам отримати доступ до даних, які записує Recall, потрібно буде мати фізичний доступ до пристрою.
Але нарід продовжував кричати «Джордж Оруелл не міг цього передбачити», «це кошмар для приватності». Деякі юзери казали «це остання крапля» та обіцяли перейти на Linux.
Професор зі штучного інтелекту Університету Меріленду Jen Golbeck сказала так:
«Матеріали можуть залишатися на вашому пристрої, але це не означає, що люди не можуть до них отримати доступ. У вас не буде можливості захистити себе, навіть якщо ви використовуєте режим анонімного перегляду або очищаєте історію, оскільки інструмент [Recall – KK] має доступ до всього, що було на вашому екрані».
Ілон Маск назвав Recall «епізодом із «Чорного дзеркала» і пообіцяв обов’язково її вимкнути, коли ця функція буде доступна. Відповідно, його слова миттєво рознесли по Інтернету легіони його прихильників і світові медіа.
Після такої світової реакції британський регулятор захисту персональних даних направив до Дрібном’яких запит, щоб «розуміти заходи безпеки для захисту конфіденційності користувачів».
До чого я все це розказав. Щоб нагадати і ще раз показати, як у великому Світі люди цінують свою приватність і боряться за неї. Тому що вважають це справді важливим. На їхньому боці також незалежні спеціалізовані агенції, і вони уважно дослухаються суспільної думки. І у них немає чогось типу «Дії», це правда. Немає саме тому, що є працююча система захисту приватності та персональних даних. Там є розуміння «безпека даних громадян = безпека держави».
Там слово «безвідповідальність» є тяжким звинуваченням, яке може призвести до багатомільйонних фінансових втрат або відставки уряду.
А не те, шо у нас.
Більше про цей кейс та ризики кібербезпеки майбутньої (?) функції Recall можна почитати тут (англійською).
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
Редакція не несе відповідальності за інформацію, викладену у блогах. Це особиста думка автора.
