Розмови з чат-ботом Google з’явилися у результатах пошуку за поширеними запитами – проблема, за словами керівництва компанії, була помилкою. Про це повідомляє Fastcompany.
Чат-боти на основі штучного інтелекту розроблені, щоб бути завжди доступними порадниками, які забезпечать наступну еру продуктивності. Але у них проблеми з конфіденційністю, про що свідчить нещодавній помилковий крок Google.
Пошуковий гігант, який розробив свій чат-бот Bard AI у відповідь на появу ChatGPT від OpenAI наприкінці минулого року, ненавмисно зливав розмови користувачів із чат-ботом у результати пошуку.
SEO-консультант Гаган Готра вперше порушив питання про те, що URL-адреси, які посилаються на розмови користувачів із Bard, відображаються в пошуковому індексі Google – базі даних вебсайтів, які пошукова система сканує, щоб надати відповіді на запити користувачів.
Готра поділився скриншотом, на якому показано приватні розмови користувачів із Bard, які просять поради щодо того, як розпізнати видр у Сінгапурі та як використовувати Bard, щоб покращити свій текст. Якщо натиснути на зазначені покликання, вони переведуть до запису розмови іншого користувача з Bard на цю тему.
Пітер Лю, науковий співробітник Google DeepMind, пояснив, що розмови в чаті, які з’являються у результатах пошуку, раніше надавалися іншим користувачам за допомогою функції «Поділитися», поширеної в чат-ботах зі штучним інтелектом, яка дозволяє користувачам надавати покликання на людей за власним вибором.
Лю критикували за те, що деякі вважали спробою применшити серйозність порушення довіри користувачів до конфіденційності. Критики припустили, що користувачі, які ділилися покликаннями на свої чати, робили це лише з вузьким колом людей, яких вони обрали, а не з усіма в Інтернеті.
«Усе, що ви говорите Bard, є конфіденційним за замовчуванням, але є функція, яка дозволяє вам поділитися цією розмовою», – каже Саймон Віллісон, критик ШІ та творець Datasette.
Він вказує на текст, який використовується в інтерфейсі користувача для функції Share with Bard. Це означає, що лише люди, яким ви надішлете покликання, зможуть побачити вашу переписку з чат-ботом.
Це формулювання, каже Віллісон, передбачає, що є межа того, куди потрапить розмова.
«Ваше спільне покликання, яке відображається у випадкових пошуках, є порушенням ваших очікувань, коли ви використовували функцію спільного доступу», – зазначив він.
Віллісон зауважив, що у сервісі ChatGPT є схожа кнопка «Поділитися».
«Але ChatGPT, як і має бути, включає код у HTML, щоб блокувати спільний контент від індексування пошуковими системами. Google Bard, очевидно, забув включити це, і в результаті Google Search почав підіймати ці розмови», – наголосив критик ШІ.
«Це дуже відрізняється від того, що Google робить із такими продуктами, як Google Docs і Google Drive», – каже Маргарет Мітчелл із компанії Hugging Face, яка займається штучним інтелектом.
Посадовиця зазначила, що в цих інших продуктах для корпоративних користувачів параметри спільного доступу попереджають вас про ризики ділитися контентом із людьми за межами доменного імені вашої організації.
Першою реакцією Мітчелл, коли Fast Company показала, що сталося, був шок. У Google відмовилися коментувати цю історію, але вказали на твіт від Денні Саллівана, представника компанії з питань пошуку, який визнав, що це була помилка.
«Bard дає змогу людям ділитися чатами, якщо вони хочуть. Ми також не маємо наміру, щоб ці спільні чати індексувалися Пошуком Google. Зараз ми працюємо над тим, щоб заблокувати їх індексацію», – написав Салліван.
Нещодавні дослідження показують, що користувачі готові ділитися особистою ідентифікаційною інформацією з ChatGPT.
Швидкі дії Google щодо усунення порушення конфіденційності заслуговують на схвалення, каже Віллісон, але підкреслює ширшу проблему ШІ-перегонів, у які зараз залучені Google, Microsoft, OpenAI та низка інших компаній.
«Це гарна ілюстрація того, як усі три компанії рухаються з шаленою швидкістю, щоб конкурувати між собою. Також це збільшує ймовірність того, що помилки, подібні цій, проникнуть у виробництво», – акцентував творець Datasette.
Раніше ми розповідали, що чат-бот з ШІ від Google отримав унікальне оновлення.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодну публікацію!
