Пошуковий гігант , який розробив свій чат-бот Bard AI у відповідь на появу OpenAI ChatGPT наприкінці минулого року, ненавмисно зливав розмови в результати пошуку — проблему, яку зараз вирішують після оприлюднення.
Проблема ускладнюється тим фактом, що включення розмов у чаті в результати пошуку, було задумано, і приклад нормальної роботи функції Share — суперечить тому, що було раніше.
«Це дуже відрізняється від того, що Google робить із такими продуктами, як Google Docs і Google Drive», — каже Маргарет Мітчелл із компанії Hugging Face, яка займається штучним інтелектом, і зазначає, що в цих інших продуктах для корпоративних користувачів параметри спільного доступу попереджають вас про ризики ділитися вмістом з людьми за межами доменного імені вашої організації.
Ця невідповідність між тим, що Google робив раніше, і тим, що, здається, робить зараз, збиває з пантелику звичайних користувачів. Для користувачів, які очікують узгодженості або припускають базову конфіденційність, узгоджену з нормами, які Google уже встановив у своїх продуктах, це моторошно та підступно.
“Той, хто це схвалив, не відповідає тому, що вже відомо про конфіденційність у Google. Або навмисно перевизначати його, що є досить інтенсивним кроком для того, що Google визнає експериментом”.
Першою реакцією Мітчелла, коли Fast Company показала , що сталося, був шок. Представник Google відмовився коментувати запис цієї історії, але вказав на твіт Денні Саллівана, представника компанії з питань пошуку, який, схоже, визнав, що це була помилка.
«Bard дозволяє людям ділитися чатами, якщо вони хочуть», — написав Салліван. «Ми також не маємо наміру, щоб ці спільні чати індексувалися Пошуком Google. Зараз ми працюємо над тим, щоб заблокувати їх індексацію».
Це питання викликає занепокоєння через те, як користувачі прийняли чат-ботів штучного інтелекту як сповідальню 21 століття. Нещодавні дослідження показують, що користувачі готові ділитися особистою ідентифікаційною інформацією з ChatGPT, тоді як Ліліан Венг, співробітниця власної команди безпеки AI OpenAI, цього тижня припустила , що користувачі можуть спробувати використовувати чат-бот її компанії як альтернативу терапевту. Ризик того, що ці розмови стануть публічними, схоже, не було враховано.
Швидкі дії Google щодо усунення порушення заслуговують похвали, каже Віллісон, але підкреслює ширшу проблему гонки за перевагу штучного інтелекту, в яку зараз залучені Google, Microsoft, OpenAI та низка інших компаній. «Це гарна ілюстрація того, як усі три компанії рухаються з шаленою швидкістю, щоб конкурувати одна з одною, — каже він, — що збільшує ймовірність того, що помилки, подібні цій, проникнуть у виробництво».
