«Google Фото» почне позначати зображення, відредаговані за допомогою ШІ
Google оголосила, що з наступного тижня сервіс “Google Фото” почне повідомляти користувачів про те, чи було зображення змінено або об’єднано з іншим зображенням за допомогою штучного інтелекту. Метою цього кроку є забезпечення максимальної прозорості використання інструментів генеративного ШІ та достовірності даних.
За словами директора з розробки Google Photos Джона Фішера (John Fisher), “зображення, відредаговані за допомогою таких інструментів, як Magic Editor, Magic Eraser і Zoom Enhance, уже містять метадані, що базуються на технічних стандартах Міжнародної ради з телекомунікацій преси (IPTC), які вказують на використання генеративного ШІ”. Однак тепер інформація з’являтиметься і в “Google Фото” – поруч з ім’ям файлу, місцем розташування і статусом резервного копіювання. Нова функція “AI info” буде доступна як у веб-версії, так і в мобільному застосунку.
Система маркування поширюватиметься не тільки на генеративний ШІ, а й на випадки, коли в одному зображенні комбінуються елементи з кількох фотографій, наприклад, при використанні функцій Best Take і Add Me на смартфонах Pixel. При цьому, як пише The Verge, ці метадані можуть бути легко обійдені тими, хто навмисно хоче приховати сліди редагування.
Фішер підкреслює: “Робота в цьому напрямі не завершена, і ми продовжимо збирати відгуки та оцінювати додаткові рішення для підвищення прозорості редагування за допомогою ШІ”. Раніше метадані, пов’язані з інструментами ШІ Google, були практично невидимі для користувачів. Наприклад, інструмент Magic Editor дає змогу додавати згенеровані ШІ об’єкти на зображення, яких не було в реальній сцені, що може вводити в оману інших користувачів.
У той час як Google і Samsung надають можливості ШІ-редагування, Apple вирішила не використовувати фотореалістичний контент у своїх інструментах генерації зображень (вони будуть представлені в iOS 18.2). Крейг Федерігі (Craig Federighi) з Apple висловив стурбованість тим, що ШІ може вплинути на достовірність фотографій. Загалом, ретушування фотографій – не нова практика, але сучасні інструменти генеративного ШІ роблять створення переконливих фальсифікацій надто вже легким і доступним.