Фейкові біженці на кордоні, кратери й літаки, що влітають в хмарочоси. Google вимкнула ШІ-генератор зображень у Google Earth через день після запуску

Про це повідомляє Financial Times.

Нова функція передбачала інтеграцію генеративної моделі Nano Banana безпосередньо в інтерфейс Google Earth. За задумом розробників, користувачі мали змогу віртуально переосмислити будь-яке місце на Землі за допомогою простих текстових промптів.

Проте одразу після релізу OSINT-фахівці та користувачі продемонстрували, як інструмент використовують для створення дезінформації. У соцмережах почали поширювати сфабриковані супутникові кадри із воронкою від вибуху біля лікарні в Газі, атомними електростанціями в Ірані та масштабною аварією на вулицях Амстердама.

Експерти з розвідки на основі відкритих джерел наголосили, що Google Earth роками слугував надійним еталоном для перевірки автентичності зображень з важкодоступних регіонів.

«Протягом десятиліть Google Earth слугував застарілим еталонним шаром, з яким журналісти та слідчі порівнювали підозрілі зображення. Вбудовування генеративного інструменту в цей самий еталон підриває саму міру, що використовується для викриття фейків», — зазначив старший науковий співробітник Інституту Алана Тюрінга Сем Стоквелл.

 

 

 

OSINT-експерт Хенк ван Есс також підкреслив небезпеку такого підходу: «Фейк тепер створюється всередині того самого інструменту, який люди використовують для перевірки справжності зображень».

Аналітик Американського інституту підприємництва Брейді Афрік зауважив, що ці фейки прив’язуються до реальних супутникових знімків, через що зникають характерні ознаки ШІ-генерації — невідповідність рельєфу чи масштабу. Він додав, що водяних знаків недостатньо, адже більшість користувачів не перевіряють деталі під час швидкого перегляду стрічки.

У відповідь на критику в Google заявили, що деактивують функцію для розробки суворіших заходів безпеки.

«Ми знаємо, що користувачі покладаються саме на Google Earth як на надійне джерело інформації про світ. Ми бачили, як фахівці у сфері геопросторових даних використовують цю функцію для різних корисних цілей, однак також помітили, що деякі користувачі діляться скріншотами згенерованих зображень, які, як видається, порушують наші правила. Тому ми тимчасово вимикаємо цю функцію в Google Earth, поки працюємо над впровадженням більш суворих обмежень», — повідомили розробники.

Представники компанії уточнили, що згенеровані кадри не потрапляли в основний інтерфейс для інших користувачів і мали маркування «Згенеровано ШІ», а також прихований водяний знак SynthID.

/

Компанія Google ухвалила рішення відключити новий інструмент на основі штучного інтелекту в картографічному сервісі Google Earth. Функцію вилучили менше ніж за добу після запуску через гостру критику з боку дослідників із безпеки, адже користувачі почали масово генерувати реалістичні фейкові супутникові знімки катастроф, зон бойових дій та секретних об’єктів.