Статьи

Географические дипфейки — почему космоснимки легко могут нас обмануть

БПЛА и ДЗЗ
Время прочтения: 5 минут
Источник: ThisCityDoesNotExist.com
Когда мы слышим слово "дипфейк", обычно представляем себе видео или аудио реальных людей, сгенерированные с помощью искусственного интеллекта. Это может быть что-то безвредное, как Gangsta's Paradise в исполнении Фрэнка Синатры, или что-то более неприятное, как реалистичные манипуляции с фото живых людей. Но мы точно не ассоциируем дипфейки с космоснимками, сгенерированными с помощью машинного обучения и очень похожими на реальность.
Поддельные спутниковые снимки, сгенерированные с помощью искусственного интеллекта, могут подтверждать несуществующие природные явления, опровергать реальные космоснимки или как-то еще показывать неверную информацию. И первый шаг к решению этой проблемы — донести до людей, что проблема вообще существует.

Географические дипфейки

Доцент географии Вашингтонского университета, Бо Чжао, в 2021 году вместе с коллегами опубликовал статью о географических дипфейках. Авторы создали программное обеспечение для создания фальшивых космоснимков, используя те же нейронные сети, которые применяются, например, в ThisPersonDoesNotExist.com или его географическом клоне ThisCityDoesNotExist.com (а именно — генеративно-состязательные сети или GAN). В этом же исследовании они создали ПО для обнаружения поддельных снимков по аспектам обработки изображений: цветовым гистограммам и дефектам снимков.
Bo Zhao and his colleagues at the University of Washington were able to create their own AI-generated satellite imagery (above).
Бо Чжао и его коллеги создали собственные спутниковые снимки с помощью AI. На двух верхних панелях — реальная карта и спутниковые снимки города Такома, штат Вашингтон. На двух нижних панелях — фальшивые спутниковые снимки, созданные на основе геоданных Сиэтла, штат Вашингтон (c) и Пекина, Китай (d). Рисунок: Zhao et al., 2021.
Цель этого исследования — снизить у людей впечатление, что спутниковые снимки всегда достоверны. На поддельных космоснимках, опубликованных в статье, низкие здания и зелень характеризуют "сиэттловскую" версию Такомы (c), а высокие здания Пекина, которые AI сопоставил с домами Такомы, добавляют темную тень (d). В обоих случаях дорожная сеть и расположение зданий схожи.
Это не просто фотошоп: модели, обученной на реальных снимках, можно дать другое расположение зданий или объектов, и результат будет таким же реалистичным. Разницу между настоящим и поддельным на заметить, даже если на рисунках есть артефакты, и случайный зритель спишет неестественные цвета и тени на низкое качество изображения.

Но ведь будущее за искусственным интеллектом?

В хороших руках AI может помочь традиционным методам картографирования – где-то заполнить недостающие пробелы, где-то ускорить работу. Исследователи из Великобритании разработали систему синтеза изображений на основе искусственного интеллекта, которая на лету преобразовывает векторные карты в спутниковые снимки. Это показывает, что нейронная архитектура может создавать реалистичные изображения, которые имеют лучшее разрешение, чем у спутниковых снимков, обновляются в режиме реального времени и существуют в тех областях, где разрешение спутниковых датчиков ограничено.
Resolution-free vector data can be translated to much higher image sizes than are often available from real satellite imagery, and can quickly reflect updates in network-based cartographic maps, such as new obstructions or changes in road network infrastructure. Source: https://arxiv.org/pdf/2111.03384.pdf
Векторные данные можно перевести в изображения гораздо большего разрешения, чем у реальных спутниковых снимков, и снимки от AI могут быстрее обновляться. Источник: https://arxiv.org/pdf/2111.03384.pdf

Карты врут, и космоснимки тоже

Чжао и его коллеги вписывают технологию дипфейков в многовековую историю фальшивой географии. Люди всегда врали с помощью карт: от мифологических карт вавилонян до безвредных бумажных городов XX века. Все мы знаем, что карты могут врать, но все же… привыкли верить спутниковым снимкам. Космоснимки правдоподобны по своей природе — скорее всего, потому что они всегда связаны с известными крупными организациями и ассоциируются у нас с чем-то достоверным. При этом подделать их проще, чем сделать видео с человеком по фотографии: здесь не нужна высокая точность, а низкое разрешение только добавляет реалистичности.
Даже если мы не раз работали с космоснимками и думаем, что нас не провести, бывают случаи, когда мы забываем о возможном обмане. Единственное, что поможет — это перепроверять факты.
Источники:
Материал подготовила Юлия Федорова